Aporte comunitario

Registro de rendimiento · Dense

Gemma 4 12B

Q4_K_XL en RX 6700 XT

RENDIMIENTO / TOKENS POR SEGUNDORDNA 2
Procesamiento342tok/s
#185 en el índice
Generación de tokens34tok/s
#180 en el índice

Datos de la prueba

Contexto para interpretar los resultados.

CuantizaciónQ4_K_XLVariante enviada
Arquitectura de GPURDNA 2Motor Metal
Contexto de prueba512tokens de prompt
Familia del modeloDenseConfiguración estándar
Versión de ToshLLMSin registrarResultado anterior al registro de versiones
01

Carga estándar

Procesamiento and generation are reported separately so memory bandwidth and decode behavior stay visible.

02

Configuración incluida

La cuantización, familia de GPU, VRAM y contexto acompañan el resultado; no quedan ocultos tras una puntuación única.

03

Procedencia conservada

Este resultado sigue identificado como aporte comunitario.