Resumen de rendimiento comunitario

Gemma 4 12B

16 configuraciones de GPU medidas con este modelo. Compara el hardware, las cuantizaciones y cada resultado registrado.

22 pruebas firmadas · 2 verificadas · 7 testers
Mediana de procesamiento323.76tok/s · 32.05 a 825.73
Mediana de generación29.74tok/s · 7.68 a 53.4
Configuraciones3Q4_K_M · Q4_K_XL · UD-Q4_K_XL
Última observación2 octApple Silicon · GCN / Vega · GCN / Vega + RDNA 2 · RDNA · RDNA 1 · RDNA 2 · Unknown

Qué muestran los resultados

Una vista clara.
Cada prueba registrada.

Las mediciones de hardware y modelos comparables se presentan juntas. Las medianas muestran el rendimiento habitual y cada prueba firmada sigue disponible para consultar y compartir.

Pruebas registradas

Consulta cada prueba.

Abre cualquier resultado para revisar el hardware exacto, la configuración del modelo, las medidas y los detalles del envío.

1 a 8 de 22 configuraciones

Benchmark verificado Aporte comunitario
Modelo / cuant.HardwareArquitecturaPromptGeneraciónOrigen
Gemma 4 12BQ4_K_M · Dense · comparación
RX 6950 XT16 GB VRAM
RDNA 2
595.7tok/s
53.4tok/s
Community tester16 jul 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
757.14tok/s
48.49tok/s
Dolphins197223 jul 2026
Gemma 4 12BUD-Q4_K_XL · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA
825.73tok/s
48.46tok/s
ToshLLM community24 jul 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
800.04tok/s
47.1tok/s
ToshLLM community1 ago 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
585.78tok/s
46.89tok/s
Dolphins197218 jul 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
429.66tok/s
40.3tok/s
Flint Ironstag✓18 jul 2026
Gemma 4 12BUD-Q4_K_XL · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Vega15.98 GB VRAM
GCN / Vega
368.27tok/s
35.05tok/s
めろん4 sept 2026
Gemma 4 12BUD-Q4_K_XL · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
337.18tok/s
34.66tok/s
ToshLLM Lab18 jul 2026
Gemma 4 12BQ4_K_XL · Dense · comparación
RX 6700 XT12 GB VRAM
RDNA 2
342tok/s
34tok/s
ToshLLM Lab15 jul 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
763.1tok/s
30.98tok/s
ToshLLM community10 ago 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 1
311.61tok/s
30.01tok/s
ToshLLM community11 sept 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 1
313.59tok/s
29.46tok/s
ToshLLM community2 oct 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
Apple M1 Max51.84 GB VRAM
Apple Silicon
248.83tok/s
26.31tok/s
simmc30322 sept 2026
Gemma 4 12BUD-Q4_K_XL · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 1
222.53tok/s
25.36tok/s
ToshLLM community8 sept 2026
Gemma 4 12BUD-Q4_K_XL · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
258.72tok/s
24.24tok/s
めろん25 ago 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Vega15.98 GB VRAM
GCN / Vega
232.37tok/s
20.94tok/s
ToshLLM community✓20 jul 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Vega15.98 GB VRAM
GCN / Vega
230.23tok/s
20.89tok/s
Flint Ironstag✓20 jul 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega + RDNA 2
328.49tok/s
19.1tok/s
Flint Ironstag✓20 jul 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Vega ×231.97 GB VRAM
GCN / Vega
319.02tok/s
14.86tok/s
ToshLLM community23 jul 2026
Gemma 4 12BUD-Q4_K_XL · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
58.75tok/s
13.41tok/s
めろん25 ago 2026
Gemma 4 12BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Vega ×463.94 GB VRAM
GCN / Vega
228.36tok/s
13.3tok/s
Flint Ironstag✓20 jul 2026
Gemma 4 12BUD-Q4_K_XL · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
Unknown
32.05tok/s
7.68tok/s
めろん25 ago 2026