Resumen de rendimiento comunitario

Meta Llama 3.1 8B

8 configuraciones de GPU medidas con este modelo. Compara el hardware, las cuantizaciones y cada resultado registrado.

9 pruebas firmadas · 0 verificadas · 4 testers
Mediana de procesamiento436.77tok/s · 64.7 a 828.51
Mediana de generación34.4tok/s · 2.85 a 77.02
Configuraciones1Q4_K_M
Última observación10 septGCN / Vega · GCN / Vega + RDNA 2 · RDNA 1 · RDNA 2

Qué muestran los resultados

Una vista clara.
Cada prueba registrada.

Las mediciones de hardware y modelos comparables se presentan juntas. Las medianas muestran el rendimiento habitual y cada prueba firmada sigue disponible para consultar y compartir.

Pruebas registradas

Consulta cada prueba.

Abre cualquier resultado para revisar el hardware exacto, la configuración del modelo, las medidas y los detalles del envío.

1 a 8 de 9 configuraciones

Benchmark verificado Aporte comunitario
Modelo / cuant.HardwareArquitecturaPromptGeneraciónOrigen
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
828.51tok/s
77.02tok/s
Dolphins197218 jul 2026
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
612.88tok/s
67tok/s
Flint Ironstag✓18 jul 2026
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
611.58tok/s
66.87tok/s
ToshLLM community✓18 jul 2026
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 1
436.77tok/s
46.46tok/s
Aaron.C11 ago 2026
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Vega15.98 GB VRAM
GCN / Vega
277.72tok/s
34.4tok/s
ToshLLM community✓20 jul 2026
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
558.18tok/s
32.86tok/s
Flint Ironstag10 sept 2026
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega + RDNA 2
408.46tok/s
30.83tok/s
Flint Ironstag✓20 jul 2026
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Vega ×463.94 GB VRAM
GCN / Vega
271.81tok/s
17.97tok/s
Flint Ironstag✓20 jul 2026
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
64.7tok/s
2.85tok/s
ToshLLM community10 sept 2026