Resumen de rendimiento comunitario

Meta Llama 3.1 8B × AMD Radeon PRO W6800X Duo ×2

2 observaciones firmadas en una misma comparación. Abre cualquier prueba para revisar la configuración exacta y su procedencia.

2 pruebas firmadas · 0 verificadas · 2 testers
Mediana de procesamiento612.23tok/s · 611.58 a 612.88
Mediana de generación66.94tok/s · 66.87 a 67
Configuraciones1Q4_K_M
Última observación18 julRDNA 2

Qué muestran los resultados

Una vista clara.
Cada prueba registrada.

Las mediciones de hardware y modelos comparables se presentan juntas. Las medianas muestran el rendimiento habitual y cada prueba firmada sigue disponible para consultar y compartir.

Cuantizaciones observadas1 grupos
Q4_K_M2 pruebas
macOS

macOS 26.5 Tahoe

Pruebas registradas

Consulta cada prueba.

Abre cualquier resultado para revisar el hardware exacto, la configuración del modelo, las medidas y los detalles del envío.

1 a 8 de 2 configuraciones

Benchmark verificado Aporte comunitario
Modelo / cuant.HardwareArquitecturaPromptGeneraciónOrigen
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
612.88tok/s
67tok/s
Flint Ironstag✓18 jul 2026
Meta Llama 3.1 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
611.58tok/s
66.87tok/s
ToshLLM community✓18 jul 2026