Resumen de rendimiento comunitario

Llama 3.2 1B × AMD Radeon PRO W6800X

2 observaciones firmadas en una misma comparación. Abre cualquier prueba para revisar la configuración exacta y su procedencia.

2 pruebas firmadas · 0 verificadas · 1 tester
Mediana de procesamiento5730.79tok/s · 5655.79 a 5805.79
Mediana de generación260.83tok/s · 233.02 a 288.64
Configuraciones2Q4_K_M · Q8_0
Última observación22 julRDNA 2

Qué muestran los resultados

Una vista clara.
Cada prueba registrada.

Las mediciones de hardware y modelos comparables se presentan juntas. Las medianas muestran el rendimiento habitual y cada prueba firmada sigue disponible para consultar y compartir.

Cuantizaciones observadas2 grupos
Q4_K_M1 pruebasQ8_01 pruebas
macOS

macOS 15.7.7 Sequoia

Pruebas registradas

Consulta cada prueba.

Abre cualquier resultado para revisar el hardware exacto, la configuración del modelo, las medidas y los detalles del envío.

1 a 8 de 2 configuraciones

Benchmark verificado Aporte comunitario
Modelo / cuant.HardwareArquitecturaPromptGeneraciónOrigen
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
5655.79tok/s
288.64tok/s
BirdsLikeWires22 jul 2026
Llama 3.2 1BQ8_0 · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
5805.79tok/s
233.02tok/s
BirdsLikeWires22 jul 2026