…Descargar

Resumen de rendimiento comunitario

Llama 3.2 1B

7 configuraciones de GPU medidas con este modelo. Compara el hardware, las cuantizaciones y cada resultado registrado.

15 pruebas firmadas · 1 verificadas · 6 testers
Mediana de procesamiento5476.18tok/s · 218.84 a 8153.51
Mediana de generación207.43tok/s · 40.06 a 297.01
Configuraciones3Q4_K_M · Q8_0 · UD-Q5_K_XL
Última observación23 septGCN / Vega · RDNA 1 · RDNA 2 · RDNA 2 + GCN / Vega

Qué muestran los resultados

Una vista clara.
Cada prueba registrada.

Las mediciones de hardware y modelos comparables se presentan juntas. Las medianas muestran el rendimiento habitual y cada prueba firmada sigue disponible para consultar y compartir.

Hardware probado7 grupos
AMD Radeon Pro 555X2 pruebas→AMD Radeon RX 6900 XT ×24 pruebas→AMD Radeon Pro 5500M3 pruebas→AMD Radeon RX 6900 XT2 pruebas→AMD Radeon RX 6900 XT + AMD Radeon Vega1 prueba→AMD Radeon PRO W6800X2 pruebas→RX 6700 XT1 prueba→
macOS

macOS 15.7.5 Sequoia · macOS 15.7.7 Sequoia · macOS 15.7.9 Sequoia · macOS 26.5.2 Tahoe · macOS 26.6.2 Tahoe

Pruebas registradas

Consulta cada prueba.

Abre cualquier resultado para revisar el hardware exacto, la configuración del modelo, las medidas y los detalles del envío.

1 a 8 de 15 configuraciones

Benchmark verificado Aporte comunitario
Modelo / cuant.HardwareArquitecturaPromptGeneraciónOrigen
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon RX 6900 XT15.98 GB VRAM
RDNA 2
8088.69tok/s
297.01tok/s
Dolphins197223 jul 2026
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon PRO W6800X31.98 GB VRAM
RDNA 2
5655.79tok/s
288.64tok/s
BirdsLikeWires22 jul 2026
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon RX 6900 XT ×231.97 GB VRAM
RDNA 2
5476.18tok/s
268.45tok/s
Dolphins197218 jul 2026
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon RX 6900 XT ×231.97 GB VRAM
RDNA 2
8153.51tok/s
266.14tok/s
Dolphins197223 jul 2026
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon RX 6900 XT ×231.97 GB VRAM
RDNA 2
8077.28tok/s
265.52tok/s
Dolphins197223 jul 2026
Llama 3.2 1BQ4_K_M · Dense · comparación
RX 6700 XT12 GB VRAM
RDNA 2
2994tok/s
250tok/s
ToshLLM Lab15 jul 2026
Llama 3.2 1BQ8_0 · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon PRO W6800X31.98 GB VRAM
RDNA 2
5805.79tok/s
233.02tok/s
BirdsLikeWires22 jul 2026
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon RX 6900 XT ×231.97 GB VRAM
RDNA 2
6491.86tok/s
207.43tok/s
ToshLLM community9 sept 2026
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon RX 6900 XT15.98 GB VRAM
RDNA 2
6224.67tok/s
206.18tok/s
ToshLLM community10 ago 2026
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon RX 6900 XT + AMD Radeon Vega31.97 GB VRAM
RDNA 2 + GCN / Vega
3047.25tok/s
113.04tok/s
ToshLLM community10 ago 2026
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Pro 5500M7.98 GB VRAM
RDNA 1
1473.96tok/s
112.92tok/s
mnerd7 sept 2026
Llama 3.2 1BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Pro 5500M7.98 GB VRAM
RDNA 1
1602.61tok/s
103.89tok/s
mnerd31 ago 2026
Llama 3.2 1BUD-Q5_K_XL · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Pro 5500M7.98 GB VRAM
RDNA 1
1388.43tok/s
85.26tok/s
mnerd31 jul 2026
Llama 3.2 1BQ8_0 · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Pro 555X4 GB VRAM
GCN / Vega
218.84tok/s
40.21tok/s
ToshLLM community23 sept 2026
Llama 3.2 1BQ8_0 · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
AMD Radeon Pro 555X4 GB VRAM
GCN / Vega
219.08tok/s
40.06tok/s
toshllm@wbig.gs22 sept 2026