Resumen de rendimiento comunitario

LLaMA V2 7B

3 configuraciones de GPU medidas con este modelo. Compara el hardware, las cuantizaciones y cada resultado registrado.

3 pruebas firmadas · 1 verificadas · 3 testers
Mediana de procesamiento655.45tok/s · 128.09 a 1508.5
Mediana de generación72.73tok/s · 12.75 a 105.77
Configuraciones1Q4_0
Última observación6 agoApple Silicon · RDNA · RDNA 2

Qué muestran los resultados

Una vista clara.
Cada prueba registrada.

Las mediciones de hardware y modelos comparables se presentan juntas. Las medianas muestran el rendimiento habitual y cada prueba firmada sigue disponible para consultar y compartir.

Hardware probado3 grupos
AMD Radeon GFX10, 16 GB1 prueba→AMD Radeon RX 6700 XT1 prueba→Apple M11 prueba→
macOS

macOS 15.7.8 Sequoia · macOS 26.5.1 Tahoe · macOS 26.5.2 Tahoe

Pruebas registradas

Consulta cada prueba.

Abre cualquier resultado para revisar el hardware exacto, la configuración del modelo, las medidas y los detalles del envío.

1 a 8 de 3 configuraciones

Benchmark verificado Aporte comunitario
Modelo / cuant.HardwareArquitecturaPromptGeneraciónOrigen
LLaMA V2 7BQ4_0 · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA
1508.5tok/s
105.77tok/s
ToshLLM community6 ago 2026
LLaMA V2 7BQ4_0 · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
655.45tok/s
72.73tok/s
ToshLLM Lab20 jul 2026
LLaMA V2 7BQ4_0 · Dense · Signed ToshLLM app · standard-auto · Metal · comparación
Apple M111.84 GB VRAM
Apple Silicon
128.09tok/s
12.75tok/s
basten18 jul 2026