Verificado por ToshLLM Lab

Registro de rendimiento · Dense

LLaMA V2 7B

Q4_0 en AMD Radeon RX 6700 XT con macOS 26.5.1 Tahoe

RENDIMIENTO / TOKENS POR SEGUNDORDNA 2
Procesamiento655.45tok/s
#114 en el índice
Generación de tokens72.73tok/s
#61 en el índice

Datos de la prueba

Contexto para interpretar los resultados.

CuantizaciónQ4_0Variante enviada
Arquitectura de GPURDNA 2Motor Metal
Contexto de prueba512tokens de prompt
Familia del modeloDenseSigned ToshLLM app · amd-gpu · Metal
Versión de ToshLLMv0.82.4Versión de la app usada para registrar y firmar esta prueba
01

Carga estándar

Procesamiento and generation are reported separately so memory bandwidth and decode behavior stay visible.

02

Configuración incluida

La cuantización, familia de GPU, VRAM y contexto acompañan el resultado; no quedan ocultos tras una puntuación única.

03

Procedencia conservada

ToshLLM Lab reprodujo esta prueba.