Aporte comunitario

Registro de rendimiento · MoE

Hf 26B

Q4_0 en AMD Radeon RX Vega 56 + AMD Radeon Pro WX 5100 con macOS 15.7.9 Sequoia

RENDIMIENTO / TOKENS POR SEGUNDOGCN / Vega
Procesamiento126.13tok/s
#303 en el índice
Generación de tokens18.23tok/s
#259 en el índice

Datos de la prueba

Contexto para interpretar los resultados.

CuantizaciónQ4_0Variante enviada
Arquitectura de GPUGCN / VegaMotor Metal
Contexto de prueba512tokens de prompt
Familia del modeloMoESigned ToshLLM app · ncmoe 3 · amd-gpu · Metal
Versión de ToshLLMv0.83.19Versión de la app usada para registrar y firmar esta prueba
01

Carga estándar

Procesamiento and generation are reported separately so memory bandwidth and decode behavior stay visible.

02

Configuración incluida

La cuantización, familia de GPU, VRAM y contexto acompañan el resultado; no quedan ocultos tras una puntuación única.

03

Procedencia conservada

Este resultado sigue identificado como aporte comunitario.