Aporte comunitario

Registro de rendimiento · MoE

Gemma 4 26B A4B

Q4_K_M en Radeon Pro Vega II

RENDIMIENTO / TOKENS POR SEGUNDOGCN / Vega
Procesamiento190.3tok/s
#250 en el índice
Generación de tokens47.9tok/s
#128 en el índice

Datos de la prueba

Contexto para interpretar los resultados.

CuantizaciónQ4_K_MVariante enviada
Arquitectura de GPUGCN / VegaMotor Metal
Contexto de prueba512tokens de prompt
Familia del modeloMoEConfiguración estándar
Versión de ToshLLMSin registrarResultado anterior al registro de versiones
01

Carga estándar

Procesamiento and generation are reported separately so memory bandwidth and decode behavior stay visible.

02

Configuración incluida

La cuantización, familia de GPU, VRAM y contexto acompañan el resultado; no quedan ocultos tras una puntuación única.

03

Procedencia conservada

Este resultado sigue identificado como aporte comunitario.