Aporte comunitario

Registro de rendimiento · Dense

Qwen3.8 27B

UD-IQ2_S en AMD Radeon Pro Vega 64 con macOS 14.8.7 Sonoma

RENDIMIENTO / TOKENS POR SEGUNDOGCN / Vega
Procesamiento104.51tok/s
#319 en el índice
Generación de tokens13.11tok/s
#292 en el índice

Datos de la prueba

Contexto para interpretar los resultados.

CuantizaciónUD-IQ2_SVariante enviada
Arquitectura de GPUGCN / VegaMotor Metal
Contexto de prueba512tokens de prompt
Familia del modeloDenseSigned ToshLLM app · amd-gpu · Metal
Versión de ToshLLMv0.87.8Versión de la app usada para registrar y firmar esta prueba
01

Carga estándar

Procesamiento and generation are reported separately so memory bandwidth and decode behavior stay visible.

02

Configuración incluida

La cuantización, familia de GPU, VRAM y contexto acompañan el resultado; no quedan ocultos tras una puntuación única.

03

Procedencia conservada

Este resultado sigue identificado como aporte comunitario.