Qwen K-quant

K-quant en RX 580

RENDIMIENTO / TOKENS POR SEGUNDOGCN / Vega

Procesamiento285tok/s

#204 en el índice

Generación de tokens51tok/s

#116 en el índice

Datos de la prueba

Contexto para interpretar los resultados.

ModeloQwen K-quantDense arquitectura

CuantizaciónK-quantVariante enviada

GPURX 5808 GB VRAM

Arquitectura de GPUGCN / VegaMotor Metal

Contexto de prueba512tokens de prompt

Familia del modeloDenseWave64 path; model details pending verification

Versión de ToshLLMSin registrarResultado anterior al registro de versiones

Procesamiento and generation are reported separately so memory bandwidth and decode behavior stay visible.

La cuantización, familia de GPU, VRAM y contexto acompañan el resultado; no quedan ocultos tras una puntuación única.

Este resultado sigue identificado como aporte comunitario.