Resumen de rendimiento comunitario

AMD Radeon Pro 560X

10 modelos locales medidos con esta configuración de GPU. Compara cuantizaciones, ajustes y todo el rango de rendimiento observado.

19 pruebas firmadas · 0 verificadas · 2 testers
Mediana de procesamiento92.48tok/s · 40.64 a 2195.09
Mediana de generación12.39tok/s · 2.91 a 179.48
Configuraciones5IQ2_XS · Q2_K · Q3_K_M
Última observación29 septGCN / Vega

Qué muestran los resultados

Una vista clara.
Cada prueba registrada.

Las mediciones de hardware y modelos comparables se presentan juntas. Las medianas muestran el rendimiento habitual y cada prueba firmada sigue disponible para consultar y compartir.

Pruebas registradas

Consulta cada prueba.

Abre cualquier resultado para revisar el hardware exacto, la configuración del modelo, las medidas y los detalles del envío.

1 a 8 de 19 configuraciones

Benchmark verificado Aporte comunitario
Modelo / cuant.HardwareArquitecturaPromptGeneraciónOrigen
Nomic Embed Text V2 MoEQ8_0 · MoE · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
2195.09tok/s
179.48tok/s
mitchde29 sept 2026
Nomic Embed Text V2 MoEQ8_0 · MoE · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
1378.77tok/s
167.97tok/s
mitchde11 sept 2026
Nomic Embed Text V2 MoEQ8_0 · MoE · Signed ToshLLM app · ncmoe 1 · amd-gpu · Metal · comparación
GCN / Vega
2188.48tok/s
165.08tok/s
mitchde25 sept 2026
Qwen2.5 1.5BQ8_0 · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
255.5tok/s
33.67tok/s
mitchde12 sept 2026
Qwen2.5 Coder 1.5BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
266.32tok/s
31.63tok/s
mitchde12 sept 2026
Qwen3 VL 2BQ3_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
229.37tok/s
27.52tok/s
mitchde11 sept 2026
Qwen2.5 3BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
127.77tok/s
21.04tok/s
ToshLLM community1 sept 2026
DeepSeek Coder V2 Lite InstructIQ2_XS · MoE · Signed ToshLLM app · ncmoe 16 · amd-gpu · Metal · comparación
GCN / Vega
111.72tok/s
16.37tok/s
mitchde24 sept 2026
DeepSeek Coder V2 Lite InstructIQ2_XS · MoE · Signed ToshLLM app · ncmoe 16 · amd-gpu · Metal · comparación
GCN / Vega
111.55tok/s
13.52tok/s
mitchde25 sept 2026
Qwen3 Coder 30B-A3BQ2_K · MoE · Signed ToshLLM app · ncmoe 42 · amd-gpu · Metal · comparación
GCN / Vega
82.07tok/s
12.39tok/s
mitchde29 sept 2026
Deepseek Ai Coder 6.7BQ3_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
40.69tok/s
11.08tok/s
mitchde18 sept 2026
Qwen3 Coder 30B-A3BQ2_K · MoE · Signed ToshLLM app · ncmoe 43 · amd-gpu · Metal · comparación
GCN / Vega
82.3tok/s
10.4tok/s
mitchde25 sept 2026
DeepSeek Coder V2 Lite InstructIQ2_XS · MoE · Signed ToshLLM app · ncmoe 50 · amd-gpu · Metal · comparación
GCN / Vega
92.48tok/s
7.56tok/s
mitchde18 sept 2026
Qwen3 Coder 30B-A3BQ2_K · MoE · Signed ToshLLM app · ncmoe 48 · amd-gpu · Metal · comparación
GCN / Vega
79.58tok/s
5.24tok/s
mitchde24 sept 2026
Qwen3 Coder 30B-A3BQ2_K · MoE · Signed ToshLLM app · ncmoe 48 · amd-gpu · Metal · comparación
GCN / Vega
82.22tok/s
4.75tok/s
mitchde25 sept 2026
Qwen2.5 Coder 7BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
48.27tok/s
3.55tok/s
mitchde11 sept 2026
28bbf2fca3be77b1b80b7548f08c80cfe1bfbe08 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
40.64tok/s
2.91tok/s
mitchde12 sept 2026
28bbf2fca3be77b1b80b7548f08c80cfe1bfbe08 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
46.54tok/s
2.91tok/s
mitchde12 sept 2026
28bbf2fca3be77b1b80b7548f08c80cfe1bfbe08 8BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
46.12tok/s
2.91tok/s
mitchde11 sept 2026