Resumen de rendimiento comunitario

AMD Radeon RX 6700 XT

13 modelos locales medidos con esta configuración de GPU. Compara cuantizaciones, ajustes y todo el rango de rendimiento observado.

22 pruebas firmadas · 22 verificadas · 1 tester
Mediana de procesamiento695.73tok/s · 255.55 a 2994
Mediana de generación58tok/s · 22 a 250
Configuraciones9MXFP4 · PQ2_0 · Q4_0
Última observación23 septRDNA 2

Qué muestran los resultados

Una vista clara.
Cada prueba registrada.

Las mediciones de hardware y modelos comparables se presentan juntas. Las medianas muestran el rendimiento habitual y cada prueba firmada sigue disponible para consultar y compartir.

Pruebas registradas

Consulta cada prueba.

Abre cualquier resultado para revisar el hardware exacto, la configuración del modelo, las medidas y los detalles del envío.

1 a 8 de 22 configuraciones

Benchmark verificado Aporte comunitario
Modelo / cuant.HardwareArquitecturaPromptGeneraciónOrigen
Llama 3.2 1BQ4_K_M · Dense · comparación
RX 6700 XT12 GB VRAM
RDNA 2
2994tok/s
250tok/s
ToshLLM Lab15 jul 2026
GPT OSS 20BQ4_K_M · MoE · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
1293.29tok/s
99.19tok/s
ToshLLM Lab1 sept 2026
GPT OSS 20BQ4_K_M · MoE · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
1083.66tok/s
94.99tok/s
ToshLLM Lab27 jul 2026
GPT OSS 20BQ4_K_M · MoE · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
1038.29tok/s
94.59tok/s
ToshLLM Lab24 jul 2026
Qwen3 4BQ4_K_M · Dense · comparación
RX 6700 XT12 GB VRAM
RDNA 2
1005tok/s
94tok/s
ToshLLM Lab15 jul 2026
gpt-oss 20BQ4_K_M · MoE · Full VRAM · comparación
RX 6700 XT12 GB VRAM
RDNA 2
972tok/s
93tok/s
ToshLLM Lab15 jul 2026
GPT OSS 20BQ4_K_M · MoE · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
1037.06tok/s
92.94tok/s
ToshLLM Lab22 jul 2026
Gemma 3 4BQ4_K_M · Dense · comparación
RX 6700 XT12 GB VRAM
RDNA 2
1168tok/s
90tok/s
ToshLLM Lab15 jul 2026
Gemma 3 4BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
1146.18tok/s
87.63tok/s
ToshLLM Lab17 jul 2026
LLaMA V2 7BQ4_0 · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
655.45tok/s
72.73tok/s
ToshLLM Lab20 jul 2026
Qwen3 8BQ4_K_M · Dense · comparación
RX 6700 XT12 GB VRAM
RDNA 2
476tok/s
60tok/s
ToshLLM Lab15 jul 2026
Qwen3.6 14B A3BQ5_K_M · MoE · Full VRAM · comparación
RX 6700 XT12 GB VRAM
RDNA 2
736tok/s
56tok/s
ToshLLM Lab15 jul 2026
Qwen3.8 9BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
756.54tok/s
52.03tok/s
ToshLLM Lab21 ago 2026
Qwen3.5 9BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
650.88tok/s
48.38tok/s
ToshLLM Lab27 jul 2026
Qwen3.5 9BQ4_K_M · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
414.37tok/s
46.46tok/s
ToshLLM Lab17 jul 2026
Qwen3.5 9BQ4_K_M · Dense · comparación
RX 6700 XT12 GB VRAM
RDNA 2
411tok/s
45tok/s
ToshLLM Lab15 jul 2026
Gemma 4 12BUD-Q4_K_XL · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
337.18tok/s
34.66tok/s
ToshLLM Lab18 jul 2026
Gemma 4 12BQ4_K_XL · Dense · comparación
RX 6700 XT12 GB VRAM
RDNA 2
342tok/s
34tok/s
ToshLLM Lab15 jul 2026
Hf 27BPQ2_0 · Dense · Signed ToshLLM app · amd-gpu · Metal · comparación
RDNA 2
255.55tok/s
33.5tok/s
ToshLLM Lab23 sept 2026
Qwen3.6 35B-A3BUD-Q4_K_S · MoE · Signed ToshLLM app · ncmoe 24 · amd-gpu · Metal · comparación
RDNA 2
473.74tok/s
27.34tok/s
ToshLLM Lab11 sept 2026
Qwen3.6 35B A3BQ4_K_S · MoE · CPU expert offload · comparación
RX 6700 XT12 GB VRAM
RDNA 2
434tok/s
25tok/s
ToshLLM Lab15 jul 2026
Gemma 4 26B A4BMXFP4 · MoE · CPU expert offload · comparación
RX 6700 XT12 GB VRAM
RDNA 2
552tok/s
22tok/s
ToshLLM Lab15 jul 2026