Resumen de rendimiento comunitario

Nomic Embed Text V2 MoE

1 configuraciones de GPU medidas con este modelo. Compara el hardware, las cuantizaciones y cada resultado registrado.

3 pruebas firmadas · 0 verificadas · 1 tester
Mediana de procesamiento2188.48tok/s · 1378.77 a 2195.09
Mediana de generación167.97tok/s · 165.08 a 179.48
Configuraciones1Q8_0
Última observación29 septGCN / Vega

Qué muestran los resultados

Una vista clara.
Cada prueba registrada.

Las mediciones de hardware y modelos comparables se presentan juntas. Las medianas muestran el rendimiento habitual y cada prueba firmada sigue disponible para consultar y compartir.

Hardware probado1 grupos
AMD Radeon Pro 560X3 pruebas→
macOS

macOS 15.7.9 Sequoia · macOS 15.8 Sequoia · macOS 15.8.1 Sequoia

Pruebas registradas

Consulta cada prueba.

Abre cualquier resultado para revisar el hardware exacto, la configuración del modelo, las medidas y los detalles del envío.

1 a 8 de 3 configuraciones

Benchmark verificado Aporte comunitario
Modelo / cuant.HardwareArquitecturaPromptGeneraciónOrigen
Nomic Embed Text V2 MoEQ8_0 · MoE · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
2195.09tok/s
179.48tok/s
mitchde29 sept 2026
Nomic Embed Text V2 MoEQ8_0 · MoE · Signed ToshLLM app · amd-gpu · Metal · comparación
GCN / Vega
1378.77tok/s
167.97tok/s
mitchde11 sept 2026
Nomic Embed Text V2 MoEQ8_0 · MoE · Signed ToshLLM app · ncmoe 1 · amd-gpu · Metal · comparación
GCN / Vega
2188.48tok/s
165.08tok/s
mitchde25 sept 2026