Procesamiento y generación miden cosas distintas.
Repartir el modelo entre varias GPU puede acelerar el procesamiento sin mejorar la generación, o incluso ralentizarla. Interpreta ambas cifras por separado.
El servidor define la prueba común.
Cuando decides compartir un benchmark, la app solicita a ToshLLM un desafío temporal. La respuesta establece el ejecutor, número de tokens de prompt y de generación, repeticiones y versión del consentimiento. La carga comparable actual usa llama-bench; cada repetición se inicia por separado para conservar todas las mediciones.
El resultado publicado conserva cada medición de procesamiento y generación y muestra la mediana. También registra las huellas de los archivos del modelo y del motor, el hardware, el sistema operativo y los ajustes efectivos del motor.
El servidor y el benchmark comparten VRAM. Si siguen activos a la vez, el resultado puede alterarse o la prueba puede fallar.
Primero revisa; después firma.
- Elige Share benchmark en la aplicación ToshLLM.
- Lee el resumen de consentimiento y ejecuta la carga definida por el servidor.
- Revisa el modelo, hardware, configuración, medidas y pruebas depuradas.
- Firma y envía exactamente los datos mostrados en la revisión.
La clave privada P-256 permanece en el llavero de este Mac. La huella pública agrupa envíos de la misma instalación y permite a la API comprobar que los datos no cambiaron después de la revisión.
Compara configuraciones equivalentes.
El índice público agrupa pruebas por GPU y modelo para que los envíos repetidos mejoren la comparación en lugar de crear muchas páginas casi iguales. La cuantización, familia del modelo, motor, número de GPU, contexto y opciones de ejecución permanecen visibles porque pueden cambiar mucho el rendimiento.
Abre el índice de benchmarks de la comunidad para consultar resultados actuales y las pruebas que respaldan cada resumen.
La firma acredita el origen, no el rendimiento.
La firma acredita que una instalación registrada de ToshLLM firmó exactamente los datos aceptados por la API. Después, las comprobaciones automáticas comparan el envío con referencias de hardware, modelo y carga compatibles.
Una prueba es una observación, no una ley.
La temperatura, actividad de la GPU en segundo plano, presión de memoria y efectos de la primera carga pueden alterar un resultado. El protocolo conserva las repeticiones independientes y muestra su mediana para reducir el impacto de una medición atípica.
Consulta las páginas agrupadas para ver el rango entre colaboradores. Un conjunto de resultados próximos aporta más evidencia que un único récord.