Metal para AMD, replanteado.
Rutas propias de atención, multiplicación de matrices y wave64 convierten una inferencia lenta o incorrecta en resultados rápidos y fiables en hardware RDNA y GCN.
Inteligencia local · Aceleración AMD
Tu Mac.
Sin límites.
Ejecuta modelos abiertos modernos en el Mac Intel que ya tienes. Aceleración Metal nativa, sin nube y sin pagar por cada token.
macOS 14+ · Intel + AMD GPU · Gratis y de código abierto
Speed ceiling · lightweight assistantLlama 3.2 1BQ4_K_M · Dense
Prompt2994 t/s
Generación250 t/s
Desarrollo actual
El proyecto
sigue avanzando.
Nuevos formatos de modelos y herramientas creativas llegan junto a las mejoras de rendimiento en GPU AMD.
01 / Por qué ToshLLM
Creado para los Mac olvidados
El hardware nunca fue el problema.
Privado desde el diseño.
Tus instrucciones, archivos y conversaciones permanecen en tu Mac. Sin cuenta, sin dependencia de telemetría y sin pasar por la nube.
Nativo desde el primer clic.
Una experiencia SwiftUI cuidada con descubrimiento de modelos, recomendaciones según tu hardware, visión, generación de imágenes y API local en una sola aplicación.
Una app · todas tus tareas locales
Tecnología potente.
Interfaz clara.
ToshLLM detecta tu hardware, recomienda modelos adecuados y pone los controles de rendimiento a tu alcance cuando los necesitas.
Native SwiftUI
100% local
Índice abierto de rendimiento
Cifras que puedes reproducir.
Compara modelos, GPU y configuraciones. Cada resultado verificado conserva los datos necesarios para repetir la prueba. Los aportes de la comunidad mejoran el panorama.
Ver el índice#ModelGPUGen.
01
Llama 3.2 1BQ4_K_M · Dense
RX 6700 XT12 GB
250 t/s02
Qwen3 4BQ4_K_M · Dense
RX 6700 XT12 GB
94 t/s03
gpt-oss 20BQ4_K_M · MoE
RX 6700 XT12 GB
93 t/s04
Gemma 3 4BQ4_K_M · Dense
RX 6700 XT12 GB
90 t/sPatrocinadores empresariales
Impulsando la computación
local e independiente.
Empresas que ayudan a ToshLLM a seguir siendo gratuito y abierto, y a prolongar la vida útil de equipos capaces.
Con el apoyo de la comunidad
Mantengamos ToshLLM
independiente.
Gratis, de código abierto y creado para la comunidad de Mac con AMD. Tu apoyo permite dedicar más tiempo a su desarrollo.
Tu Mac todavía puede mucho más
Deja de alquilar inteligencia.
Descarga ToshLLM y vuelve a aprovechar tu GPU AMD.
Descargar la beta más recientePara empresas y particulares
ToshLLM, adaptado a tu equipo.
¿Necesitas una implementación a medida, ayuda para elegir modelos o asesoría para varios Mac Intel? Cuéntanos qué estás desarrollando y te responderemos personalmente.
¿Encontraste un error reproducible? Un reporte público en GitHub permite seguir la solución. Reportar un error ↗
hello@toshllm.com
CONTACT / TOSHLLM