Los propietarios de Mac Pro Intel con tarjetas gráficas AMD todavía pueden ejecutar proyectos de IA locales, según AppleInsider. El proyecto ToshLLM afirma que ofrece aceleración nativa con Metal, independencia total de la nube y ningún cobro por token.
Según el propio proyecto, funciona sin enviar datos a servidores remotos y sin las tarifas de uso que cobran muchos servicios de IA en la nube. Los usuarios mantienen sus cargas de trabajo en el hardware que ya poseen.
El rendimiento no igualará al de los sistemas más nuevos. El artículo señala que la configuración no será tan rápida como el Mac Studio M5 Ultra, pero permite que el hardware antiguo asuma tareas de IA local en lugar de quedar inactivo.
El proyecto ToshLLM está disponible en toshllm.com. El informe original de AppleInsider describe la configuración con más detalle.
Fuente: AppleInsider · Resumido por HeadlinesBriefing