Selon AppleInsider, les propriétaires de Mac Pro Intel équipés de cartes vidéo AMD peuvent toujours exécuter des projets d'IA locaux. Le projet ToshLLM affirme offrir une accélération Metal native, aucune dépendance au cloud et aucune facturation par jeton.
Selon le projet lui-même, il fonctionne sans envoyer de données à des serveurs distants et sans les frais d'utilisation qu'imposent de nombreux services d'IA dans le cloud. Les utilisateurs conservent leurs charges de travail sur le matériel qu'ils possèdent déjà.
Les performances ne rivaliseront pas avec celles des systèmes plus récents. L'article précise que cette configuration ne sera pas aussi rapide qu'un Mac Studio M5 Ultra, mais qu'elle permet au matériel plus ancien de prendre en charge des tâches d'IA locales au lieu de rester inactif.
Le projet ToshLLM est disponible sur toshllm.com. Le reportage original d'AppleInsider détaille davantage cette configuration.
Source: AppleInsider · Résumé par HeadlinesBriefing