AppleInsiderによると、AMD製ビデオカードを搭載したIntel Mac Proの所有者は、今もローカルのAIプロジェクトを実行できます。ToshLLMプロジェクトは、ネイティブMetal高速化、クラウドへの依存ゼロ、トークンごとの課金なしを提供すると述べています。
プロジェクト自身の主張によれば、データをリモートサーバーに送信せずに動作し、多くのクラウドAIサービスに伴う利用料金もかかりません。ユーザーは、すでに所有しているハードウェア上で作業負荷を処理できます。
パフォーマンスは新しいシステムには及びません。記事によると、この構成はM5 Ultra搭載Mac Studioほど速くはありませんが、古いハードウェアを遊ばせておくのではなく、ローカルのAI処理を担当させることができます。
ToshLLMプロジェクトはtoshllm.comで公開されています。AppleInsiderの元記事では、この構成についてより詳しく解説しています。
出典: AppleInsider · 要約：HeadlinesBriefing