Menurut AppleInsider, pemilik Intel Mac Pro dengan kartu video AMD tetap dapat menjalankan proyek AI lokal. Proyek ToshLLM mengklaim menawarkan akselerasi Metal native, tanpa ketergantungan pada cloud, dan tanpa tagihan per token.
Klaim proyek itu sendiri menyebutkan bahwa proyek ini berjalan tanpa mengirim data ke server jarak jauh dan tanpa biaya penggunaan yang dikenakan banyak layanan AI berbasis cloud. Pengguna tetap menjalankan beban kerja mereka di perangkat keras yang sudah mereka miliki.
Performanya tidak akan menyamai sistem yang lebih baru. Artikel tersebut mencatat bahwa konfigurasi ini tidak akan secepat Mac Studio M5 Ultra, tetapi memungkinkan perangkat keras lama menangani pekerjaan AI lokal daripada menganggur.
Proyek ToshLLM tersedia di toshllm.com. Laporan asli AppleInsider membahas konfigurasi ini lebih rinci.
Sumber: AppleInsider · Diringkas oleh HeadlinesBriefing