Filantropis menghadapi tantangan unik dengan kecerdasan buatan: dampak teknologi ini pada humanity masih sangat tidak pasti. Sementara filantropi tradisional bergantung pada masalah yang didefinisikan dan hasil yang dapat diukur, AI menyajikan masalah dan solusi spekulatif. Organisasi seperti Ergo Impact, didirikan pada 2024 dengan pendanaan dari donor internasional, membantu filantropis memastikan AI melayani kepentingan publik dengan mendukung kelompok tata kelola seperti Fathom dan mendukung organisasi nirlaba pada tahap awal.

Kellie Liket dari Ergo Impact menyatakan bahwa menjadi awal dalam menghadapi masalah berisiko tinggi adalah di mana dampak sebenarnya terletak. Di luar manfaat sosial, filantropis berjuang melawan risiko jangka pendek. Wendy dan Eric Schmidt telah memberikan lebih dari 3 juta dolar kepada 19 ekonom ahli kerja melalui Schmidt Sciences untuk mengidentifikasi di mana AI dapat membantu atau merugikan pekerja.

Demikian pula, Windfall Trust, yang didanai oleh Future of Life Institute, meneliti bagaimana peningkatan produktivitas yang digerakkan oleh AI dapat mengikis basis pajak dan mengganggu distribusi kekayaan global. Adrian Brown dari Windfall Trust berargumen bahwa pelatihan ulang saja adalah respons yang sempit terhadap perubahan yang akan datang. Dengan AI yang berkembang dengan cepat, tokoh seperti Mike Kubzansky dari Omidyar Network memperingatkan bahwa filantropi harus terlibat segera untuk menghindari tertinggal.

Inisiatif seperti Humanity AI, sebuah upaya senilai 500 juta dolar untuk mendemokratisasi pengembangan AI, menekankan risiko tinggi dari momen ini.