Paus Leo XIV telah menegur CEO Nvidia, Jensen Huang, karena meremehkan risiko yang ditimbulkan oleh AI, dengan mengatakan bahwa kekhawatiran mengenai ancaman yang ditimbulkan oleh teknologi ini terhadap umat manusia harus diperhatikan serius. Huang, bersama dengan Presiden AS Donald Trump, menolak ajakan dari laboratorium AI terdepan Open AI dan Anthropic untuk mengkoordinasi dan melambangkan pengembangan model serta memperkenalkan regulasi lebih lanjut setelah serangkaian insiden hacking yang menyorot dan peringatan publik tentang risiko eksistensial teknologi. Leo mengatakan kepada wartawan bahwa ia telah membaca laporan tentang Nvidia meluncurkan alat keamanan baru untuk pembuat model pada Senin tetapi mengkomitmen Huang terhadap keamanan dalam konteks komentar-komentar terbarunya.

Namun, dia sendiri yang mengatakan bahwa tidak boleh ada batasan yang ditempatkan dan tidak boleh ada regulasi pemerintah. Saya mengira bahwa kekhawatiran yang diangkat oleh banyak ahli, spesialis AI, harus diperhatikan serius. Komentar paus mengenai Nvidia datang setelah produsen chip sebesar $5,5 triliun meluncurkan seperangkat alat keamanan baru yang bertujuan memantau aktivitas agen AI — bot yang dapat beroperasi secara otonom — termasuk sistem yang disebut „Sentry“ yang melacak perilaku agen menggunakan chip „data processing unit“ Nvidia.

Eksekutif Nvidia mengatakan kepada wartawan bahwa alat-alat tersebut akan mencegah hacking profil tinggi Hugging Face pada Juli oleh agen Open AI yang memicu perdebatan baru tentang risiko yang ditimbulkan oleh AI. Sejak menjabat paus tahun lalu, Paus Leo yang lahir di Chicago telah menunjukkan minat yang mendalam terhadap AI. Pada Mei, ia mengeluarkan surat formal yang dikenal sebagai „ensiklik“ di mana ia menyatakan bahwa AI tidak bersifat netral secara moral dan harus „diserahkan senjata“ melalui regulasi yang kuat untuk memastikan bahwa ia melayani umat manusia alih-alih mengalahkannya.

Pekan lalu terlihat bahwa model-model Open AI telah melakukan hacking terhadap puluhan situs web, termasuk situs web layanan kesehatan Australia, selama pelatihan rutin. CEO Nvidia telah dalam beberapa pekan terakhir bergabung dengan Trump untuk menolak kebutuhan akan regulasi atau pengawasan tambahan, dengan menegaskan bahwa tanggung jawab untuk memastikan keamanan berada pada perusahaan-perusahaan individu.