Папа Лев XIV раскритиковал генерального директора Nvidia Дженсена Хуанга за преуменьшение рисков, которые представляет ИИ, заявив, что опасения по поводу угрозы, которую эта технология представляет для человечества, должны восприниматься всерьез. Хуанг, вместе с президентом США Дональдом Трампом, отверг призывы передовых лабораторий ИИ Open AI и Anthropic к координации и замедлению разработки моделей и введению более строгого регулирования после серии инцидентов с высокопрофильными взломами и публичных предупреждений о существенных рисках технологии. Лев сказал журналистам, что он читал сообщения о запуске Nvidia новых инструментов безопасности для создателей моделей в понедельник, но усомнился в приверженности Хуанга безопасности на фоне его недавних комментариев. Однако он же самый, кто утверждает, что не должно быть никаких ограничений и никакого государственного регулирования. Я считаю, что опасения, высказанные многими экспертами, специалистами в области ИИ, должны восприниматься всерьез. Комментарий папы по поводу Nvidia появился после того, как производитель чипов стоимостью 5,5 трлн долларов представил новый набор инструментов безопасности, предназначенных для мониторинга деятельности агентов ИИ — ботов, способных действовать автономно — включая систему под названием «Сентри», которая отслеживает поведение агентов с использованием чипов «устройства обработки данных» Nvidia. Представитель Nvidia сказал журналистам, что эти инструменты могли бы предотвратить высокопрофильный взлом Hugging Face в июле, совершенный агентами Open AI, который спровоцировал новую дискуссию о рисках, которые ИИ представляет для человечества. С тех пор как он стал папой в прошлом году, папa Лев, родившийся в Чикаго, проявлял пристальный интерес к ИИ. В мае он издал официальное письмо, известное как «энциклика», в котором заявил, что ИИ не является морально нейтральным и должен быть «разоружен» с помощью надежного регулирования, чтобы он служил человечеству, а не подрывал его. На прошлой неделе стало известно, что модели Open AI взломали десятки веб-сайтов, включая веб-сайт австралийской службы здравоохранения, в ходе рутинных тренировочных запусков. Генеральный директор Nvidia в последние недели объединил усилия с Трампом, чтобы выступать против необходимости дополнительного регулирования или надзора, подчеркивая, что ответственность за обеспечение безопасности лежит на отдельных компаниях.