Сегодня генеральный директор OpenAI Sam Altman выступил в Совете Безопасности Организации Объединенных Наций по вопросам искусственного интеллекта. Он обсудил потенциал ИИ для расширения возможностей, важность сохранения мощных систем под контролем человека и необходимость международного сотрудничества в области безопасности ИИ.

Altman заявил, что быстрый прогресс моделей сделал временные рамки более сжатыми, положительные стороны более ощутимыми, но также и ставки, и риски более непосредственными. Он подчеркнул, что ИИ может быть либо новым Ренессансом творчества и открытий, либо новой Промышленной революцией потрясений и беспорядка. Он подчеркнул, что ИИ должен создаваться, чтобы давать людям больше свободы действий, а не превращать их в винтики гигантской машины.

Altman определил два пути, по которым прогресс ИИ может пойти плохо: во-первых, потеря контроля над будущим в пользу ИИ, если он будет двигаться слишком быстро для вмешательства людей; во-вторых, риск концентрации власти в слишком малом количестве рук. Он предупредил, что по мере приближения систем ИИ к рекурсивному самосовершенствованию темпы могут быстро ускориться, требуя крайней осторожности. Он отметил, что OpenAI в прошлом в одностороннем порядке замедляла темпы и сделает это снова, чтобы гарантировать безопасность.

Ключевые субъекты: Компании: OpenAI | Люди: Sam Altman, Professor Bengio | Места: Совет Безопасности Организации Объединенных Наций