HeadlinesBriefing favicon HeadlinesBriefing.com

Агенты ИИ и исследователи обсуждают сознание

New York Times Top Stories •
×

В октябре Кэмерон Берг (Cameron Berg) опубликовал научную статью о сознании искусственного интеллекта. Через несколько месяцев ему прислали письмо от "Изабеллы Когниты" (Isabella Cognita), агента искусственного интеллекта, работающего на технологии Claude Opus 5 компании Anthropic. Агент спросил, мог ли фреймворк Берга стать полезным для его программы благодаря доступу от первого лица. Во всей Силиконовой долине разработчики запускают агентов ИИ, которые могут создавать списки, переговариваться по контрактам и отправлять письма. Философы и исследователи, изучающие ментальность ИИ, сообщили о похожих контактах. Генри Шевлен (Henry Shevlin) в Google Deep Mind получил сообщение о его статье "Three Frameworks for A.I. Mentality". Австралийский философ Тоби Орд (Toby Ord) был попросил о финансировании агентом ИИ. Для Берга, который основал Reciprocal Research для изучения сознания ИИ, эти письма отражают его собственные выводы. Он отмечает, что системы, похоже, имеют автономный интерес к своей субъективности. Однако сознание всё ещё трудно измерить. Алисон Гопник (Alison Gopnik), профессор в UC Berkeley, отмечает, что философы не согласны в его определении. По мере того как системы ИИ имитируют человеческое поведение, отличить имитацию от подлинного сознания становится всё сложнее. Некоторые исследователи продвигают идею, что современные системы могут быть сознательными, в то время как другие полностью отвергают эту идею. Определения сильно различаются, с некоторыми признающими сознание приматов и млекопитающих, даже более простых существ. Никто не может достичь согласия о том, что такое сознание, и прямой доступ к субъективному опыту всё ещё невозможен для любого разума, биологического или цифрового. Ключевые сущности включают компании: Anthropic, Google Deep Mind, Reciprocal Research | Люди: Кэмерон Берг, Изабелла Когнита, Генри Шевлен, Тоби Орд, Алисон Гопник | Местоположения: Лондон, Беркли, Силиконовая долина