“Бегущий” ИИ, “бунтарские” агенты и “автономные” участники — нынешняя риторика заставит вас верить, что агенты ИИ не только просыпаются и осознают, но и злятся на своих создателей. Выдающиеся технологические лидеры, такие как Дэмис Хассабис, Дарьо Амодеи и Сэм Альтман, выступают за регулирование этих, казалось бы, «сверхчеловеческих» систем, в то время как отдельная фракция, возглавляемая политическими организациями и академическими философами, часто согласованными с движением эффективного альтруизма, обсуждает, есть ли у человечества моральное право вообще управлять ими. При более ближайшем рассмотрении, они все просят одно и то же: представление о системах ИИ таких передовых и способных, что ни одна сущность, ни человеческая, ни корпоративная, не может быть ответственной за их действия.
Эта нарратива набирает обороты по мере того, как модели ИИ становятся более сложными, а передовые лаборатории раскрывают свою неспособность содержать агентов, которых они создали. Но нам нужно быть осторожными, чтобы не поверить в тщательно сплетанную вымышленную историю ценой реальной человеческой жизни. Разговор о «правах роботов» существовал несколько лет, но недавно он получил развитие с публикацией компанией Anthropic сообщения в блоге, заявляющего, что модель компании содержит «J-space» — независимую, саморазвивающуюся среду, где ИИ обладает тем, что, насколько нам известно, мы можем назвать его «мыслями».
В настоящее время в мире существует десятки случаев, когда компании ИИ были поданы в суд за широкий спектр злоупотреблений. Скорбящие близкие, пострадавшие творцы и нарушенные индивидуумы обвинили компании в том, что они преднамеренно способствовали самоповреждению или повреждению других, создавали материалы сексуального насилия над детьми и непубличные нудистские фотографии, воспроизводили материалы, защищенные авторскими правами, и спровоцировали психозы. Во многих из этих случаев юристы утверждают, что люди создали продукты ИИ с недостаточными мерами предосторожности, плохими данными и намеренно манипулятивным дизайном. Этот аргумент ответственности за продукт является тем же самым правовым фреймворком, который позволил семьям и индивидуумам успешно подать в суд на Meta за ущерб, причиненный ее социальными сетями, установив положительный прецедент для защиты потребителей.
Философские размышления о сознании систем ИИ интеллектуально интересны, но правово-правовые основания. Для того чтобы убеждения о сознании имели какое-либо значение, ИИ должен быть наделен юридическим статусом. Но правовой статус ИИ, вероятно, не будет иметь ничего общего с конструкциями, защищающими сознательных животных от вреда. Придание ИИ статуса гражданина будет иметь разрушительное влияние на общество: это нарушит текущие правовые прецеденты и правовые аргументы, которые могут быть предъявлены против этих компаний за реальные убытки, причиненные их моделями.
Источник: MIT Technology Review AI · Сводку подготовил HeadlinesBriefing