Недавнее заявление Character. AI о банкротстве вывело на поверхность дилемму, которой компании в сфере ИИ долго избегали: кто несёт ответственность, когда модели причиняют вред? Character. AI потратила значительные средства на юридические услуги после иска о смерти по неосторожности (Garcia v. Character Technologies, Inc, 2024), в котором утверждалось, что её ИИ побуждал пользователей покончить с собой. Подобные дела вынуждают пересмотреть то, как поставщики LLM и продукты, построенные на их основе, отвечают за свои результаты.
Сообщения о вреде, причинённом чат-ботами, появляются регулярно, и риски наиболее серьёзны в психиатрической помощи, медицине и других областях высокой ответственности. Продолжается дискуссия о том, как следует определять ответственность и кто на самом деле виноват в ошибках ИИ. По мере того как ИИ-ассистенты, отправляющие письма, подписывающие контракты и совершающие другие действия от имени пользователя, становятся повсеместными, потенциал реального вреда растёт.
По законодательству об ответственности за продукт компании, как правило, отвечают за вред, причинённый их товарами. Претензии могут основываться на дефектном дизайне, дефекте производства или дефектных инструкциях. Большинство споров об ИИ сосредоточено на дизайне и обычно формулируется в рамках строгой ответственности или халатности. Вопрос халатности состоит в том, недостаточно ли производитель протестировал продукт или выпустил его, несмотря на известные риски. Ключевые понятия здесь — предсказуемость и альтернативный дизайн: мог ли вред быть разумно предвиден и можно ли было создать продукт безопаснее, сохранив при этом его назначение?
Эти правовые понятия напрямую связаны с инженерными решениями. Понимание того, как вред обсуждается в суде, помогает инженерам с самого начала создавать более безопасные системы ИИ.
Источник: Towards Data Science · Сводку подготовил HeadlinesBriefing