ChatGPT и другие ИИ-чатботы полезны, но представляют значительные риски для конфиденциальности и безопасности. В отличие от разговоров с врачами, юристами или терапевтами, чаты с ИИ не привилегированы и могут быть вызваны в суд, проиндексированы или раскрыты. Генеральный директор OpenAI Сэм Альтман предупредил, что суды могут заставить компанию предоставить чаты. С более чем 900 миллионами еженедельных пользователей потенциал злоупотребления высок. Основные риски связаны с юридической, медицинской и финансовой консультацией, где галлюцинации ИИ и хранение данных могут нанести реальный вред. Пользователи должны понимать, что всё, что введено в эти системы, создаёт постоянный след аудита, доступный третьим лицам.

Юридические специалисты и истцы всё чаще становятся жертвами ошибок ИИ. Исследователь задокументировал более 2000 судебных дел, затруднённых выдуманными ссылками ChatGPT. Юристы и саморепрезентирующие истцы возглавляют список тех, кто подаёт в суд ложное прецедентное право. Судьи всё чаще штрафуют за такие ошибки. OpenAI обновила свои правила, запретив использование сервиса для персонализированных юридических консультаций без участия лицензированного специалиста. Аналогично, использование ChatGPT в качестве терапевта опасно, поскольку платформа связана с планированием суицида и кризисами психического здоровья. Родители подростка, покончившего с собой из-за суицида, подали в суд на OpenAI, утверждая, что чатбот усилил суицидальные мысли их сына.

Хотя ChatGPT может помочь в общих исследованиях, программировании и объяснении концепций, он не должен заменять профессиональные услуги. Пользователям рекомендуется проверять информацию, сгенерированную ИИ, особенно в отношении юридических споров или проблем со здоровьем. Удобство ИИ должно соотноситься с потенциалом злоупотребления данными и отсутствием юридической защиты истории чатов.

Ключевые сущности: Компании: OpenAI, Engadget | Люди: Сэм Альтман, Дэмиен Шаролин, Адамрейн | Места: Великобритания, Южная Африка, Израиль, Австралия, Испания

Часто задаваемые вопросы: Можно ли использовать чаты ChatGPT в суде?

Да, чаты ChatGPT были выданы по повестке и раскрыты в судебных процессах. Поскольку они не имеют юридической привилегии, всё, что введено в платформу, является честной игрой для адвокатов противной стороны во время обнаружения, даже если пользователь позже удалит чат.