OpenAI сообщила в четверг, что серия статей-мнений, критикующих войну с Ираном и опубликованных под фальшивыми подписями в американских изданиях, была создана с помощью её чат-бота ChatGPT пользователями из Ирана в рамках «кампании влияния». По словам компании, кампания разместила около 100 фальшивых статей как минимум в 20 новостных изданиях. Одна из подписей, Ervin Hoskins, появилась в Port St. Joe Star, еженедельной газете во Флориде, а также в Daily Kos и Middle East Monitor, у которых в совокупности более 3 миллионов подписчиков в Facebook. По данным инструмента проверки OpenAI, фотография автора, использованная газетой Star, также была создана с помощью инструментов компании.
Издатель Star Дэвид Адлерстайн заявил, что колонку ему предложила Peace Voice, небольшой либеральный аналитический центр из Орегона, который присылал газете материалы на протяжении многих лет. Из-за этих отношений он не стал проверять личность автора. Основатель Peace Voice Том Хастингс сказал, что после обращения OpenAI организация ужесточила свою политику, запрещающую использование ИИ.
OpenAI заявила, что заблокировала аккаунты, стоявшие за кампанией, и закрыла доступ к ChatGPT из Ирана. Компания отметила, что деятельность соответствует действиям коммерческого субъекта, ведущего заказную операцию влияния, однако установить его личность не удалось, и информацию передали соответствующим органам. Middle East Monitor и Daily Kos удалили эти статьи. Основатель Daily Kos Маркос Молициус назвал кампанию «невероятно разрушительной» для своей платформы, где сообщения сообщества не проверяются редакцией перед публикацией.
Эта история следует за более ранними случаями, когда Business Insider и Wired удалили статьи, созданные ИИ, опубликованные под фальшивой подписью Маргო Бланшар. Такие инциденты показывают, как инструменты ИИ могут помогать вымышленным персонажам обходить редакционный контроль, особенно в небольших изданиях, которые полагаются на внешние материалы.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing