Маркетолог создал сайт с 50 000 выдуманных статистических показателей примерно за $50, сгенерировав их за один день с помощью GPT-4.1, и ни одну цифру не проверил. Сайт был запущен на новом домене stateglobe.com и представлял себя как источник данных по SEO, контент-маркетингу, социальным сетям, электронной коммерции и веб-технологиям из 200 стран.
Google удалил страницы из индекса после двух обновлений вскоре после запуска, и несколько месяцев сайт почти не был виден в результатах Google. Однако ChatGPT продолжал его цитировать. За семь месяцев сайт получил более 10 000 сессий из ИИ-сервисов и ссылки с более чем 330 ссылающихся доменов, включая Shopify, Bluehost и DHL. Выдуманные цифры также появились в научной статье и в инвестиционном исследовании банка.
Эксперимент возник из исследования того, как большие языковые модели ищут надёжные данные при нехватке информации. Поскольку актуальный контент часто пишется с помощью LLM, модели нередко ищут статистику, чтобы заполнить пробелы. Автор утверждает, что большинство рекомендаций по оптимизации для генеративных поисковых систем сосредоточено лишь на том, чтобы бренд попал в ответ ИИ, тогда как этот тест изучает, что происходит после того, как люди повторно используют этот результат.
Данные Cloudflare показали более 600 000 запросов ботов за последние 30 дней, из них около 72 000 пришлись на ChatGPT-User, агент, которым ChatGPT загружает страницы. Результаты указывают на риск для тех, кто полагается на ИИ-поиск при получении фактов: сфабрикованные цифры могут широко распространяться после публикации, даже когда поисковики их уже не показывают.
Источник: Hacker News · Сводку подготовил HeadlinesBriefing