В своей статье ICML 2024 Weixin Liang, Zachary Izzo и соавторы разработали метод оценки текста, измененного ИИ, в больших коллекциях, применив его к рецензиям коллег по четырем主要 ИИ-конференциям после запуска ChatGPT. Они обнаружили, что от 6,5% до 16,9% текста рецензий демонстрирует признаки существенного изменения ИИ. Это подчеркивает риски в значимых контекстах, таких как рецензирование коллег, где контент, сгенерированный ИИ, может искажать оценку. Связанное исследование Nature 2024 Илии Шумайлова и соавторов показало, что обучение моделей на рекурсивно сгенерированных данных приводит к коллапсу модели, потере редких паттернов данных и сужению вывода. Автор протестировал три недорогие проверки—перплекситет, сходство с почти дубликатами и плотность эмбеддингов—на наборе данных рецензий фильмов с Mendeley (2019) для обнаружения текста, сгенерированного ИИ. При настройке, обнаруживающей 80% текста, сгенерированного ИИ, плотность эмбеддингов пометила 47% исходных рецензий, написанных людьми. Фильтрация с использованием комбинированного балла всех трех проверок снизила точность классификатора настроений с 67,5% до 57,5% на удерживаемом наборе. Метка текста, написанного человеком, была выведена из источника (IMDb) и даты публикации до ChatGPT, поскольку коллекция не проверяет индивидуальное авторство. Эти результаты предполагают, что текущие текстовые проверки могут чрезмерно помечать человеческий контент и вредить производительности downstream-моделей при наивном использовании для фильтрации.