Происхождение контента помогает людям понять, откуда взялся контент, как он был создан или отредактирован, и содержит ли он сигналы, связанные с нашими моделями. Сегодня мы делимся нашим подходом к маркировке текста в ответ на Закон ЕС об ИИ, и как он вписывается в нашу более широкую работу.
Начиная с сегодняшнего дня, клиенты API по всему миру могут включить маркировку текста для выбранных моделей. В ближайшие недели мы добавим невидимую маркировку к выводимому тексту ChatGPT и Codex в Европейском союзе. Мы открываем заявки на доступ к нашему детектору маркировки текста, изначально ограниченному одобренными исследователями и экспертными организациями.
Наша технология маркировки текста, text Grain, добавляет невидимый статистический сигнал к выбору слов модели. Показатели обнаружения были значительно ниже для такого контента, как математика, где меньше гибкости в выборе слов. Редактирование может ослабить маркировку; замена 10% слов синонимами снизила обнаружение примерно с 92% до 66%.
Источник: OpenAI Blog · Сводку подготовил HeadlinesBriefing