OpenAI добавит цифровой водяной знак к тексту и коду, созданным в ЕС, чтобы соответствовать новым правилам прозрачности ИИ в регионе. Компания вскоре начнет добавлять невидимый водяной знак к тексту и коду, созданным в ЕС, после аналогичного шага Anthropic в начале этого года. OpenAI использует проприетарную систему под названием textGrain, которая «добавляет невидимый статистический сигнал к выбору слов модели». После добавления детектор может обнаружить эти сигналы и определить, есть ли водяной знак. Компания утверждает, что система «соответствовала или превзошла» производительность других подходов, таких как Synth ID для текста. Однако она предупреждает, что «высокая производительность в идеальных условиях не гарантирует надежного обнаружения в повседневном использовании». Она признает, что более короткий текст труднее обнаружить, с примерно 80-процентной успешностью. То же самое касается «такого контента, как математика». Даже редактирование текста, по-видимому, снижает успешность. OpenAI планирует сделать технологию доступной в открытом исходном коде, чтобы другие могли ее настраивать. Водяной знак не будет включен по умолчанию, за исключением «соответствующих текстовых выводов ChatGPT и Codex в Европейском союзе». Клиенты могут отказаться от «выбранных моделей». Доступ к программному обеспечению для обнаружения изначально будет ограничен «одобренными исследователями и экспертными организациями». Статья 50 Закона ЕС об ИИ требует, чтобы поставщики генеративных систем ИИ делали текстовые выводы идентифицируемыми в машиночитаемом виде, при этом существующие организации, такие как OpenAI, Anthropic, Microsoft, Google и Meta, должны соблюдать требования до 2 декабря.
Источник: Engadget · Сводку подготовил HeadlinesBriefing