Google запустил улучшенный детектор контента SynthID AI по всему миру, но пользователи должны войти в систему с поддерживаемой учетной записью. Инструмент поддерживает учетные записи Google, OpenAI и Apple. Каждый пользователь получает ежедневную квоту примерно на 10 проверок изображений, видео и аудио. Инженеры Google говорят, что ограничение доступа необходимо, чтобы предотвратить использование проверок для разработки инструментов удаления SynthID.
Хотя SynthID предоставляет удобное единое место для проверки медиа на наличие водяных знаков популярных инструментов ИИ, у него есть ограничения. Партнеры Google далеко не единственные источники контента ИИ. Некоторые провайдеры используют другую технологию водяных знаков (например, Meta), в то время как другие вообще не используют водяные знаки. Модели с открытым весом можно запускать на персональном оборудовании для создания реалистичного контента ИИ без маркировки метаданных.
Веб-сайт содержит отказ от ответственности о том, что большая часть контента ИИ не будет идентифицирована. Несмотря на усилия Google, кто-то может найти способ удалить водяные знаки SynthID. Лучшим подходом может быть использование криптографических технологий, таких как C2PA, для маркировки реального контента. Телефоны Pixel от Google входят в число немногих устройств, которые это делают. А пока SynthID — лучший доступный инструмент для выявления подделок ИИ.
Источник: Ars Technica · Сводку подготовил HeadlinesBriefing