Google делает Synth ID Detector, свой веб-инструмент для идентификации контента, созданного и отредактированного ИИ, доступным для всех. Веб-инструмент может помечать изображения, видео и аудиоклипы, созданные с помощью инструментов ИИ от Google, Open AI, NVIDIA и Kakao. Он бесплатен в использовании, но требует от пользователей входа в систему с учетной записью Google, Open AI или Apple. Веб-сайт также станет одним из первых инструментов обнаружения ИИ, способных идентифицировать изображения, созданные с помощью функций ИИ от Apple. Google заявляет, что поддержка изображений, созданных и отредактированных с помощью Apple Intelligence, появится "скоро".
Google работал над Synth ID Detector более года и ранее предоставлял его версии журналистам. Теперь любой может посетить synthid.com, чтобы проверить, имеет ли контент водяной знак Synth ID. Создание выделенного веб-сайта делает эти возможности более доступными, особенно для людей, которые еще не используют инструменты ИИ от Google.
Как и в случае со всеми функциями обнаружения ИИ, существуют некоторые ограничения. Synth ID Detector не может обнаружить весь контент, созданный ИИ, поскольку многие компании полагаются на разные стандарты нанесения водяных знаков. Водяные знаки также могут быть удалены из контента в некоторых ситуациях. И веб-сайт Google не различает контент, полностью созданный ИИ, и контент, который был лишь отредактирован с его помощью. Поэтому он не будет предоставлять конкретных подробностей о том, как был создан конкретный фрагмент контента или какие аспекты могут быть синтетическими.
Хотя Synth ID Detector является шагом в правильном направлении, проверка контента, созданного ИИ, все еще далека от безошибочности. Инструменты обнаружения ИИ, такие как Synth ID Detector, полагаются на лоскутное одеяло различных стандартов, поэтому не существует универсального средства проверки. Meta, например, экспериментирует с собственным веб-инструментом, который может идентифицировать изображения, созданные или отредактированные с помощью ее последних моделей Muse Image, но не изображения от других компаний или даже ее собственных предыдущих моделей.
Но похоже, что со временем Google сможет привлечь больше компаний к Synth ID. Компания ранее заявила, что Eleven Labs обязалась добавить поддержку водяных знаков. На своем веб-сайте Google отмечает, что "постоянно работает над расширением нашего партнерства, чтобы обеспечить обнаружение большего количества сгенерированного медиа".
Источник: Engadget · Сводку подготовил HeadlinesBriefing