Google hat einen verbesserten SynthID AI-Inhaltsdetektor weltweit eingeführt, aber Benutzer müssen sich mit einem unterstützten Konto anmelden. Das Tool unterstützt Google-, OpenAI- und Apple-Konten. Jeder Benutzer erhält ein tägliches Kontingent von etwa 10 Bild-, Video- und Audioüberprüfungen. Google-Ingenieure sagen, dass die Zugangsbeschränkung notwendig sei, um zu verhindern, dass Personen die Überprüfungen nutzen, um SynthID-Entfernungswerkzeuge zu entwickeln.
Obwohl SynthID ein praktisches einzelnes Ziel bietet, um Medien auf Wasserzeichen beliebter KI-Tools zu überprüfen, hat es Einschränkungen. Googles Partner sind bei weitem nicht die einzigen Quellen für KI-Inhalte. Einige Anbieter verwenden eine andere Wasserzeichentechnologie (wie Meta), während andere überhaupt keine Wasserzeichen verwenden. Open-Weight-Modelle können auf persönlicher Hardware ausgeführt werden, um realistische KI-Inhalte ohne Metadatenkennzeichnung zu produzieren.
Die Website enthält einen Haftungsausschluss, dass viele KI-Inhalte nicht identifiziert werden. Trotz Googles Bemühungen könnte jemand einen Weg finden, SynthID-Wasserzeichen zu entfernen. Der beste Ansatz könnte die Verwendung kryptografischer Technologien wie C2PA sein, um echte Inhalte zu kennzeichnen. Googles Pixel-Telefone gehören zu den wenigen Geräten, die dies tun. In der Zwischenzeit ist SynthID das beste verfügbare Tool, um KI-Fälschungen zu identifizieren.
Quelle: Ars Technica · Zusammengefasst von HeadlinesBriefing