Google macht Synth ID Detector, sein Web-Tool zur Identifizierung von KI-erstellten und KI-bearbeiteten Inhalten, für alle verfügbar. Das webbasierte Tool kann Bilder, Videos und Audio-Clips markieren, die mit KI-Tools von Google, Open AI, NVIDIA und Kakao erstellt wurden. Die Nutzung ist kostenlos, erfordert jedoch, dass sich Benutzer mit einem Google-, Open AI- oder Apple-Konto anmelden. Die Website wird auch eines der ersten KI-Erkennungstools sein, das mit Apples KI-Funktionen erstellte Bilder identifizieren kann. Google sagt, dass die Unterstützung für mit Apple Intelligence erstellte und bearbeitete Bilder "bald" kommt.
Google arbeitet seit mehr als einem Jahr an Synth ID Detector und hat zuvor Versionen für Journalisten bereitgestellt. Jetzt kann jeder synthid.com besuchen, um zu überprüfen, ob ein Inhalt ein Synth ID-Wasserzeichen enthält. Die Erstellung einer dedizierten Website macht diese Funktionen leichter zugänglich, insbesondere für Personen, die Googles KI-Tools noch nicht nutzen.
Wie bei allen KI-Erkennungsfunktionen gibt es einige Einschränkungen. Synth ID Detector kann nicht alle KI-generierten Inhalte erkennen, da viele Unternehmen auf unterschiedliche Standards für Wasserzeichen angewiesen sind. Wasserzeichen können in manchen Situationen auch aus Inhalten entfernt werden. Und Googles Website unterscheidet nicht zwischen vollständig KI-erstellten Inhalten und solchen, die lediglich mit KI bearbeitet wurden. Daher werden keine spezifischen Details darüber bereitgestellt, wie ein bestimmter Inhalt erstellt wurde oder welche Aspekte synthetisch sein könnten.
Obwohl Synth ID Detector ein Schritt in die richtige Richtung ist, ist die Überprüfung KI-generierter Inhalte noch lange nicht narrensicher. KI-Erkennungstools wie Synth ID Detector basieren auf einem Flickenteppich unterschiedlicher Standards, daher gibt es keinen universellen Prüfer. Meta beispielsweise experimentiert mit einem eigenen Web-Tool, das mit seinen neuesten Muse Image-Modellen erstellte oder bearbeitete Bilder identifizieren kann, jedoch nicht die von anderen Unternehmen oder sogar seinen eigenen früheren Modellen.
Aber es scheint wahrscheinlich, dass Google im Laufe der Zeit mehr Unternehmen dazu bringen wird, Synth ID zu unterstützen. Das Unternehmen sagte zuvor, dass Eleven Labs sich verpflichtet habe, Unterstützung für die Wasserzeichen hinzuzufügen. Auf seiner Website weist Google darauf hin, dass es "kontinuierlich daran arbeitet, unsere Partnerschaften zu erweitern, um die Erkennung von mehr generierten Medien zu ermöglichen."
Quelle: Engadget · Zusammengefasst von HeadlinesBriefing