O Google está disponibilizando o Synth ID Detector, sua ferramenta web para identificar conteúdo criado e editado por IA, para todos. A ferramenta baseada na web pode sinalizar imagens, vídeos e clipes de áudio criados com ferramentas de IA do Google, Open AI, NVIDIA e Kakao. É gratuita, mas exige que os usuários façam login com uma conta Google, Open AI ou Apple. O site também será uma das primeiras ferramentas de detecção de IA capazes de identificar imagens criadas com os recursos de IA da Apple. O Google diz que o suporte para imagens criadas com Apple Intelligence chegará "em breve".
O Google trabalha no Synth ID Detector há mais de um ano e anteriormente disponibilizou versões para jornalistas. Agora, qualquer pessoa pode visitar synthid.com para verificar se um conteúdo possui uma marca d'água Synth ID. Criar um site dedicado torna essas capacidades mais fáceis de acessar, especialmente para pessoas que ainda não usam as ferramentas de IA do Google.
Como acontece com todos os recursos de detecção de IA, existem algumas limitações. O Synth ID Detector não consegue detectar todo o conteúdo gerado por IA, pois muitas empresas dependem de padrões diferentes para marcas d'água. Marcas d'água também podem ser removidas do conteúdo em algumas situações. E o site do Google não distingue entre conteúdo totalmente criado por IA e conteúdo meramente editado com ela. Portanto, não fornecerá detalhes específicos sobre como um determinado conteúdo foi criado ou quais aspectos podem ser sintéticos.
Embora o Synth ID Detector seja um passo na direção certa, verificar conteúdo gerado por IA ainda está longe de ser infalível. Ferramentas de detecção de IA como o Synth ID Detector dependem de uma colcha de retalhos de diferentes padrões, portanto não existe um verificador universal. A Meta, por exemplo, tem experimentado sua própria ferramenta web, que pode identificar imagens criadas ou editadas com seus modelos mais recentes Muse Image, mas não as de outras empresas ou mesmo seus próprios modelos anteriores.
Mas parece provável que o Google consiga que mais empresas adiram ao Synth ID com o tempo. A empresa disse anteriormente que a Eleven Labs se comprometeu a adicionar suporte para as marcas d'água. Em seu site, o Google observa que está "trabalhando continuamente para expandir nossas parcerias para permitir a detecção de mais mídia gerada."
Fonte: Engadget · Resumido por HeadlinesBriefing