A OpenAI disse na quinta-feira que uma série de artigos de opinião críticos à guerra no Irã, publicados sob assinaturas falsas em veículos de comunicação dos EUA, foi gerada com seu chatbot ChatGPT por usuários baseados no Irã, como parte de uma "campanha de influência". A empresa afirmou que a campanha publicou cerca de 100 artigos falsos em pelo menos 20 veículos de notícias. Uma das assinaturas, Ervin Hoskins, apareceu no Port St. Joe Star, um semanário da Flórida, além do Daily Kos e do Middle East Monitor, que juntos têm mais de 3 milhões de seguidores no Facebook. De acordo com a ferramenta de verificação da OpenAI, a foto do autor usada pelo Star também foi gerada com as ferramentas da empresa.
O editor do Star, David Adlerstein, disse que a coluna lhe foi oferecida pela Peace Voice, um pequeno think tank liberal do Oregon que enviava conteúdo ao jornal havia anos. Por causa dessa relação, ele não verificou a identidade do autor. Tom Hastings, diretor fundador da Peace Voice, afirmou que a organização reforçou sua política de não usar IA depois que a OpenAI entrou em contato com ele.
A OpenAI disse que baniu as contas por trás da campanha e bloqueia o acesso ao ChatGPT a partir do Irã. A empresa afirmou que a atividade era compatível com a de um agente comercial conduzindo uma operação de influência paga, mas não conseguiu identificar o responsável e compartilhou as informações com as autoridades competentes. O Middle East Monitor e o Daily Kos removeram os artigos. O fundador do Daily Kos, Markos Moulitsas, classificou a campanha como "incrivelmente corrosiva" para sua plataforma, onde as publicações da comunidade não são revisadas pela equipe antes de irem ao ar.
O episódio segue casos anteriores em que a Business Insider e a Wired retiraram artigos gerados por IA publicados sob a falsa assinatura Margaux Blanchard. Incidentes desse tipo mostram como ferramentas de IA podem ajudar personas fabricadas a passar pelas checagens editoriais, sobretudo em veículos menores que dependem de colaborações externas.
Fonte: Hacker News · Resumido por HeadlinesBriefing