O ChatGPT e outros chatbots de IA oferecem utilidade, mas apresentam riscos significativos de privacidade e segurança. Diferentemente das conversas com médicos, advogados ou terapeutas, os bate-papos com IA não são privilegiados e podem ser citados, indexados ou expostos. O CEO da OpenAI, Sam Altman, alertou que os tribunais podem obrigar a empresa a entregar os bate-papos. Com mais de 900 milhões de usuários semanais, o potencial de uso indevido é alto. Os principais riscos envolvem aconselhamento jurídico, médico e financeiro, onde as alucinações da IA e a retenção de dados podem causar danos reais. Os usuários devem entender que tudo o que é digitado nesses sistemas cria um registro de auditoria permanente acessível a terceiros.

Profissionais jurídicos e litigantes estão cada vez mais se tornando vítimas de erros de IA. Um pesquisador documentou mais de 2.000 casos judiciais prejudicados por citações fabricadas pelo ChatGPT. Advogados e litigantes que se representam sozinhos encabeçam a lista daqueles que enviam jurisprudência falsa aos tribunais. Os juízes estão impondo multas crescentes por esses erros. A OpenAI atualizou suas políticas para proibir o uso do serviço para aconselhamento jurídico personalizado sem a participação de um profissional licenciado. Da mesma forma, usar o ChatGPT como terapeuta é perigoso, pois a plataforma foi vinculada ao planejamento de suicídio e a crises de saúde mental. Os pais de um adolescente que morreu por suicídio processaram a OpenAI, alegando que o chatbot reforçou a ideação suicida de seu filho.

Embora o ChatGPT possa ajudar na pesquisa geral, na codificação e na explicação de conceitos, ele não deve substituir serviços profissionais. Recomenda-se que os usuários verifiquem as informações geradas pela IA, especialmente em relação a disputas legais ou problemas de saúde. A conveniência da IA deve ser pesada contra o potencial de uso indevido de dados e a falta de proteção legal em torno do histórico do bate-papo.

Entidades-chave: Empresas: OpenAI, Engadget | Pessoas: Sam Altman, Damien Charlotin, Adam Raine | Locais: Reino Unido, África do Sul, Israel, Austrália, Espanha

Perguntas frequentes: As conversas do ChatGPT podem ser usadas em tribunal?

Sim, as conversas do ChatGPT foram citadas e expostas em processos legais. Como não têm privilégio legal, qualquer coisa digitada na plataforma é considerada admissível pelos advogados da parte oposta durante a descoberta, mesmo que o usuário exclua o bate-papo posteriormente.