O recente pedido de falência da Character. AI trouxe à tona um dilema que as empresas de IA vêm evitando há muito tempo: quando os modelos causam danos, quem é responsável? A Character. AI gastou somas elevadas com honorários advocatícios após ser processada por morte injusta (Garcia v. Character Technologies, Inc, 2024), com alegações de que sua IA incentivava usuários a tirarem a própria vida. Casos como este estão forçando um acerto de contas sobre como os provedores de LLMs e os produtos construídos sobre eles respondem por seus resultados.
Relatos de chatbots causando danos aparecem com frequência, e os riscos são mais graves na saúde mental, na medicina e em outras áreas de alto risco. Continua o debate sobre como a responsabilidade deve ser definida e quem é realmente culpado pelos erros da IA. À medida que assistentes de IA que enviam e-mails, assinam contratos e realizam outras ações em nome do usuário se tornam comuns, o potencial de danos no mundo real aumenta ainda mais.
Sob a responsabilidade por produtos, as empresas geralmente respondem pelos danos causados por seus bens. As reivindicações podem se basear em projeto defeituoso, fabricação defeituosa ou instruções defeituosas. A maioria dos argumentos sobre IA concentra-se no projeto e normalmente é enquadrada como responsabilidade objetiva ou negligência. A negligência pergunta se o fabricante testou o produto de forma insuficiente ou o lançou apesar de riscos conhecidos. Previsibilidade e projeto alternativo são conceitos-chave: o dano poderia ter sido razoavelmente antecipado, e o produto poderia ter sido construído de forma mais segura e ainda assim atingido seus objetivos?
Esses conceitos jurídicos se conectam diretamente às decisões de engenharia. Entender como os danos são discutidos nos tribunais ajuda os engenheiros a construir sistemas de IA mais seguros desde o início.
Fonte: Towards Data Science · Resumido por HeadlinesBriefing