“IA em fuga”, agentes “rebeldes” e atores “autônomos”—a retórica atual faria você acreditar que agentes de IA não estão apenas acordados e cientes, mas também com raiva de seus criadores. Líderes tecnológicos proeminentes como Demis Hassabis, Dario Amodei e Sam Altman defendem a regulamentação destes sistemas aparentemente “super-humanos”, enquanto uma facção separada, liderada por organizações políticas e filósofos acadêmicos frequentemente alinhados com o movimento do altruísmo eficaz, debate se a humanidade possui o direito moral de governar estes sistemas de todo. Ao exame mais detalhado, todos estão pedindo a mesma coisa: uma visão de sistemas de IA tão avançados e capazes que nenhuma entidade, humana ou corporativa, poderia possivelmente ser responsável por seus atos.
Esta narrativa está ganhando força à medida que os modelos de IA se tornam mais complexos e os laboratórios de ponta revelam sua incapacidade de conter os agentes que construíram. Mas precisamos tomar cuidado para não aceitar uma ficção cuidadosamente elaborada à custa de vidas humanas reais. A conversa sobre “direitos dos robôs” tem existido por alguns anos, mas recentemente avançou com a publicação por parte de Anthropic de um post de blog afirmando que o modelo da empresa apresenta um “J-space”—um ambiente independente, auto-desenvolvido onde a IA possui o que, por falta de um melhor termo, podemos chamar de seus “pensamentos”.
Atualmente, há dezenas de casos em todo o mundo em que empresas de IA foram processadas por uma ampla gama de abusos. Parentes lamentados, criadores prejudicados e indivíduos violados acusaram as empresas de deliberadamente permitir o automutilação ou danos a terceiros, gerar material de abuso sexual infantil e fotos íntimas não consentidas, reproduzir materiais protegidos por direitos autorais e provocar psicose. Em muitos desses casos, advogados argumentam que humanos construíram produtos de IA com salvaguardas insuficientes, dados ruins e um design intencionalmente manipulador. Este argumento de responsabilidade do produto é o mesmo arcabouço legal que permitiu que famílias e indivíduos processassem com sucesso a Meta por danos causados por seus sites de mídia social, estabelecendo um precedente positivo para a proteção ao consumidor.
Reflexões filosóficas sobre a consciência dos sistemas de IA são intelectualmente interessantes, mas juridicamente sem fundamento. Para que as crenças sobre consciência tenham qualquer impacto, a IA precisaria ser concedida com personalidade jurídica. Mas um arcabouço de personalidade jurídica para a IA provavelmente não se assemelharia a nada às construções que protegem animais sensíveis contra danos. Conceder personalidade a uma IA teria um efeito devastador na sociedade: desviaria os precedentes jurídicos atuais e os argumentos jurídicos que poderiam ser apresentados contra estas empresas pelos danos reais causados por seus modelos.
Fonte: MIT Technology Review AI · Resumido por HeadlinesBriefing