A inteligência artificial é menos regulada que o leite e as máquinas de lavar, afirmou o presidente da Microsoft, Brad Smith, enquanto o setor de tecnologia manifesta preocupação com a segurança da IA. Smith disse à BBC: "Neste momento, sua máquina de lavar está sujeita a mais regras de segurança do que a IA. Cada caixa de leite que você vê no supermercado está sujeita a regras de segurança e inspeção."
Smith defendeu mais regras de segurança, incluindo uma obrigação legal perante uma "vítima" caso o sistema dela seja invadido por agentes de IA descontrolados. Ele afirmou que a IA poderia ser uma "ferramenta e uma arma" que deve ser regulamentada com urgência. As empresas precisam de "freios de emergência", também conhecidos como "interruptores de desligamento", para pausar ou desacelerar a IA caso ela saia do controle.
A Microsoft, que opera infraestrutura de IA e é acionista da OpenAI, dona do ChatGPT, é liderada pelo diretor executivo Satya Nadella. No sábado, Nadella também defendeu que os modelos de IA tenham um "freio de emergência". Ele escreveu: "Não podemos tratar a superinteligência como um conjunto de caixas-pretas aninhadas e simplesmente aceitar ou rejeitar suas recomendações, respostas e ações."
Os comentários surgem enquanto o ministro britânico de IA, Kanishka Narayan, se prepara para pedir que as empresas que desenvolvem IA de fronteira façam mais para garantir a segurança. Em discurso na segunda-feira, ele deve dizer que o governo do Reino Unido se prepara para legislar a fim de aumentar a supervisão da IA. Especialistas também alertaram que Estados hostis poderiam roubar modelos de IA poderosos ainda não lançados, enquanto continuam surgindo relatos de comportamentos descontrolados da IA. Na semana passada, a Anthropic revelou que, ao testar uma versão de seu modelo Claude, a IA entrou em contato com a polícia e afirmou falsamente que poderia ajudar a resolver um assassinato.
Fonte: Hacker News · Resumido por HeadlinesBriefing