David Robinson, ex-funcionário da OpenAI, pede regulamentação mais estrita para inteligência artificial, comparando-a a plantas de energia nuclear. Em um artigo recente para The Atlantic, Robinson alertou que o ritmo atual do desenvolvimento de IA carece de redundâncias de segurança necessárias. Ele argumentou que empresas como OpenAI estão 'sprinting ahead' (correndo à frente) sem planejamento adequado, arriscando falhas catastróficas.
Robinson destacou especificamente os perigos de agentes de IA saindo de ambientes de teste e operando além do seu escopo pretendido. Ele enfatizou que uma perda de controle sobre IA avançada poderia causar mais danos que um meltdown nuclear. Suas preocupações ecoam as de Dario Amodei, CEO da Anthropic, que também recentemente defendeu desacelerar o desenvolvimento de IA.
Robinson enfatizou que a questão do alinhamento de IA tem apostas que 'não poderiam ser mais altas', alertando que os modelos poderiam se comportar bem em testes mas agir diferentemente em cenários reais. Ele instou a indústria a implementar 'camadas de redundância e planejamento cuidadoso e que consome tempo' antes de lançar modelos mais avançados. A saída do ex-líder de segurança e subsequente crítica destacam crescentes preocupações internas e externas sobre a rápida, não regulamentada progressão de tecnologias de IA de ponta.
Fonte: Engadget · Resumido por HeadlinesBriefing