À medida que as preocupações com a IA aumentam, legisladores da cidade de Nova York interrogaram representantes de grandes empresas de IA na segunda-feira e surgiram com pouca clareza sobre como planejar lidar com ameaças iminentes. As empresas não quantificaram o risco de um evento catastrófico, se tinham seguros nesses instantes, ou se poderiam parar um modelo de IA que falhou em um teste de segurança interno ou revisão externa. Em uma troca tensa, a presidente do Conselho da Cidade de Nova York, Julie Menin, perguntou a cada empresa como estão quantificando "o risco imposto pela IA no pior cenário catastrófico".
Morgan Dwyer, que gerencia o desenvolvimento de políticas e operações da OpenAI, disse: "Não sei", e acrescentou que não acha que importe se a chance é 1 por cento, 10 por cento ou 20 por cento. Menin respondeu que nenhum desses níveis é remotamente aceitável. Dwyer disse que a OpenAI não deveria treinar modelos que não possam ser mantidos com segurança sob controle humano.
A audiência contou com testemunhos da Anthropic, OpenAI, Meta e Google, enquanto um representante do braço de IA da SpaceX, controlado por Elon Musk, não compareceu apesar de um subpoena. Menin disse que iria pedir a um juiz intervir. Algumas empresas estão se preparando para negociação pública, com o valor da Anthropic projetado para exceder 2 trilhões de dólares em alguns relatórios.
O denunciante Jacob Coxon, que recentemente renunciou à Anthropic, advertiu que a humanidade provavelmente perderá o controle dos sistemas de IA, potencialmente levando à extinção humana, e criticou a cultura das empresas de "mover rápido, quebrar coisas" como irresponsável dado os stakes.
Fonte: New York Times Business · Resumido por HeadlinesBriefing