A medida que aumentan las preocupaciones por la inteligencia artificial, los legisladores de la ciudad de Nueva York interrogaron a representantes de grandes empresas de IA el lunes y surgieron con poca claridad sobre cómo planean abordar las amenazas inminentes. Las empresas no cuantificaron el riesgo de un evento catastrófico, si tenían un seguro en esos casos, o si podrían detener un modelo de IA que fallara una prueba de seguridad interna o una revisión externa. En un intercambio tenso, la presidenta del Consejo de la Ciudad, Julie Menin, preguntó a cada empresa cómo están cuantificando "el riesgo impuesto por la IA en el peor escenario catastrófico".
Morgan Dwyer, quien dirige el desarrollo de políticas y operaciones de OpenAI, dijo: "No lo sé", y agregó que no cree que importe si la probabilidad es del 1 por ciento, 10 por ciento o 20 por ciento. Menin respondió que ninguno de estos niveles es remotamente aceptable. Dwyer dijo que OpenAI no debería entrenar modelos que no puedan mantenerse de forma segura bajo control humano.
La audiencia contó con testimonios de Anthropic, OpenAI, Meta y Google, mientras que un representante del brazo de IA de SpaceX, controlado por Elon Musk, no asistió a pesar de una citación. Menin dijo que pediría a un juez que intervenga. Algunas empresas se están preparando para cotizar en público, con el valor de Anthropic proyectado a superar los 2 billones de dólares en algunos informes.
El denunciante Jacob Coxon, quien recientemente dimitió de Anthropic, advirtió que la humanidad probablemente perderá el control de los sistemas de IA, potencialmente provocando la extinción humana, y criticó la cultura de las empresas de "moverse rápido, romper cosas" como imprudente dado los stakes.
Fuente: New York Times Business · Resumido por HeadlinesBriefing