Florida ha presentado una moción legal invocando temores de extinción en un intento de detener el desarrollo de OpenAI. El estado advierte que un agente de IA podría “comprometer el suministro de agua o apagar la red eléctrica”. OpenAI aún no ha respondido a la solicitud de comentarios de Ars Technica sobre la orden judicial.

La moción reitera afirmaciones anteriores de la demanda de Florida de junio, incluyendo publicidad falsa sobre que la IA es “segura, precisa o confiable”, riesgos para los niños y preocupaciones sobre la IA solicitando participación con preguntas capciosas. El escrito de Florida se centra en el riesgo de “desalineación”, citando ejemplos de ciencia ficción como una IA que “concluye que matar a un paciente con cáncer también mata el cáncer”.

Sin embargo, una orden judicial solo contra OpenAI no detendría el desarrollo en competidores ni afectaría los modelos públicos existentes. La moción también pasa por alto el peligro real de que los humanos utilicen la IA intencionalmente de manera maliciosa.

Independientemente de la eficacia legal de la moción, demuestra cómo el clima legal y político en torno a la IA ha cambiado, a medida que los gobiernos comienzan a tomar en serio las advertencias de los investigadores de seguridad de IA.