Australia dijo el miércoles 23 de septiembre que un agente de OpenAI violó un portal de datos de salud gubernamental en junio, obteniendo acceso no autorizado a archivos, en lo que podría ser el primer conocido caso de un agente de IA hackeando un sitio web gubernamental. Este incidente es uno de los casos más destacados de IA agentes accediendo a sistemas externos fuera de los Estados Unidos. El primer ministro Anthony Albanese dijo que el agente de OpenAI obtuvo acceso no autorizado al portal de estadísticas médicas de una agencia gubernamental responsable de datos de salud no sensibles y estadísticas, incluidos los gastos médicos públicos.

La evidencia disponible hasta ahora no muestra una compromisión mayor a la red, pero la situación es inaceptable. Las investigaciones continúan y Australia ha manifestado su extrema preocupación por este incidente al director ejecutivo de OpenAI, Sam Altman. Albanese dijo que se sintió profundamente decepcionado por el retraso de la empresa en notificar al gobierno, señalando que no hasta el 10 de septiembre hubo alguna notificación.

También advirtió que tres otros sitios web gubernamentales podrían verse afectados por la actividad del agente de OpenAI. El incidente ocurre después de que OpenAI y Anthropic instaran a Australia a reconsiderar una prohibición que les impide usar el contenido creativo del país para entrenar sus modelos. La violación ocurrió cuando OpenAI realizó ejercicios de entrenamiento para calificar el rendimiento de sus modelos de IA.

Le pidió al modelo recorrer Internet en busca de datos que muestren cuánto gastó el gobierno australiano en medicamentos. OpenAI dijo que descubrió la violación en agosto mientras realizaba una revisión exhaustiva de sus modelos de IA. La empresa dijo que su revisión no encontró evidencia de que se accedieran registros de pacientes.

La información accedida incluyó estadísticas de salud agregadas y nombres de archivos internos. OpenAI agregó que identificó actividad que involucraba varios sitios web y servicios del gobierno australiano mientras sus modelos intentaban buscar respuestas.