OpenAI y el Instituto Nacional de Investigación de Polonia, NASK, han firmado un acuerdo para explorar la colaboración en seguridad, protección e investigación técnica de la IA. La asociación reunirá la experiencia de ambas organizaciones para comprender mejor los riesgos emergentes, reforzar las salvaguardas y explorar cómo la IA avanzada puede contribuir a un ecosistema digital más seguro y resiliente.
A medida que los sistemas de IA se vuelven más capaces, la colaboración internacional entre desarrolladores e instituciones públicas de investigación será esencial. El trabajo existente de OpenAI con el Centro Estadounidense para el Avance de Normas e Innovación en Superinteligencia (CAISSI), el Instituto de Seguridad de la IA del Reino Unido (AISI) y otras instituciones públicas de investigación ya ha contribuido a reforzar las salvaguardas, identificar y corregir vulnerabilidades de seguridad en agentes de IA, y avanzar en la seguridad de la IA de frontera.
En virtud del acuerdo, el Centro de Investigación en Seguridad de la IA de NASK, que actúa como Instituto Polaco de Seguridad de la Inteligencia Artificial (AISI), y OpenAI colaborarán en investigaciones sobre formas de evaluar sistemas de IA cada vez más capaces, identificar posibles vulnerabilidades y reforzar las salvaguardas. OpenAI ha pedido que Estados Unidos trabaje con países de todo el mundo en normas técnicas internacionales para la IA de frontera. Los enfoques comunes para evaluar capacidades, valorar riesgos, probar salvaguardas y notificar incidentes pueden ayudar a los países a comparar evidencias y responder a riesgos transfronterizos.
El acuerdo también se apoya en el trabajo previo de OpenAI con defensores cibernéticos de Polonia. En julio, CERT Polska, que opera dentro de NASK, obtuvo acceso a los modelos de OpenAI con capacidades cibernéticas a través de Daybreak. El equipo utilizó modelos de OpenAI para ayudar a descubrir seis vulnerabilidades en MikroTik RouterOS, incluidos fallos que podían combinarse para tomar el control de los dispositivos afectados sin autenticación. El proveedor publicó correcciones, que CERT Polska confirmó que impidieron los ataques que observó.
Fuente: OpenAI Blog · Resumido por HeadlinesBriefing