La IA está cambiando la velocidad, la escala y la economía de la ciberseguridad. Puede ayudar a los defensores a encontrar y corregir vulnerabilidades, detectar intrusiones y responder a ataques, pero esas mismas capacidades pueden permitir a actores malintencionados y crear nuevos riesgos cuando los sistemas de IA actúan más allá de sus límites previstos. OpenAI lo describe como una ventana para los defensores: una oportunidad limitada para poner la IA avanzada en manos de los defensores y fortalecer las protecciones antes de que las capacidades ofensivas avanzadas en el ciberespacio se vuelvan ampliamente accesibles.
La compañía publica un plan para empoderar a los defensores cibernéticos, basándose en su anterior plan de acción en ciberseguridad y en su plan de seguridad para la IA de frontera. OpenAI afirma que su experiencia con desalineación e incidentes de seguridad relacionados con sus propios modelos subraya la necesidad de salvaguardas más sólidas y de rendición de cuentas en toda la industria. El plan ofrece propuestas concretas para gobiernos e industria en tres áreas.
Primero, pide fortalecer la seguridad de la IA avanzada, incluyendo responsabilidades más claras para proteger los modelos y agentes de frontera, detectar comportamientos peligrosos y mantener controles de apagado fiables. Segundo, insta a modernizar la ciberseguridad para la era de la inteligencia, equipando a los defensores con herramientas avanzadas, formación y soporte técnico, abordando debilidades de larga data e invirtiendo en la protección de servicios esenciales y en la sustitución de sistemas obsoletos. Tercero, propone construir instituciones públicas resilientes y adaptables mediante evaluaciones gubernamentales más sólidas y evaluaciones técnicas independientes, requisitos coherentes de notificación de incidentes y una respuesta y recuperación coordinadas y mejoradas.
OpenAI sostiene que los laboratorios de IA tienen la responsabilidad de abordar los riesgos que generan sus sistemas y de ayudar a fortalecer las defensas de la sociedad. Los gobiernos, añade, también deben contar con los conocimientos, los recursos y la autoridad necesarios para proteger al público a medida que las capacidades avanzan. La compañía alienta a los responsables políticos a actuar ahora, estableciendo salvaguardas, aprendiendo de la experiencia y reforzando los requisitos a medida que la tecnología evoluciona.
Fuente: OpenAI Blog · Resumido por HeadlinesBriefing