OpenAI und das polnische Nationale Forschungsinstitut NASK haben eine Vereinbarung unterzeichnet, um eine Zusammenarbeit in den Bereichen KI-Sicherheit, Sicherheit und technische Forschung zu prüfen. Die Partnerschaft bündelt die Expertise beider Organisationen, um neu auftretende Risiken besser zu verstehen, Schutzmaßnahmen zu stärken und zu erforschen, wie fortgeschrittene KI zu einem sichereren und widerstandsfähigeren digitalen Ökosystem beitragen kann.
Mit wachsender Leistungsfähigkeit von KI-Systemen wird die internationale Zusammenarbeit zwischen Entwicklern und öffentlichen Forschungseinrichtungen unerlässlich sein. Die bestehende Arbeit von OpenAI mit dem US-Zentrum für die Weiterentwicklung von Standards und Innovation für Superintelligenz (CAISSI), dem britischen AI Security Institute (AISI) und anderen öffentlichen Forschungseinrichtungen hat bereits dazu beigetragen, Schutzmaßnahmen zu stärken, Sicherheitslücken in KI-Agenten zu identifizieren und zu beheben sowie die Sicherheit von Frontier-KI voranzubringen.
Im Rahmen der Vereinbarung werden das KI-Sicherheitsforschungszentrum von NASK, das als polnisches Institut für Künstliche-Intelligenz-Sicherheit (AISI) fungiert, und OpenAI zusammenarbeiten. Gegenstand der Forschung sind Methoden zur Bewertung zunehmend leistungsfähiger KI-Systeme, die Identifizierung möglicher Schwachstellen und die Stärkung von Schutzmaßnahmen. OpenAI hat die USA aufgefordert, gemeinsam mit Ländern weltweit an internationalen technischen Standards für Frontier-KI zu arbeiten. Gemeinsame Ansätze zur Bewertung von Fähigkeiten, Risikoeinschätzung, Prüfung von Schutzmaßnahmen und Meldung von Vorfällen können Ländern helfen, Erkenntnisse zu vergleichen und auf grenzüberschreitende Risiken zu reagieren.
Die Vereinbarung baut zudem auf der bisherigen Zusammenarbeit von OpenAI mit Cyberabwehrexperten in Polen auf. Im Juli erhielt CERT Polska, das innerhalb von NASK arbeitet, über Daybreak Zugang zu cyberfähigen Modellen von OpenAI. Das Team nutzte OpenAI-Modelle, um sechs Schwachstellen in MikroTik RouterOS aufzudecken, darunter Fehler, die sich kombinieren ließen, um betroffene Geräte ohne Authentifizierung zu übernehmen. Der Anbieter veröffentlichte Korrekturen, von denen CERT Polska bestätigte, dass sie die beobachteten Angriffe verhindert haben.
Quelle: OpenAI Blog · Zusammengefasst von HeadlinesBriefing