Ein umfassender Bericht von Miles Brundage, Jack Clark und Shahar Avin untersucht das Landschaftsbild potenzieller Sicherheitsbedrohungen, die aus der bösartigen Nutzung künstlicher Intelligenz entstehen. An der Studie wirkten auch Dario Amodei, Roman Yampolskiy und Joanna Bryson mit; sie analysiert, wie KI Bedrohungen in digitalen, physischen und politischen Bereichen prägen könnte. Nach der Bewertung dieser sich wandelnden Risiken präsentieren die Autoren vier Empfehlungen auf hoher Ebene für KI-Forschende und andere Stakeholder, um bösartige KI-Anwendungen besser vorherzusagen, zu verhindern und einzudämmen. Sie identifizieren auch vielversprechende Forschungsbereiche, die Verteidigungen stärken oder Angriffe weniger wirksam machen könnten. Der Bericht schließt mit einer Diskussion über das langfristige Gleichgewicht zwischen Angreifern und Verteidigern, löst die zugrunde liegenden Dynamiken jedoch nicht endgültig. Das Papier wurde ursprünglich am 20. Februar 2018 eingereicht und am 1. Dezember 2024 aktualisiert, was das anhaltende Interesse an KI-Sicherheit und -Sicherheit wider spiegelt.

Der auf Hacker News veröffentlichte Bericht hat die Aufmerksamkeit von Technologen, politischen Entscheidungsträgern und Forschenden erregt, die sich wegen der Dual-Use-Natur von KI-Technologien Sorgen machen. Seine Ergebnisse unterstreichen die Dringlichkeit proaktiver Maßnahmen, während die Fähigkeiten von KI voranschreiten.

Die Autoren betonen die Zusammenarbeit zwischen KI-Entwicklern, Sicherheitsexperten und Governance-Gremien, um aufkommende Risiken verantwortungsvoll anzugehen.

Ihre Arbeit bleibt einflussreich bei der Gestaltung von Diskussionen über KI-Sicherheit und strategische Aufsicht.

Wesentliche Entitäten: Personen: Miles Brundage, Shahar Avin, Jack Clark, Helen Toner, Peter Eckersley, Ben Garfinkel, Allan Dafoe, Paul Scharre, Thomas Zeitzoff, Bobby Filar, Hyrum Anderson, Heather Roff, Gregory C. Allen, Jacob Steinhardt, Carrick Flynn, Seán Ó hÉigeartaigh, SJ Beard, Haydn Belfield, Sebastian Farquhar, Clare Lyle, Rebecca Crootof, Owain Evans, Michael Page, Joanna Bryson, Roman Yampolskiy, Dario Amodei