Während der zwei beängstigenden Wochen im Oktober 1962 stand die Welt einem Wimpernschlag vor einem nuklearen Armageddon nahe. Die Vereinigten Staaten und die Sowjetunion kämpften verzweifelt um einen Vorteil während des Wettrüstens des Kalten Krieges. Nachdem die Vereinigten Staaten Mittelstrecken-Atomraketen in Italien und der Türkei stationiert hatten, fürchteten die Sowjets einen Erstschlag und versuchten, ihre eigenen Atomwaffen auf Kuba zu stationieren. Die zweiwöchige angespannte Konfrontation, die folgte, die Kubakrise, eskalierte beinahe zu einem nuklearen Krieg. Doch das geschah nicht. Nicht nur traten die Parteien vom Rand der Katastrophe zurück, sondern die Krise stellte sich als Wendepunkt im Kalten Krieg selbst heraus. Diese Begegnung mit der Katastrophe veränderte das Denken der Führer beider Seiten, sagte William Wohlforth, Politikwissenschaftler an Dartmouth, der nationale Sicherheit und internationale Beziehungen studiert. „Sofort erhielten wir die Hotline-Vereinbarung, sodass wir miteinander sprechen konnten. Wir begannen, auf das Testabkommen hinzuarbeiten. Und langsam, in den folgenden Jahren, entwickelten wir einen großen, komplexen bilateralen Rüstungsbeschränkungsprozess.“
Die Vereinigten Staaten und die Sowjetunion blieben erbitterte Feinde. Aber bei einem gemeinsamen Interesse — die Menschheit nicht auszurotten — konnten sie zusammenarbeiten. Heute warnen Experten der KI-Industrie davor, dass KI-Unternehmen und die Länder, in denen sie ansässig sind, in ihrem eigenen Wettrüsten verfangen sind. Die Folgen, glauben viele, könnten genauso katastrophal sein wie der nukleare Krieg, den Präsident John F. Kennedy und der sowjetische Führer Nikita Chruschtschow knapp vermeiden konnten.
Ein neues Working Paper von Drew Fudenberg, Professor für Wirtschaft am M.I.T. und führender Spieltheoretiker, und Andrew Koh, Professor für Wirtschaft an der Columbia University und Forschungswissenschaftler bei Google Deep Mind, schlägt einen möglichen Weg vor, wie das KI-Wettrüsten auf ein sichereres Tempo verlangsamt werden könnte. Dazu müssten die Akteure im Wettbewerb — sowohl Unternehmen als auch Regierungen — gute Informationen über ihre Fortschritte austauschen und sich darauf einigen, wo die Gefahr tatsächlich beginnt.
Die Professoren Koh und Fudenberg gehen von einer einfachen Prämisse aus: Jeder hat ein Interesse daran, eine Katastrophe zu vermeiden, egal wie eigennützig er sein mag. Gleichzeitig argumentieren sie, dass die Hauptakteure der KI-Industrie starken Anreizen unterliegen, um die Vorherrschaft zu konkurrieren. Die Unternehmen wollen den Marktanteil und die Milliardeninvestitionen, die die fortschrittlichsten Modelle bringen werden. Die Regierungen wollen die wirtschaftlichen Vorteile von KI und außerdem Zugang zu fortschrittlichen Modellen für ihre eigenen Zwecke. Diese wettbewerbsbedingten Dränge treiben die Akteure gefährlich auf den Rand der Katastrophe zu, wo viele befürchten, dass unkontrollierte KI-Agenten beispielsweise Regierungen oder Finanzsysteme stürzen, lebenswichtige Infrastrukturen sabotieren oder einen biologischen Angriff starten könnten.
Quelle: New York Times Top Stories · Zusammengefasst von HeadlinesBriefing