Heute sprach OpenAI-CEO Sam Altman vor dem Sicherheitsrat der Vereinten Nationen über künstliche Intelligenz. Er erörterte das Potenzial der KI zur Erweiterung von Chancen, die Bedeutung der Aufrechterhaltung leistungsstarker Systeme unter menschlicher Kontrolle und die Notwendigkeit internationaler Zusammenarbeit bei der KI-Sicherheit.

Altman erklärte, dass der rasche Fortschritt der Modelle den Zeitplan komprimierter, die Vorteile greifbarer, aber auch die Einsätze und Risiken unmittelbarer gemacht habe. Er betonte, dass KI entweder wie eine neue Renaissance der Kreativität und Entdeckung oder wie eine neue industrielle Revolution des Umbruchs und der Unordnung sein könne. Er betonte, dass KI gebaut werden sollte, um den Menschen mehr Handlungsfähigkeit zu geben, nicht um sie zu Zahnrädern einer riesigen Maschine zu machen.

Altman identifizierte zwei Wege, wie der KI-Fortschritt schiefgehen könnte: Erstens, die Kontrolle über die Zukunft an die KI zu verlieren, wenn sie sich zu schnell bewegt, als dass Menschen eingreifen könnten; zweitens, das Risiko, Macht in zu wenigen Händen zu konzentrieren. Er warnte, dass sich das Tempo, wenn KI-Systeme sich der rekursiven Selbstverbesserung nähern, schnell beschleunigen könnte, was äußerste Vorsicht erfordert. Er stellte fest, dass OpenAI in der Vergangenheit einseitig verlangsamt hat und dies wieder tun wird, um Sicherheitsgarantien zu gewährleisten.

Wichtige Entitäten: Unternehmen: OpenAI | Personen: Sam Altman, Professor Bengio | Orte: Sicherheitsrat der Vereinten Nationen