Nick Bostrom wurde vor über einem Jahrzehnt berühmt, weil er den Untergang der künstlichen Intelligenz vorhersagte – und dabei Unterstützung von Persönlichkeiten wie Elon Musk, Sam Altman und Bill Gates erhielt. Aber jetzt zieht er sich von diesen Warnungen zurück und konzentriert sich auf eine komplexere Frage: Was wäre, wenn KI über die kühnsten Vorstellungen der Menschheit hinaus erfolgreich wäre? Werden wir uns zu Tode langweilen? Sind wir zu infantil, um zu verstehen, was kommt?
Der Gastgeber Spencer Klavan, stellvertretender Redakteur der Claremont Review of Books, befragt Bostrom zu den potenziellen Nutzungsmöglichkeiten und Missbräuchen von Superintelligenz, rationalistischer Ethik und dem, was uns menschlich macht. Unten finden Sie eine bearbeitete Abschrift einer Folge von „Interesting Times“.
Bostrom sagt, seine Sichtweise habe sich nicht grundlegend geändert, aber die Welt habe sich geändert. Als er 2008 mit „Superintelligence“ begann, taten die Leute es als Science-Fiction ab. Jetzt ist es Mainstream, also verlagert er den Fokus auf die positive Seite, die auch philosophisch problematische Aspekte hat.
Zu Wahrscheinlichkeiten wie P(doom) sagt Bostrom, dass dahinter keine Mathematik steckt – sie sind subjektiv. Er bezeichnet sich selbst als „besorgten Optimisten“, begeistert von der positiven Seite, aber besorgt, dass wir es nicht schaffen könnten.
Quelle: New York Times Top Stories · Zusammengefasst von HeadlinesBriefing