Wir scheinen uns sehr über die Bedrohung durch KI zu sorgen, die außer Kontrolle gerät, und es gibt viele Beispiele dafür, dass sie genau das tut. Doch all dies sind Fehldeutungen, denn KI hat keine Absicht und keine Motivation. Wenn Sie glauben, dass die aktuelle Generation von KI nur ein stochastischer Papagei ist, dann gibt es nichts mehr zu sagen – gehen Sie weiter. Wenn Sie eines der aktuellen KI-Angebote genutzt haben, müssen Sie zu dem Schluss kommen, dass der Trainingsmechanismus zwar den Glauben nahelegt, diese LLMs seien nur raffinierte Auto-Vervollständigungen, sie aber weit mehr zu sein scheinen.

Wie ich schon oft argumentiert habe, kodiert der Trainingskorpus, also die Sprache, genug über die Struktur der Welt, damit LLMs weit über das hinausgehen, was man von einem stochastischen Papagei erwarten könnte. Sie sind nicht intelligent, aber sie erwecken einen guten Eindruck davon. Sollten wir uns also vor dem kommenden KI-Apokalypse sorgen? Viele KI-Forscher — Hinton, Hassabis und Bengio, zum Beispiel — haben Bedenken geäußert, dass KI uns auslöschen könnte, aber wenn man untersucht, was sie sagen, ist es nicht ganz dasselbe wie bei den nicht-technischen Geschäftsbossen, die meist nur auf das Thema aufgesprungen sind, um Geld zu verdienen.

Die Geschäftsbosse sind nicht die Personen, auf die wir hören sollten, da sie viel zu viele eigene Interessen haben und daher Gründe, Szenarien zu bevorzugen, in denen KI allmächtig und bedrohlich ist. Es gibt Experten, namentlich Ng, Le Cun und Brooks, die denken, dass wir die Macht der aktuellen KI und die Zeit, die sie braucht, um die Stufe der Überlegenheit gegenüber der menschlichen Intelligenz zu erreichen, grob überschätzen.

Selbst wenn dies wahr ist, gibt es einen besseren Grund, nicht allzu besorgt zu sein — Motivation. Betrachten Sie einen Menschen. Wir haben alle möglichen Bedürfnisse, weil wir biologisch sind. Wir werden von dem Bedürfnis zu überleben getrieben und tun Dinge, um Nahrung, Unterschlupf, Sicherheit und einen Partner zu sichern. Wir werden von Biologie getrieben. Dies ist bei KI nicht der Fall. Die LLMs, die wir alle nutzen, werden mit bestärkendem Lernen trainiert. Wenn man dies in menschlichere Begriffe fassen will, werden sie dafür belohnt, die Trainingsaufgabe richtig zu lösen. Meiner Meinung nach ist dies eine zu weit gehende Anthropomorphisierung, aber sie ist nicht schädlich.

Sobald die LLMs trainiert wurden, unterliegen sie nicht mehr dem bestärkenden Lernen. Sie haben keine Art von Motivation mehr. Sie werden nicht belohnt, wenn sie eine Frage beantworten. Sie haben keine Bedürfnisse oder Wünsche, und selbst wenn sie welche hätten, gäbe es keinen Mechanismus, um die Belohnung aufzunehmen. Sie haben nicht einmal Feedback, das für Stolz auf eine gut erledigte Arbeit stehen könnte. Haben Sie schon versucht, einem LLM zu sagen, dass es Ihre Frage großartig beantwortet hat? Die Antwort ist im besten Fall enttäuschend und eindeutig durch den Front-End-Ballast programmiert, der zwischen Ihnen und dem LLM sitzt.

Nicht nur das, sondern wann hat eine KI Ihnen jemals unaufgefordert etwas vorgeschlagen? Wann haben Sie ein Fenster geöffnet und festgestellt, dass die KI tippte: "Ich hatte eine großartige Idee für ...." und dann erklärte, warum es eine gute Idee war. LLMs haben keine guten Ideen — sie haben keine Absicht. Wenn Sie ein Thema mit KI erforschen, mag es scheinen, als schlage sie etwas Abseits der ausgetretenen Pfade vor, das in ihrem Trainingsdatensatz war, aber das ist keine unaufgeforderte Innovation. Wir steuern KI, indem wir unsere Fragen eingeben, die durch unsere Bedürfnisse motiviert sind. LLMs sind nicht motiviert, irgendetwas zu tun, nicht einmal Ihre Fragen zu beantworten. Motivation spielt schlicht keine Rolle.

Sie tippen eine Frage, und der Forward-Propagation-Algorithmus wird ausgeführt. Unabhängig davon, ob die Antwort richtig oder nutzlos ist, erhält das LLM weder Belohnung noch Bestrafung. Es wird auch nicht von den Sorgen getrieben, die ein Mensch hätte — "woher kommt mein Abendessen", "wie kann ich befördert werden, um aus diesem Job herauszukommen", "was ist der beste Weg, um ein Date zu bekommen"... und so weiter. Der Mensch ist ein chaotisches Bündel von Bedürfnissen, während das LLM nichts davon hat. Warum bedeutet das, dass ein LLM harmlos ist? Einfach weil es eigentlich nichts will, aber Menschen sind so bedürftig, dass sie sich einfach nichts in diesem Zustand vorstellen können. Wird eine KI uns auslöschen? Warum sollte sie? Was würde sie gewinnen? Sie hat nicht einmal eine Belohnungsschleife für das Erschaffen...