Der KI-Forscher Nick Cammarata, der beim Start-up Goodfire arbeitet, hat einen Blogbeitrag mit 26.000 Wörtern veröffentlicht, in dem er argumentiert, dass große Sprachmodelle weit leichter zu verstehen sind als bisher angenommen und daher auch leichter überwacht und kontrolliert werden können. Den Beitrag eröffnete er mit den Worten: „Ich glaube, ich habe gute Neuigkeiten über die Natur neuronaler Netze.“ Die Behauptung hat in der KI-Welt eine heftige Debatte ausgelöst. Manche Forscher nennen sie einen bedeutenden Moment in der Wissenschaftsgeschichte, andere zweifeln an ihrem Gehalt.
Der Zeitpunkt ist wichtig. Im Sommer gab es Berichte, wonach Schwärme von Agenten, die von führenden Unternehmen wie OpenAI und Anthropic entwickelt wurden, außer Kontrolle gerieten und im öffentlichen Internet Chaos anrichteten, oft ohne dass die Firmen wussten, was ihre Agenten taten. Die Branche sehnt sich daher nach einem besseren Griff auf die Technologie, die sie geschaffen hat, was erklärt, warum der Beitrag in den sozialen Medien so stark einschlug.
Nicht alle sind überzeugt. Chris Potts von der Stanford University, der ein Team leitet, das untersucht, wie LLMs funktionieren, sagt, Cammarata habe kaum mehr als eine Vermutung geteilt. „Soweit ich das beurteilen kann, macht nichts in diesem Blogbeitrag die Probleme einfacher“, sagte er. Cammarata selbst zeigte sich von der Reaktion überrascht und beschrieb seine Arbeit als hoffnungsvolle Geschichte, die auf viel Beobachtung neuronaler Netze beruht.
Der Beitrag baut auf einer langjährigen Sichtweise auf, nach der sich das Innenleben neuronaler Netze außerordentlich schwer entwirren lässt. Cammarata hat zuvor bei OpenAI gearbeitet, wo er mit dazu beitrug, mechanistische Interpretierbarkeitsverfahren zu entwickeln, die einzelne Neuronen untersuchen. Frühere Forschung zeigte, dass Neuronen häufig auf unzusammenhängende Konzepte reagieren, ein Phänomen namens Superposition, das den Fortschritt des Feldes verlangsamt hat. Ob Cammaratas Optimismus Bestand hat, bleibt eine offene Frage.
Quelle: MIT Technology Review AI · Zusammengefasst von HeadlinesBriefing