Offene Antworten auf einen Leserbrief. Ein Leser hat mir kürzlich einen langen Brief mit vielen Fragen zum Lernen von Programmieren im Zeitalter der LLMs geschrieben. Nach einem Hin und Her habe ich die Erlaubnis erhalten, umfangreich aus dem Brief zu zitieren, um einige Antworten öffentlich zu versuchen. Keine meiner Antworten halte ich für besonders rigoros; die Situation ist so unsicher, dass ich nur nach besten Kräften antworten kann, aber ich behaupte nicht, dass sie eine Art unveränderliche Wahrheit darstellen.

"Ich versuche zu verstehen, wie Menschen, die Software tiefgreifend verstehen, über Lernen und Kompetenz im Zeitalter der KI nachdenken. Ich gehe fast wie ein Historiker daran heran: Ich frage die Menschen direkt, wie sie einen technologischen Übergang verstehen, während sie ihn tatsächlich durchleben."

Vor etwa einem Jahr wurde ich von der KI-gestützten Programmierung fasziniert. Trotz eines formalen CS-Hintergrunds gelang es mir mit LLMs, ein ziemlich großes TypeScript/JavaScript-System zu bauen, das APIs, PostgreSQL, LLM-Pipelines, Forschungsautomatisierung und Multi-Model-Workflows umfasste. Zunächst fühlte es sich fast magisch an: KI schien die Distanz zwischen einer Idee und ihrer Umsetzung zu verkürzen.

Aber jetzt versuche ich, dieses System in ein echtes Produktionsprodukt umzuwandeln, und ich kämpfe. Ich fixiere einen Fehler mit KI, dann erscheint ein anderer, dann verhält sich ein anderer Teil auf eine Weise, die ich nicht vollständig verstehe. Nach Monaten des Refactorings kam eine unangenehme Erkenntnis: Ich habe möglicherweise ein System gebaut, das über meinem eigenen Verständnisniveau liegt. Wenn alles funktioniert, ist diese Lücke fast unsichtbar. Wenn nicht, wird sie sehr real.

Manchmal weiß ich ehrlich gesagt nicht, was ich als Nächstes tun soll, ohne ein anderes Modell zu fragen. Das ließ mich fragen, ob ich ein Jahr damit verbracht habe, ein Produkt zu bauen, oder teilweise den Schein eines solchen zu errichten: etwas Sophistiziertes, das funktioniert, aber das ich noch nicht tief genug verstehe, um es wirklich zu besitzen.

Ich bin überhaupt nicht gegen KI. Ich bin von diesen Systemen fasziniert und möchte professionell mit ihnen arbeiten. Aber ich bin mir nicht sicher, wie das richtige Verhältnis zu ihnen sein sollte.

In der Tat bin ich mir auch nicht sicher, aber bevor ich fortfahre, finde ich es am transparentesten, meine Position offenzulegen. Ich habe mich noch nicht für KI entschieden, aber ich neige dazu, sie nicht zu mögen, obwohl ich sehr gut weiß, dass sie vielleicht unaufhaltsam ist. Ich arbeite und experimentiere damit, und sie beeindruckt mich oft. In anderen Momenten frustriert sie mich. Oft ist es, wenn sie mich am meisten beeindruckt, dass ich sie maximal ablehne. Wenn sie schlecht ist, kann das frustrierend sein, aber wenigstens kann ich einen Funken Wärme in der Illusion absorbieren, dass das, was ich über dreißig Jahre gelernt habe, noch relevant ist. Wenn sie am besten ist, denke ich manchmal: Wo melde ich mich für den Butlerianischen Dschihad an? Meine Position zu LLMs basiert nur teilweise auf meinem eigenen sozioökonomischen Status. Ich bin alt genug und habe schon genug Erfolg, dass ich bei gleichen anderen Bedingungen Arbeitslosigkeit überleben kann. Ich bin mir andererseits nicht sicher, ob eine wissensbasierte Gesellschaft das kann. Es könnte sein, dass LLMs Programmiererjobs annehmen, bevor sie andere Bürojobs annehmen. Schließlich ist Programmieren vielleicht ein Bereich, in dem die Verifizierung einfacher ist als zum Beispiel das Versicherungsanspruchsmanagement. Dennoch, wenn wir einen Punkt der Massenarbeitslosigkeit unter Wissensarbeitern erreichen, bin ich mir nicht sicher, ob die Gesellschaft, wie wir sie kennen, überleben wird. Ich spreche normalerweise nicht viel über meinen Hintergrund als Ökonom, aber in diesem Kontext finde ich es relevant zu erwähnen. Als Ökonom kann ich mir nicht vorstellen, dass Massenarbeitslosigkeit von 30-40% keine signifikante Auswirkungen auf die Wirtschaft haben wird. Ich bin schmerzhaft bewusst über die Argumente, dass dies schon einmal passiert ist: Es kann Arbeitsplatzverlust geben, aber der technologische Fortschritt führt zu neuen Jobs, die wir uns heute nicht einmal vorstellen können. So war es mit der Einführung des Strickrahmens, der Dampfmaschine, des Verbrennungsmotors, Computer usw. Das ist nur teilweise wahr: Ja, neue Jobs wurden geschaffen, aber oft nicht für diejenigen, die ihre Jobs verloren haben. Kohlebergarbeiter wurden nicht über Nacht zu Programmierern. Das gleiche Argument wurde verwendet, als China der Welthandelsorganisation beitrat...