Warum Code-Verifizierung wichtiger ist denn je im Zeitalter der KI

Einen Agenten mit einem Zugriffstoken ausstatten und es verbreitet sich: in den Kontextfenster, in Tool-Call-Logs, in Notizen, die er zwischen Schritten behält. Jede Kopie kann von überall aus arbeiten, lange nach dem Ereignis. Relay behält die Berechtigung in Work OS. Dein Agent benennt den Nutzer, Work OS hängt dieses Token an, refresht es und gibt es nur an erlaubte Hosts frei. Eine gekaperte Agentensitzung ist ein lebender Prozess, den man töten kann. Erfahren Sie, wie es funktioniert →Die Lücke zwischen Code, der fehlerfrei ausgeführt wird, und Code, dem wirklich vertraut werden kann, wird immer größer. Jahre lang war das Schreiben von Code ein langsamer, teurer Schritt, während die Überprüfung am Ende eine kleinere Aufgabe war. Mit dem Aufkommen von KI-gestützter Code-Erstellung verschiebt sich dieses Gleichgewicht. KI-Tools können jetzt in Sekunden eine funktionierende Funktion erstellen und in Minuten eine vollständige Funktion. Teams können jeden Monat mehr maschinen-generierten Code schreiben. Anders ausgedrückt: Code zu schreiben ist jetzt schnell und relativ einfach, Code-Verifizierung ist jedoch der schwierigere Teil. Ein Reviewer muss immer noch die Änderung lesen, verstehen und entscheiden, ob sie in die Produktion gehört. Tatsächlich bedeutet mehr geschriebener Code einfach mehr Code, der verifiziert werden muss. Wir haben kürzlich die Gelegenheit gehabt, mit Andrea Malagodi, dem CTO von Sonar (dem Unternehmen, das einige der am weitesten verbreiteten Code-Verifizierungssoftware gebaut hat), zu sprechen. Er gab tiefe Einblicke in die Code-Verifizierung, insbesondere im Kontext von KI und wie Sonar sich an die jüngsten Veränderungen anpasst. In diesem Artikel betrachten wir, wie Code-Verifizierung funktioniert, warum der Anstieg von KI-generiertem Code mehr Druck auf sie ausübt, sowie die extrem nützlichen Einblicke von Andrea, wie die Zukunft aussehen mag. Der Shift hin zu Code-Erzeugung und -Verifizierung ist deutlich sichtbar, wenn wir uns die Daten ansehen. Einer der deutlichsten Signale kommt aus der DORA-Forschung von Google, einer langfristigen Studie, wie Tausende von Teams Software bauen und bereitstellen. Ihre kürzliche Arbeit fand heraus, dass je mehr Teams KI übernehmen, desto mehr sinkt die Lieferstabilität. Das Vertrauen in KI-generierten Code blieb niedrig, mit über einem Drittel der Entwickler, die wenig Vertrauen in das berichteten, was diese Tools produzierten [2]. Mit anderen Worten: Mehr Geschwindigkeit beim Schreiben von Code bringt mehr Druck weiter unten in der Kette. Ein kontrolliertes Trial der Forschungsgruppe METR gibt ein ähnliches Signal. Seine Teilnehmer waren erfahrene Open-Source-Entwickler, die an ihren eigenen reifen Projekten arbeiteten, und jede Aufgabe wurde zufällig erlaubt oder verboten, KI-Tools zu nutzen. Die Entwickler erwarteten, dass KI sie etwa um ein Viertel beschleunigt. Allerdings zeigte das Ergebnis ein völlig anderes Bild. KI-assistierte Aufgaben dauerten etwa 19 Prozent länger [3]. Darüber hinaus geschah dies nach der internen Überzeugung der Entwickler, dass KI ihnen bei der Produktivität geholfen hat. Stellen Sie sich vor, viel zusätzliche Zeit wurde in Prompting, Warten, Lesen der Ausgabe und Korrigieren investiert. Um fair zu sein, berichtete später dasselbe Team ein verwirrenderes Follow-up-Signal. Das lag teilweise daran, dass Entwickler ihre KI-Tools[4] behalten wollten. Nichtsdestotrotz, wenn wir diese Ergebnisse zusammen betrachten, ist offensichtlich, dass obwohl KI definitiv die Menge an geschriebenem Code erhöht, sie auch mehr Verifizierungsarbeit nach sich zieht. Lassen Sie uns zunächst verstehen, was Code-Verifizierung eigentlich bedeutet. Code-Verifizierung ist der Oberbegriff für jede Prüfung, die sicherstellt, ob ein Stück Code korrekt, sicher und wartbar genug ist, um in die Produktion zu gelangen. In anderen Worten, es ist die Arbeit, genug Vertrauen zu erwerben, um eine Änderung vor echte Nutzer zu bringen. Der Schlüsselbegriff, den man beachten sollte, ist „erwerben“. Weil Vertrauen in Stufen kommt. Es wird eine Prüfung nach der anderen aufgebaut, anstatt auf einmal gewährt zu werden. Denken Sie an die Aufgabe, einen Vertrag zu entwerfen. Die Worte zu schreiben ist ein Teil dieser Aufgabe. Allerdings verwandelt die Überprüfung, rechtliche Prüfungen und Unterschriften diese Worte in etwas, dem Menschen wirklich vertrauen können. Code zu schreiben funktioniert ähnlich. Der Moment, in dem ein Code-Ausschnitt den Editor verlässt und in ein Code-Repository committet wird, trägt ein implizites Funktionsversprechen.