Bei Block, dem Unternehmen hinter Square, Cash App und Afterpay, nutzt das Sicherheitsteam die OpenAI Defense Factory, in der KI die Erkennung von Schwachstellen, die Detektion und die Reaktion in einem Umfang übernimmt, den kein menschliches Team erreichen könnte. Mit Systemen wie OpenAI Daybreak erledigt Block heute in wenigen Stunden Arbeit, für die früher Wochen nötig waren.
„KI verkürzt die Zeit von der menschlichen Absicht bis zur Handlung“, sagte James Nettesheim, Chief Information Security Officer bei Block. „Eine Zeit lang ging man davon aus, dass Angreifer im Vorteil sind, weil sie schneller und beweglicher sind. Doch mit Werkzeugen wie Daybreak und den Fortschritten bei den Tools von OpenAI können Verteidiger mit gleichen Mitteln kontern und mit dem rasanten Tempo der KI-Einführung Schritt halten.“
Das Sicherheitsteam von Block hat sich darauf konzentriert, KI in allen Arbeitsabläufen verantwortungsvoll einzusetzen, von der Codegenerierung bis zu den Sicherheitsoperationen. Nettesheim beschreibt die Technologie als neuen Teamkollegen, der skalieren kann. Aufgaben wie die Prüfung eines Softwarefehlers oder die Auswertung eines Logs, die früher Tage dauerten, benötigen heute nur einen Bruchteil der Zeit, wobei jedes Ergebnis von einem Menschen geprüft wird. Für die Feinabstimmung der Erkennung kann das Team eine vorgeschlagene Änderung innerhalb einer Stunde gegen sieben Monate Produktionstelemetrie testen, was früher bedeutete, Hunderte alter Fälle von Hand erneut abzufragen.
Das Team hat außerdem gelernt, Modelle passend zur Aufgabe auszuwählen. Das Sicherheitsframework von Block leitet Aufgaben an das geeignete Modell weiter und enthält Schnittstellen, über die Menschen übernehmen oder Agenten die Arbeit des jeweils anderen überprüfen können. Das automatisierte Triage-System brachte eine Steigerung des Triage-Durchsatzes um 50 %, eine Zunahme der Informationsbeschaffung und Untersuchungen um 50 % sowie eine neue Fähigkeit zur autonomen Bedrohungssuche. Nettesheim zufolge leistet das System pro Quartal etwa 1.100 Analystenstunden an Untersuchungen, sodass jeder Alarm gründlich geprüft wird.
Quelle: OpenAI Blog · Zusammengefasst von HeadlinesBriefing