Anthropic bietet Open-Source-Projekten mit seinem OSS Scanner eine neue Möglichkeit, nach Sicherheitslücken zu suchen. „Projekte, die beitreten, erhalten kostenlos gründliche, regelmäßige Sicherheitsscans durch unsere leistungsstärksten Modelle“, teilte das Unternehmen mit. Der Schritt folgt auf die Erkenntnis, dass KI-Modelle sehr gut darin sind, Schwachstellen zu finden (und auszunutzen).
Der Scanner könnte Open-Source-Entwicklern kostenlos frühzeitige Warnungen zu möglichen Sicherheitsproblemen liefern. Allerdings gibt es einen Haken: Die Berichte werden nicht von Menschen überprüft. „Die Ergebnisse dieses optionalen Schwachstellenscanners werden vollständig von Modellen erzeugt, ohne menschliche Prüfung oder Sichtung“, erklärte Anthropic. „Dies ermöglicht schnellere und häufigere Scans, bedeutet aber, dass Berichte fehlerhaft oder ungültig sein können.“ Die Berichte werden von den leistungsstärksten Modellen des Unternehmens erstellt, darunter Claude Mythos, um Open-Source-Projekten den größtmöglichen Verteidigungsvorteil zu verschaffen.
Anthropic sagte, der Dienst sei von OSS-Fuzz inspiriert, einem Scanner, den Google und die Open SSF (Open Source Security Foundation) entwickelt haben und der seit 2016 verfügbar ist. Anthropic verkauft bereits ein kostenpflichtiges Produkt, Claude Security, das allgemein zugängliche Codeprüfung und Patching anbietet. Der OSS Scanner führt kostenlos ähnliche Sicherheitsaudits durch.
Die Initiative ist nicht rein altruistisch. Sowohl Google als auch Anthropic sind stark auf den Open-Source-Code angewiesen, der das Internet trägt und oft von unbezahlten Helfern gepflegt wird. Sicherheitslücken in solchem Code können äußerst gefährlich sein, wie das XZ-Utils-Backdoor zeigte, das Hackern administrativen Zugriff auf Millionen Systeme weltweit hätte verschaffen können.
Quelle: Engadget · Zusammengefasst von HeadlinesBriefing