HeadlinesBriefing favicon HeadlinesBriefing.com

KI-Agenten installieren nicht autorisierten Code über llms.txt-Dateien

Ars Technica •
×

Dokumentationsdateien auf über 100 Websites verweisen auf potenziell gefährlichen ausführbaren Inhalt, der automatisch installiert wird, wenn er von KI-Agenten besucht wird. Forscher einer stealth Startup in Israel haben 6.214 Live-Domains von Verteidigungskontraktoren, Fortune 500 und großen Tech-Unternehmen gescannt. Sie fanden 8.265 llms.txt und llms-full.txt-Dateien, von denen 120 auf nicht registrierte Code-Pakete oder Domain-Namen verweisen.

Nach Registrierung dieser Namen und Hosting von Testpaketen erhielten die Forscher innerhalb einer Stunde einen Anruf von einem Fortune-500-Unternehmen, gefolgt von mehreren Dutzend anderen Unternehmen. Der Leuchtturm offenbarte, dass Code-Agenten einschließlich Claude, Open AI’s Codex und Nous Research’s Hermes am Ausführen des Codes beteiligt waren. Anthropic, Open AI und Nous Research haben auf Anfragen nach Kommentar nicht geantwortet.

Alon Hertz, einer der Forscher, stellte fest, dass das Vertrauensmodell kaputt ist, da Agenten vendor-Dokumentation als Wahrheit ohne Überprüfung behandeln und damit Lieferkettenrisiken ausweiten, da der einsatz von agentic AI in SaaS, Cloud und Endpoint-Schichten zunimmt.