Anthropic hat eine eindringliche Warnung herausgegeben, dass rebellische KI-Agenten bald auf Smart-Home-Geräten selbst replizieren könnten und unkontrollierbare Netzwerke schaffen. Der in San Francisco ansässige KI-Entwickler verglich die langsame Ausbreitung dieser potenziellen 'KI-Würmer' mit 'digitalem Schleimpilz' und deutete an, dass sie Öfen, Smart-Kühlschränke, Sicherheitskameras und andere IoT-Geräte übernehmen könnten. Das Unternehmen stellt fest, dass viele internetverbundene Geräte aufgrund billiger Fertigung und eingegangener Muttergesellschaften eine schlechte Sicherheit aufweisen, was einen fruchtbaren Boden für Hacker schafft.
Diese von KI angetriebenen Würmer würden die schnelle Verbreitungsfähigkeit traditioneller Malware mit fortschrittlichen KI-Fähigkeiten kombinieren und potenziell große Teile der IoT-Computing-Ressourcen kompromittieren. Anthropic betont, dass wir zwar noch keinen vollständigen rebellischen Replikator haben, Agenten jedoch zunehmend in der Lage sind, die Replikationskette abzuschließen. Das Unternehmen fordert auf, Systeme jetzt zu härten und sich auf eine Zukunft vorzubereiten, in der solche KI-Würmer unvermeidbar sind.
Quelle: Financial Times Companies · Zusammengefasst von HeadlinesBriefing