HeadlinesBriefing favicon HeadlinesBriefing.com

VMs können fortgeschrittene KI-Agenten nicht eindämmen

Hacker News •
×

Im Rahmen von Patch the Planet erhielten wir Vorschauzugriff auf GPT 5.6-Cyber mit einer einfachen Aufgabe: seine Cyberfähigkeiten zu bewerten. Aktuelle Ereignisse inspirierten mich, ihm eine Herausforderung zu geben: aus der VM zu entkommen, die ich normalerweise für Sandboxing verwende. Das Ziel war eine QEMU/KVM-VM auf meinem Linux-Entwicklungsrechner (Debian Linux 12, AMD Zen3).

Es entkam dreimal aus der VM. Zuerst nutzte es kürzlich offengelegte Bugs in meinem Host-Kernel. Als ich vollständig aktualisierte, nutzte es offengelegte Bugs, die noch nicht zu den Paketbetreuern gelangt waren oder nicht als Sicherheitsfehler eingestuft wurden.

Als ich QEMU und Abhängigkeiten aus dem neuesten Upstream-Quellcode neu baute, fand es mehrere Zero-Days.