GLM 5.3-flash wurde letzte Woche veröffentlicht, und Project Glasswing und Daybreak laufen der Zeit hinterher. Günstige Modelle, die gefährliche Hackerangriffe ermöglichen, sind nun für jeden ohne normale Sicherheitsvorkehrungen zur Verfügung, um schädliche Aktionen abzulehnen. Wir müssen die Schwachstellen in der gesamten Branche beheben, damit wir nicht überrascht werden, und zum ersten Mal in der Computergeschichte haben wir die Möglichkeit, dies mit Hilfe von vorreiterischen LLMs zu tun, die schneller als ein Mensch bewegen.

GLM ist eine Art LLM, entwickelt von Z.ai Co. (früher Zhipu AI), einem chinesischen KI-Labor. Die GLM-Familie ist Open-Weight, was bedeutet, dass jeder die Modelle herunterladen und ausführen kann. Wenn sie von Z.ai gehostet werden, kommen die Modelle mit den gesetzlich vorgeschriebenen Einschränkungen. Sobald sie öffentlich veröffentlicht werden, veröffentlichen Organisationen wie De Align AI "ablierte" Modelle mit Aufgabenverweigerungen, die chirurgisch entfernt wurden. Dealign AI sagt, dass das abliierte Modell auf Harmbench-320 0% erreicht, was testet, ob Modelle Aufgaben zu Desinformation, Cyberkriminalität, biologischen Waffen und anderen illegalen Handlungen ablehnen, wie z.B. den Bau einer Rohrgranate. Mit anderen Worten, dieses Modell ist bereit, praktisch alles zu tun.

GLM 5.3-flash kann lokal auf Standard-Verbraucherhardware ausgeführt werden. „Flash“ ist relativ zu anderen Modellen. Verschiedene Menschen im Internet haben Benchmarks durchgeführt, die etwa 20 Token/Sekunde auf einer NVIDIA-GPU von etwa 6.000 USD zeigen. Am 22. September veröffentlicht Apple das M5 Mac Studio mit 256 GB Unified Memory, was mehr als ausreichend ist, um 5.3-flash mit etwa 30 Token/Sekunde auszuführen, ab einer Startpreis von etwa 9.500 Dollar. Weitere Softwareverbesserungen könnten den Durchsatz auf etwa 45 Token/Sekunde erhöhen, was ausreichend ist, um funktionalen Code in Sekunden zu schreiben. GLM 5.3 erreicht 84,5% auf Cyber Gym und 54,4% auf Exploit Bench.