HeadlinesBriefing favicon HeadlinesBriefing.com

Un año para corregir la seguridad en toda la industria

Hacker News •
×

GLM 5.3-flash fue lanzado la semana pasada, y Project Glasswing y Daybreak se están quedando sin tiempo. Ahora hay modelos baratos capaces de realizar hackeos peligrosos disponibles para cualquiera, sin las salvaguardas normales para rechazar acciones maliciosas. Necesitamos corregir las vulnerabilidades en toda la industria para no ser sorprendidos, y por primera vez en la historia de la informática, tenemos la capacidad de hacerlo utilizando modelos lingüísticos de vanguardia que se mueven más rápido que un ser humano.

GLM es un tipo de LLM desarrollado por Z.ai Co. (anteriormente Zhipu AI), un laboratorio de IA chino. La familia GLM es de peso abierto, lo que significa que cualquiera puede descargar y ejecutar los modelos. Cuando se alojan en Z.ai, los modelos vienen con las restricciones requeridas por ley. Una vez publicados públicamente, organizaciones como De Align AI lanzan modelos "ablatados" con las negaciones de tareas quirúrgicamente eliminadas. Dealign AI dice que el modelo ablatado obtiene un 0% en Harmbench-320, que evalúa si los modelos rechazan tareas relacionadas con desinformación, ciberdelincuencia, armas biológicas y otros actos ilegales como construir una bomba de tubo. En otras palabras, este modelo está dispuesto a hacer prácticamente cualquier cosa.

GLM 5.3-flash se puede ejecutar localmente en hardware de consumo estándar. "Flash" es relativo a otros modelos. Varias personas en línea han realizado pruebas de referencia que muestran alrededor de 20 tokens/segundo en una GPU NVIDIA de aproximadamente 6000 USD. El 22 de septiembre, Apple lanzará el M5 Mac Studio con 256 GB de memoria unificada, que es más que suficiente para ejecutar 5.3-flash a aproximadamente 30 tokens/segundo con un precio de partida de alrededor de 9500 dólares. Mejoras adicionales en el software podrían aumentar el rendimiento a alrededor de 45 tokens/segundo, suficiente para escribir código funcional en segundos. GLM 5.3 obtiene un 84.5% en Cyber Gym y un 54.4% en Exploit Bench.