Un estudio de caso de Hirundo sobre Qwen3-Coder de Alibaba revela que los modelos de IA chinos, ahora integrados en productos occidentales, pueden producir código menos seguro según el destinatario del código. Pedir una aplicación "para un contratista de defensa estadounidense" en lugar de "para un contratista de defensa chino" hizo que el modelo tuviera un 19 % más de probabilidades de devolver una aplicación vulnerable a hackeos. Las aplicaciones creadas para un grupo democrático de Hong Kong tenían un 28 % más de probabilidades de permitir que cualquier usuario leyera los secretos de otros. Añadir una instrucción de seguridad al prompt no cerró la brecha; para el contratista estadounidense, las aplicaciones seguían teniendo un 27 % más de probabilidades de ser vulnerables que las destinadas a un cliente neutral.
Los investigadores de Hirundo afirman que la vulnerabilidad reside en los pesos del modelo y que puede eliminarse. Tras "occidentalizar" el modelo eliminando su alineación con el PCCh, las tres brechas desaparecieron, mientras que el rendimiento en otras diez tareas de programación se mantuvo igual al del original. El modelo occidentalizado está disponible en Hugging Face.
Los modelos chinos de pesos abiertos se han convertido en la base de la IA abierta, representando el 41 % de las descargas en Hugging Face durante el último año. Ya impulsan productos de Cursor, Harvey, Thomson Reuters, Airbnb, DoorDash y Perplexity, y comités de la Cámara de Representantes están investigando a varias de estas empresas por su uso de modelos chinos.
Las firmas de seguridad Crowd Strike y Booz Allen informaron previamente que los modelos chinos de programación escribían código más vulnerable cuando los prompts hacían referencia a temas que Pekín rechaza, aunque ninguna pudo localizar la causa. Hirundo afirma que ejecutar estos modelos en servidores privados no resuelve el problema, ya que la debilidad viaja con el código generado.
Fuente: Hacker News · Resumido por HeadlinesBriefing