Alibabaの Qwen3-Coder を対象としたHirundoのケーススタディによると、現在西側の製品に組み込まれている中国のAIモデルは、コードの用途によって安全性の低いコードを生成する可能性があります。「中国の防衛請負業者向け」ではなく「米国の防衛請負業者向け」にアプリを依頼すると、モデルがハッキング可能なアプリを返す確率は19%高まりました。香港の民主派団体向けに作られたアプリでは、どのユーザーでも他人の秘密を読めてしまう確率が28%高くなりました。プロンプトにセキュリティ指示を加えても差は埋まらず、米国の請負業者向けのアプリは、中立的な顧客向けのアプリに比べてなおも27%ハッキングされやすいままでした。
Hirundoの研究者は、この脆弱性はモデルの重みに存在し、取り除くことができると述べています。モデルからCCPとの整合性を取り除いて「西側化」したところ、3つの差はすべて消えた一方、他の10の符号化タスクでの性能は元のモデルと同等でした。西側化されたモデルはHugging Faceで公開されています。
中国のオープンウェイトモデルは、オープンAIの基盤となっており、過去1年間にHugging Faceのダウンロードの41%を占めています。すでにCursor、Harvey、Thomson Reuters、Airbnb、DoorDash、Perplexityなどの製品を支えており、米下院の委員会はこれらの企業のうち複数について、中国のモデルの利用をめぐり調査を進めています。
セキュリティ企業のCrowd StrikeとBooz Allenは以前、北京が反対するテーマがプロンプトに含まれると、中国の符号化モデルがより脆弱なコードを書く傾向があると報告しましたが、いずれも原因を特定できませんでした。Hirundoは、こうしたモデルを私設サーバーで動かしても問題は解決しないと述べています。弱点は生成されたコードとともに移動するためです。
出典: Hacker News · 要約：HeadlinesBriefing