Die Website des Bundesregisters nutzte kurzzeitig ein chinesisches Open-Source-KI-Suchtool. Am Mittwoch entfernten US-Regierungsbeamte ein chinesisches KI-Suchtool, das kurzzeitig auf der Website des Bundesregisters eingesetzt worden war, berichtete Reuters. Die Änderung erfolgte, nachdem Nutzer sozialer Medien einen offensichtlichen Widerspruch bemerkt hatten: Das Nationalarchiv verwendete eines der Qwen-KI-Modelle von Alibaba, während zugleich die obersten US-Strafverfolgungsbehörden behaupteten, solche Modelle kopierten illegal US-Frontiermodelle. Anfang dieses Monats nannte das FBI Alibaba unter sechs führenden chinesischen Unternehmen, die angeblich „Destillation im industriellen Maßstab“ betreiben.

Es ist unklar, wann genau das Nationalarchiv Besuchern die Möglichkeit bot, ein Qwen-Modell zur Suche in öffentlichen Kommentaren zu vorgeschlagenen Vorschriften zu nutzen. Bislang hat die unabhängige Behörde die Entfernung nicht kommentiert und nicht auf Ars' Bitte um Stellungnahme geantwortet. Das Weiße Haus und das FBI haben ebenfalls nicht kommentiert. Auf X veröffentlichte ein Nutzer mit dem Handle „tleilax___“ einen weithin geteilten Screenshot, der die Option am 15. September auf der Regierungswebsite zeigte. Der Bericht von Reuters stellte fest, dass eine archivierte Version des Quellcodes der Website bestätigte, dass das Qwen-Modell am Mittwoch entfernt wurde, sodass der Dienst mindestens einen Tag lang verfügbar war. Daniel Castro, Präsident der Information Technology and Innovation Foundation, sagte zu Reuters, es sei eine „irrsinnige“ Diskrepanz, dass eine US-Behörde ein Alibaba-Modell nutze, während das FBI Interessengruppen ermutige, nur amerikanische Modelle zu verwenden.

Ob die staatliche Nutzung des Qwen-Modells ein Sicherheitsrisiko darstellte, hängt davon ab, wie es trainiert wurde, sagte Anupam Chander, Rechtsprofessor an der Georgetown University, zu Reuters. Es spiele auch eine Rolle, ob US-Daten von „Alibaba-kontrollierten Systemen“ verarbeitet wurden, sagte Senator Mark Warner (D-Va.). Experten sagten jedoch zu Reuters, es sei unwahrscheinlich, dass der Einsatz des Qwen-Modells auf der Website des Bundesregisters wesentliche Risiken darstellte. Chander merkte an, dass der Inhalt der Website „bereits öffentlich ist, sodass das Modell nicht mit sensiblen Regierungsinformationen arbeitete“.

In einem Bericht, der das konkret verwendete Modell eingehender erörtert, erklärte die chinesische Nachrichtenseite Sina.com, dass das Bundesregister ein kleines Open-Weight-Modell der „Qwen3 0.6B-Klasse“ verwendete, das nicht Alibabas größtes Flaggschiffmodell ist. Dieses Modell ist Open Source, dient ausschließlich dem Abruf von Dokumenten und bietet weder komplexe Schlussfolgerungen noch sendet es Regierungsdaten an Alibaba oder Dritte. Für US-Behörden gibt das Qwen-Suchtool der Regierung mehr Kontrolle über Daten, weil die Modelle heruntergeladen und lokal ausgeführt werden können, anstatt Abfragen an größere extern betriebene Modelle senden zu müssen, sagten Sicherheitsexperten zu Reuters. Die Fähigkeit, den Austausch sensibler Daten zu vermeiden, ist teilweise der Grund, warum es zu einem „Standard“-KI-Suchtool geworden ist, berichtete Sina.com, zusammen mit seiner niedrigeren, besser vorhersehbaren Preisgestaltung. Diese Modelle könnten wohl nicht einmal mehr als chinesische Dienste gelten, sobald ein Unternehmen die Kontrolle über sie übernimmt, legte der Bericht von Sina.com nahe. Doch die USA beginnen erst seit Kurzem damit, sich damit auseinanderzusetzen, ob KI-Modelle, die aus China stammen, aber von amerikanischen Institutionen kontrolliert werden, denselben Beschränkungen unterliegen sollten wie andere chinesische Dienste, die als höhere Sicherheitsrisiken gelten.

Wichtige Entitäten: Unternehmen: Alibaba, FBI, National Archives, Federal Register, Reuters, Information Technology and Innovation Foundation, Georgetown University, Sina.com | Personen: Daniel Castro, Anupam Chander, Mark Warner | Orte: US, China