Y-Combinator-CEO Garry Tan möchte, dass US-Open-Weight-KI-Labore Frontier-Modelle destillieren. „Ich würde nichts tun“, sagte er zu CNBC, und fügte hinzu: „Man könnte argumentieren, dass es ein amerikanisches Destillationsregime geben sollte.“ Er erläuterte gegenüber TechCrunch, dass kleinere amerikanische Open-Weight-KI-Labore dieselben Trainingstechniken auf amerikanische Frontier-KI-Labore anwenden sollten, was den USA eine robustere Auswahl an Open-Weight-Optionen verschaffen würde, die nicht chinesisch sind.

Destillation liegt vor, wenn ein Modellhersteller ein anderes Modell umfassend auffordert, um zu lernen, wie es funktioniert und schlussfolgert. Sie wird üblicherweise und legitim von KI-Laboren genutzt, um beim Training neuer Modelle zu helfen. Anthropic veröffentlichte diese Woche seinen zweiten Bericht, in dem behauptet wird, dass chinesische Labore „illegale Destillationsangriffe“ durchführen, ihre Identität verbergen, um ohne Erlaubnis zu destillieren, und sich auf Betrug und gestohlene Anmeldedaten verlassen. Anthropic-CEO Dario Amodei hatte zuvor öffentlich die US-Regulierungsbehörden aufgefordert, gegen Destillation vorzugehen.

Tan befürwortet nicht, dass amerikanische KI-Labore gestohlene Anmeldedaten zur Destillation verwenden. Er möchte, dass sie frei sind, durch die Vordertür zu kommen. Sein Argument ist zweigeteilt: Es ist eine Überschreitung, wenn KI-Labore vorschreiben, was ihre Kunden mit den Informationen tun können, die ihre Modelle teilen, und die proprietären KI-Labore haben nicht um Erlaubnis gebeten, als sie menschliches Wissen aufsaugten, um ihre Modelle zu trainieren.

„Zu kontrollieren, was Nutzer und Kunden mit API-Aufrufen an Closed-Weight-Modelle tun, fühlt sich einschränkend an“, sagte er zu TechCrunch. Tan möchte ein Gleichgewicht zwischen Open-Weight-KI-Laboren und Frontier-Laboren. Für ihn ist das wahre KI-Doomer-Szenario, dass die gesamte immense Macht der Frontier-KI in die Hände eines einzigen mächtigen, proprietären Anbieters gelangt. „Das Albtraumszenario, das Doomer-Szenario für KI ist, dass es nur ein einziges Unternehmen gibt“, sagte er.

Wichtige Entitäten: Unternehmen: Y Combinator, Anthropic, CNBC, TechCrunch | Personen: Garry Tan, Dario Amodei | Orte: USA, China, Silicon Valley