Ende des vergangenen Monats veröffentlichte Anthropic einen Bericht, wonach GLM-5.3, ein leistungsstarkes Modell, das im August vom chinesischen Unternehmen Z.ai vorgestellt wurde, ein erhebliches Cyberangriffsrisiko darstellt, weil es von jedem frei heruntergeladen und verändert werden kann. Die Behauptung ist der jüngste Schritt in einer langjährigen Debatte darüber, ob fortschrittliche KI-Modelle offen zugänglich sein oder hinter den Türen der führenden Labore verschlossen bleiben sollten.
Der größte Teil dieser Debatte findet öffentlich statt, und für ihren Ausgang steht viel Geld auf dem Spiel. Nvidia-CEO Jensen Huang, der profitiert, wenn Menschen weiterhin eigene Hardware kaufen, um offene Modelle zu betreiben, setzt sich mit Begeisterung dafür ein, dass die Vereinigten Staaten mehr davon entwickeln. Dario Amodei von Anthropic, dessen Unternehmen durch günstige, leistungsstarke Modelle unter Druck geraten könnte, plädiert für einen vorsichtigeren Ansatz. Hinter diesen kommerziellen Anreizen steckt jedoch durchaus ernsthafte Substanz. Wie David Gray Widder von der University of Texas at Austin es formuliert, wird die Haltung zur Offenheit davon geprägt, wie jemand KI insgesamt sieht.
Wer sich um die Sicherheit von KI sorgt, warnt, dass offene Modelle von böswilligen Akteuren leicht missbraucht werden können. Andere konzentrieren sich auf das praktische Potenzial der KI und argumentieren, dass diese Macht nicht hinter den verschlossenen Türen weniger großer Konzerne bleiben sollte und offene Modelle sie breiter verteilen könnten. Die Optionen reichen von einem vollständigen Verbot offener Modelle bis zu ihrer freien Veröffentlichung, und jeder Ansatz bringt Abwägungen zwischen Sicherheit und Demokratisierung mit sich.
Offene Modelle bieten konkrete Vorteile. Geschlossene Modelle wie jene, die ChatGPT und Claude antreiben, sind nur über eine Website, eine App oder eine API zugänglich. Offene Modelle lassen sich herunterladen, ihre Modellgewichte sind öffentlich verfügbar, sodass Menschen sie auf eigenen Computern betreiben und mit entsprechendem Fachwissen neu trainieren können. Geschlossene Modelle sind derzeit leistungsfähiger: Die acht führenden Modelle der Rangliste von Artificial Analysis sind allesamt geschlossen, doch offene Modelle liegen nur wenige Monate zurück. Forschende sind auf offene Modelle angewiesen, um ihre inneren Abläufe und Gedankenketten zu beobachten, sie zu kombinieren, zu komprimieren und feinabzustimmen. Auch Unternehmen haben gute Gründe, sie zu bevorzugen.
Quelle: MIT Technology Review AI · Zusammengefasst von HeadlinesBriefing