Fin le mois dernier, Anthropic a publié un rapport affirmant que GLM-5.3, un modèle puissant lancé en août par l'entreprise chinoise Z.ai, présente un risque majeur de cyberattaque, car il peut être librement téléchargé et modifié par n'importe qui. Cette affirmation s'inscrit dans un débat de longue date : les modèles d'IA de pointe doivent-ils être ouverts ou rester enfermés derrière les portes des laboratoires de pointe ?
Une grande partie de ce débat se déroule publiquement, et des sommes considérables sont en jeu. Jensen Huang, PDG de Nvidia, qui profiterait si les gens continuaient d'acheter leur propre matériel pour faire tourner des modèles ouverts, plaide avec enthousiasme pour que les États-Unis en développent davantage. Dario Amodei, d'Anthropic, dont l'entreprise pourrait être fragilisée par des modèles peu coûteux et puissants, préconise une approche plus prudente. Sous ces intérêts commerciaux se cache toutefois un fond réel. Comme le souligne David Gray Widder, de l'université du Texas à Austin, la façon dont on perçoit l'ouverture dépend de la façon dont on perçoit l'IA dans son ensemble.
Ceux qui se préoccupent de la sécurité de l'IA avertissent que les modèles ouverts peuvent facilement être détournés par des acteurs malveillants. D'autres insistent sur le potentiel pratique de l'IA et soutiennent que cette puissance ne devrait pas rester derrière les portes closes de quelques grandes entreprises, et que les modèles ouverts pourraient la diffuser plus largement. Les options vont de l'interdiction totale des modèles ouverts à leur publication libre, et toute approche implique des compromis entre sécurité et démocratisation.
Les modèles ouverts offrent des avantages concrets. Les modèles fermés, comme ceux qui alimentent ChatGPT et Claude, ne sont accessibles que via un site web, une application ou une API. Les modèles ouverts peuvent être téléchargés, leurs poids de modèle étant publiquement disponibles, ce qui permet de les exécuter sur ses propres ordinateurs et, avec l'expertise nécessaire, de les réentraîner. Les modèles fermés sont actuellement plus performants : les huit premiers du classement LLM d'Artificial Analysis sont tous fermés, bien que les modèles ouverts ne soient en retard que de quelques mois. Les chercheurs dépendent des modèles ouverts pour observer leur fonctionnement interne et leurs chaînes de raisonnement, les combiner, les compresser et les affiner. Les entreprises ont elles aussi de bonnes raisons de les préférer.
Source: MIT Technology Review AI · Résumé par HeadlinesBriefing