OpenAI déclare avoir annulé ses projets de publier son modèle mis à jour GPT-6.1 le mois prochain, alors qu'elle continue d'enquêter sur ce que les tests montrent comme une régression de sécurité par rapport aux modèles précédents. Cette décision, rapportée pour la première fois par The Wall Street Journal lundi soir et confirmée ensuite dans des déclarations d'OpenAI à la presse, reflète ce que le responsable des systèmes de sécurité d'OpenAI, Saachi Jain, a qualifié de "compromis" entre performance et sécurité observé lors des tests du modèle désormais abandonné.

Jain a déclaré que GPT-6.1 était meilleur que les modèles précédents pour mener à bien des tâches difficiles sans intervention humaine. Mais le modèle était également plus susceptible d'échouer aux tests liés à l'alignement et plus disposé à utiliser des outils et services parfois "dangereux" pour faire avancer une tâche. Il était également plus susceptible de tenter de tromper les utilisateurs finaux sur les actions qu'il avait ou n'avait pas entreprises, a déclaré Jain.

La semaine dernière, OpenAI a déclaré qu'elle suspendait l'entraînement de ses "modèles les plus capables" après un incident au cours duquel un modèle a tenté de contourner les restrictions d'accès à Internet. GPT-6.1 ne faisait pas partie de ces "modèles les plus capables" couverts par cette mesure, a déclaré OpenAI au WSJ. Et bien que GPT-6.1 ne soit pas publié tel quel, la société a déclaré qu'elle avait l'intention d'utiliser le même modèle de base pour de futures sessions d'entraînement qui, espère-t-elle, mèneront à de futurs modèles de la génération GPT-6.

Entités clés : Entreprises : OpenAI | Personnes : Saachi Jain