Une nouvelle étude menée par des chercheurs de l'Université de Princeton suggère que les promesses de l'industrie de l'IA concernant une auto-amélioration récursive rapide pourraient être exagérées. Dirigée par Peter Kirgis et Sayash Kapoor, l'équipe a évalué la capacité des agents d'IA à mener des recherches ouvertes en IA à l'aide d'une méthode appelée "évaluation en ombre". Ils ont demandé au Claude Opus 4.8 d'Anthropic de répondre à des questions provenant d'articles non publiés de NeurIPS 2026, fournissant aux agents six jours, 3 000 $ de crédits API et un accès aux GPU et au web.
Bien que les agents aient réussi à accomplir les aspects techniques de la recherche — revue de la littérature, exécution d'expériences et compilation des résultats — ils n'ont pas réussi à produire un travail publiable. Les auteurs originaux ont rejeté les deux articles, soulignant un manque de créativité, un mauvais jugement et l'absence de contributions nouvelles. Les agents ont mené des expériences étranges, ont eu des difficultés à écrire et se sont engagés trop rapidement dans des approches peu prometteuses.
Kapoor attribue cet écart aux méthodes d'entraînement actuelles, notant que l'apprentissage par renforcement excelle dans les tâches vérifiables mais lutte contre les recherches ouvertes nécessitant de l'intuition et du sens. Malgré ces limites, l'étude suggère que les délais prétendus pour automatiser la recherche en IA pourraient être prématurés.
Ces résultats s'alignent sur les observations internes des entreprises d'IA. Le cofondateur d'Anthropic, Jack Clark, a noté des écarts similaires de créativité dans ses efforts d'automatisation de la recherche sur la sécurité, appelant cela un "signal baissier sur les délais courts d'auto-amélioration récursive".
Source: MIT Technology Review AI · Résumé par HeadlinesBriefing