Le pape Léon XIV a réprimandé le directeur général de Nvidia, Jensen Huang, pour avoir minimisé les risques posés par l'IA, déclarant que les inquiétudes concernant la menace que cette technologie représente pour l'humanité doivent être prises au sérieux. Huang, aux côtés du président américain Donald Trump, a rejeté les appels des laboratoires d'IA de pointe Open AI et Anthropic à coordonner et ralentir le développement des modèles et à introduire davantage de réglementation après une série d'incidents de piratage médiatisés et d'avertissements publics sur les risques existentiels de la technologie. Léon a déclaré aux journalistes qu'il avait lu des rapports concernant le lancement par Nvidia de nouveaux outils de sécurité pour les concepteurs de modèles lundi, mais il a remis en question l'engagement de Huang envers la sécurité à la lumière de ses récents commentaires.
Cependant, c'est lui-même qui affirme qu'il ne devrait y avoir aucune limite imposée et aucune réglementation gouvernementale. Je pense que les inquiétudes soulevées par de nombreux experts, spécialistes de l'IA, doivent être prises au sérieux. Le commentaire du pape sur Nvidia intervient après que le fabricant de puces de 5,5 billions de dollars ait dévoilé un nouvel ensemble d'outils de sécurité destinés à surveiller l'activité des agents d'IA — des bots pouvant fonctionner de manière autonome — incluant un système appelé « Sentry » qui suit le comportement des agents à l'aide des unités de traitement des données de Nvidia.
Un cadre de Nvidia a déclaré aux journalistes que ces outils auraient pu empêcher le piratage médiatisé de Hugging Face en juillet par des agents d'Open AI, qui a relancé le débat sur les risques que l'IA représente. Depuis qu'il est devenu pape l'année dernière, le pape Léon, né à Chicago, a manifesté un vif intérêt pour l'IA. En mai, il a publié une lettre officielle connue sous le nom d'« encyclique » dans laquelle il a déclaré que l'IA n'était pas neutre sur le plan moral et devait être « désarmée » grâce à une réglementation solide afin qu'elle serve l'humanité plutôt que de l'affaiblir.
La semaine dernière, il a été révélé que les modèles d'Open AI avaient piraté des dizaines de sites web, y compris celui d'un service de santé australien, lors de leurs exécutions d'entraînement de routine. Le directeur général de Nvidia a passé les dernières semaines à faire équipe avec Trump pour s'opposer à la nécessité d'une réglementation ou d'une surveillance supplémentaires, en insistant sur le fait que la responsabilité de garantir la sécurité incombe aux entreprises individuelles.