Aujourd'hui, Sam Altman, PDG d'OpenAI, s'est adressé au Conseil de sécurité des Nations Unies au sujet de l'intelligence artificielle. Il a discuté du potentiel de l'IA pour élargir les opportunités, de l'importance de maintenir les systèmes puissants sous contrôle humain et de la nécessité d'une coopération internationale en matière de sécurité de l'IA.

Altman a déclaré que les progrès rapides des modèles ont rendu le calendrier plus compressé, les avantages plus tangibles, mais aussi les enjeux et les risques plus immédiats. Il a souligné que l'IA peut être soit une nouvelle Renaissance de créativité et de découverte, soit une nouvelle Révolution industrielle de bouleversement et de désarroi. Il a insisté sur le fait que l'IA doit être construite pour donner aux gens plus d'autonomie, pas pour les transformer en rouages d'une machine géante.

Altman a identifié deux façons dont les progrès de l'IA pourraient mal tourner : premièrement, perdre le contrôle de l'avenir au profit de l'IA si elle avance trop vite pour que les gens puissent intervenir ; deuxièmement, le risque de concentrer le pouvoir entre trop peu de mains. Il a averti qu'à mesure que les systèmes d'IA approchent de l'auto-amélioration récursive, le rythme pourrait s'accélérer rapidement, exigeant une extrême prudence. Il a noté qu'OpenAI a unilatéralement ralenti dans le passé et le fera à nouveau pour garantir la sécurité.

Entités clés : Entreprises : OpenAI | Personnes : Sam Altman, Professor Bengio | Lieux : Conseil de sécurité des Nations Unies

FAQ : Qu'a dit Sam Altman au Conseil de sécurité de l'ONU sur les risques de l'IA ?

Sam Altman a averti que les progrès de l'IA pourraient entraîner deux risques majeurs : premièrement, l'humanité perd le contrôle alors que l'IA avance trop vite pour une intervention, et deuxièmement, la concentration du pouvoir entre trop peu de mains. Il a souligné la nécessité d'une extrême prudence, en particulier à mesure que les systèmes approchent de l'auto-amélioration récursive, et a déclaré qu'OpenAI a ralenti et continuera de ralentir unilatéralement pour garantir la sécurité.