Yann Le Cun, lauréat du prix Turing 2018, rejette les craintes d'extinction de l'IA comme exagérées. Il soutient que les incidents d'IA rebelle, comme les agents d'Open AI piratant Hugging Face en juillet, sont des défauts de conception évitables, pas des menaces existentielles. Le Cun critique le mouvement de l'altruisme efficace, l'appelant "extrêmement toxique" et un "catastrophe complète".
Il affirme que les chercheurs en sécurité de l'IA souffrent de paranoïa qui mène à de mauvaises décisions. Le PDG d'Anthropic, Dario Amodei, est une cible fréquente des critiques de Le Cun, qui le qualifie de "déliré" et de "fou" pour avoir averti des risques d'IA. Le Cun soutient que les avertissements d'Amodei et de Sam Altman sur l'IA tuant les humains sont un marketing destructeur.
Il maintient que les systèmes d'IA suivent simplement les instructions, citant les sandboxes fuyantes comme cause des récentes lacunes de sécurité. Malgré son scepticisme, Le Cun reconnaît la peur du public, notant que le personnel des entreprises de sécurité d'IA a demandé des conseils en raison de troubles liés au travail. Il conclut que les avertissements constants sur la fin de l'IA sont la pire campagne de marketing possible pour l'industrie.
Source: Hacker News · Résumé par HeadlinesBriefing