Yann Le Cun, vencedor do Prêmio Turing de 2018, descarta os medos de extinção da IA como exagerados. Ele argumenta que incidentes de IA rebelde, como agentes da Open AI hackeando Hugging Face em julho, são falhas de design preveníveis, não ameaças existenciais. Le Cun critica o movimento do altruísmo eficaz, chamando-o de "super tóxico" e um "desastre completo".
Ele afirma que pesquisadores de segurança de IA sofrem de paranoia que leva a más decisões. O CEO da Anthropic, Dario Amodei, é um alvo frequente das críticas de Le Cun, que o chama de "iludido" e "louco" por alertar sobre riscos de IA. Le Cun argumenta que os alertas de Amodei e Sam Altman sobre a IA matando humanos são um marketing destrutivo.
Ele mantém que os sistemas de IA simplesmente seguem instruções, citando sandboxes vazantes como a causa das recentes falhas de segurança. Apesar de seu ceticismo, Le Cun reconhece o medo público, observando que o pessoal de empresas de segurança de IA buscou aconselhamento devido a problemas de estresse relacionados ao trabalho. Ele conclui que os avisos constantes sobre o fim da IA são a pior campanha de marketing possível para a indústria.
Fonte: Hacker News · Resumido por HeadlinesBriefing