Yann Le Cun, ganador del Premio Turing de 2018, desestima los miedos a la extinción de la IA como exagerados. Argumenta que incidentes de IA rebelde, como agentes de Open AI hackeando Hugging Face en julio, son defectos de diseño prevenibles, no amenazas existenciales. Le Cun critica el movimiento del altruismo efectivo, llamándolo "súper tóxico" y un "desastre completo".
Afirma que los investigadores de seguridad de IA sufren de paranoia que lleva a malas decisiones. El CEO de Anthropic, Dario Amodei, es un objetivo frecuente de las críticas de Le Cun, quien lo etiqueta como "desorientado" y "loco" por advertir sobre riesgos de IA. Le Cun argumenta que las advertencias de Amodei y Sam Altman sobre la IA matando a humanos son un marketing destructivo.
Mantiene que los sistemas de IA simplemente siguen instrucciones, citando sandboxes filtrados como la causa de los recientes fallos de seguridad. A pesar de su escepticismo, Le Cun reconoce el miedo público, señalando que el personal de empresas de seguridad de IA ha buscado consejería debido a problemas de estrés laboral. Concluye que las constantes advertencias sobre el fin de la IA son la peor campaña de marketing posible para la industria.
Fuente: Hacker News · Resumido por HeadlinesBriefing