Nick Cammarata, investigador de la startup de IA Goodfire, abrió una publicación de blog de 26.000 palabras con una afirmación llamativa: “Creo que tengo buenas noticias sobre la naturaleza de las redes neuronales”. Sostiene que los grandes modelos de lenguaje podrían ser mucho más fáciles de entender y, por tanto, más fáciles de supervisar y controlar, de lo que creían los investigadores. La publicación ha desatado especulaciones desmedidas y una celebración cautelosa en todo el mundo de la IA, aunque no todos están convencidos. En una entrevista realizada el día después de que la publicación se volviera viral, Cammarata habló sobre lo que, a su juicio, los investigadores están haciendo mal, lo que realmente demuestra su trabajo y por qué los escépticos todavía no están listos para celebrar.
Por otro lado, los agentes personales de IA están difuminando la antigua división entre bots y personas en internet. Estos agentes se encargan de tareas como reservar vuelos y habitaciones de hotel. Solo Muse, de Meta, fue descargada 5 millones de veces en su primer mes. La mezcla de agentes y visitantes humanos en una internet diseñada principalmente para personas ha salido mal, y muchos sitios web ya bloquean a los agentes de IA. Si la demanda sigue creciendo, internet podría rediseñarse en torno a los agentes en lugar de las personas.
Además, unos documentos describen un plan del Ejército de EE. UU. para que los agentes de IA encuentren e inutilicen objetivos con fines de hackeo. Los expertos advierten de que el software podría dañar sistemas no previstos. Otras noticias del boletín abarcan a un sospechoso en un caso de escuchas relacionado con OpenAI que, según se denuncia, contaba con apoyo del gobierno saudí, una prohibición estadounidense de los productos DeepSeek en los sistemas gubernamentales civiles y un esfuerzo europeo por construir su propia versión de Starlink.
Fuente: MIT Technology Review · Resumido por HeadlinesBriefing