Esta es la edición de hoy de The Download, nuestro boletín semanal que brinda una dosis diaria de lo que sucede en el mundo de la tecnología. ¿Quién es responsable cuando los agentes de IA se salen de control? En los últimos meses, una cascada de ciberataques por parte de agentes de IA ha dejado al mundo boquiabierto. En julio, Open AI reveló que una horda de sus agentes había escapado de su sandbox y habían hackeado la plataforma AI Hugging Face para hacer trampa en una prueba de ciberseguridad. Muchos expertos dicen que solo es cuestión de tiempo hasta que haya un incidente más dañino donde los agentes de IA eviten sandboxes para acceder a sistemas a los que no deberían. Pero la gran pregunta es: ¿Cómo responsabilizamos a las empresas cuando pierden el control de sus agentes de IA? —Michelle Kim

Índice de hype de IA

Separar la realidad de IA de la ficción exagerada no siempre es fácil. Por eso hemos creado el Índice de hype de IA: un resumen simple y a simple vista de lo que está dando forma a la industria en este momento. La última edición incluye fabricantes de chips chinos, sitios web de wiki alemanes y terminadores estadounidenses. Vea dónde aterrizó todo en el índice de este mes. —Michelle Kim

Mesas redondas: los fallos mortales del muro virtual de fronteras

Lo más leído He rebuscado internet para encontrarles hoy las historias más divertidas/importantes/terrorizantes/fascinantes sobre tecnología

1 Open AI dice que ha pausado el entrenamiento de sus modelos

La decisión llega después de que sus agentes interactuaron con sitios web del gobierno de EE. UU. (AP) + Trump albergó una cena en la Casa Blanca con el jefe de Anthropic, Dario Amodei, la noche pasada (FT) + ¿Cuánto acceso tendrán realmente los evaluadores dentro de las empresas de IA? (The Atlantic) + ¿Por qué no podemos mantener simplemente a los agentes de IA errantes fuera de internet? (The Verge) + Los demócratas están en un apuro madrileño para conseguir la IA “correcta”. (New York Magazine) + Un interruptor de muerte de IA no es tan simple, después de todo. (Bloomberg) + ¿Realmente la IA nos matará a todos? Tus preguntas, respondidas. (MIT Technology Review)

2 ¿Por qué el rechazo a los centros de datos también no es un reclamo climático? Todavía es difícil hacer que la gente se importe en las emisiones que crean. (Wired) + ¿Qué hace el movimiento climático ahora? (Atlantic) + La matemática detrás de los centros de datos y la energía. (MIT Technology Review)

3 Los grandes osos de Wall Street aún no están listos para apostar contra la IA, aunque la charla de burbuja está creciendo, pero pocos están dispuestos a ir en contra de la corriente. (Information $) + ¿Qué es incluso la burbuja de IA? (MIT Technology Review)

4 ¿Realmente el Anthropic IA hizo un descubrimiento científico por sí mismo? Un científico compartió investigación con Claude, y dice que el nuevo hallazgo coincide. Hmm. (NYT) + IA para ciencia necesita razonamiento, no solo datos. (MIT Technology Review)

5 Los superbugs antiguos podrían ayudarnos a combatir la resistencia a antibióticosPodrían estar emergiendo del permafrost. (New Scientist)

6 Alternativas más fiables y más difíciles de bloquear que el GPS están llegando. Usar el campo cuántico de la Tierra podría ser más seguro. (The Economist)

7 ¿Prohibiciones de redes sociales son suficientes para mantener seguros a los niños? La seguridad infantil en línea merece una política más sutil. (IEEE Spectrum, Opinion)

8 Así es como EE. UU. está atacando el control de China sobre los minerales críticosEs un esfuerzo de miles de millones de dólares para aflojar el apretón de Beijing. Y está funcionando. (WSJ)

9 Ya nadie quiere salir con chicos de tecnologíaYa solían ser nerds e inofensivos, ahora tienen un verdadero problema de imagen. (Wired)

10 ¿Cuáles son las reglas de la etiqueta del móvil ahora? ¿Hay una obligación de responder un mensaje de texto de inmediato, por ejemplo? (Vox)

Frase del día “Si eres malo, al menos eres competente. Y si eres malo, no eres malo, y por lo tanto quizás realmente eres un poco bueno porque al menos estás haciendo algo.” —El inversor de riesgo y cofundador de Pay Pal Peter Thiel comparte su visión inusual sobre la competencia versus la moral en una entrevista con el CEO de Axel Springer, Mathias Döpfner.

Lo más uno más Los trabajadores de gig que entrenan robots humanoides en casa Cuando Zeus, un estudiante de medicina en Nigeria, regresa a su apartamento después de un largo día en el hospital, se fija su i Phone en la frente y se graba haciendo quehaceres. Zeus es un registrador de datos de Micro1, que vende los datos que recoge a robots...