HeadlinesBriefing favicon HeadlinesBriefing.com

Informe falso de IA militar de EE.UU. casi provoca guerra

Hacker News •
×

El informe de inteligencia, que circuló por el ejército estadounidense esta primavera durante la guerra con Irán, encendió las alarmas: un barco chino en Oriente Medio transportaba componentes de un programa de armas nucleares. El ejército estadounidense se puso en acción con planes para interceptar la embarcación, según cuatro fuentes. Miembros armados se preparaban para abordar el barco y aviones militares estaban en el aire, dijeron dos fuentes.

Justo antes de la operación planeada, los funcionarios investigaron más a fondo y descubrieron que el informe —elaborado por un analista de un comando de operaciones especiales— había sido generado con IA. Un chatbot que utilizó el analista identificó incorrectamente el material que transportaba el barco. CNN no pudo averiguar cuál era la carga mal identificada.

El informe era "completamente falso", dijo una fuente, pero también "casi inició una guerra". Cualquier operación estadounidense contra un barco chino podría haber corrido el riesgo de convertirse en un conflicto armado. En todo el ejército y la comunidad de inteligencia de EE.

UU., los funcionarios están impulsando integrar la IA en casi todos los aspectos de su trabajo. Pero el episodio subraya los profundos riesgos de utilizar esta tecnología poderosa, nueva y relativamente poco comprendida para la selección de objetivos en medio de una guerra.