Exclusivo CNN: EE.UU. “casi inició una guerra” al usar un informe militar falso generado con IA, según fuentes
Por Katie Bo Lillis y Zachary Cohen, CNN
Un informe de inteligencia distribuido entre las Fuerzas Armadas de Estados Unidos esta primavera, en medio de la guerra con Irán, encendió inmediatamente las alarmas: un barco chino en Medio Oriente transportaba componentes de un programa de armas nucleares.
Las Fuerzas Armadas de Estados Unidos entraron en acción con planes para interceptar la embarcación, según cuatro fuentes familiarizadas con el episodio. Dos de las fuentes dijeron que miembros armados de las Fuerzas estadounidenses se preparaban para abordar el barco. Aviones militares estaban en el aire, según una de esas fuentes y otra familiarizada con el incidente.
Fue justo antes de la operación prevista cuando los funcionarios profundizaron en el informe, elaborado por un analista de un comando de operaciones especiales, y descubrieron que había sido generado con ayuda de inteligencia artificial (IA) y que un chatbot utilizado por el analista había identificado incorrectamente el material que transportaba el barco. CNN no pudo determinar cuál era la carga identificada erróneamente.
El informe, según una de las fuentes, era “completamente falso”. Pero también “casi inició una guerra”, dijo la fuente. Cualquier operación de Estados Unidos contra una embarcación china podría haber corrido el riesgo de convertirse en un conflicto armado entre las dos naciones.
En las Fuerzas Armadas de Estados Unidos y la comunidad de inteligencia, los funcionarios están impulsando la incorporación de la IA en prácticamente todos los aspectos de su trabajo, desde analizar los enormes volúmenes de inteligencia sin procesar que recopila Estados Unidos y seleccionar objetivos para ataques, hasta aplicaciones más rutinarias, como administrar presupuestos, logística y cadenas de suministro.
Pero el episodio pone de relieve los profundos riesgos de utilizar esta tecnología poderosa, nueva y relativamente poco comprendida para seleccionar objetivos en medio de una guerra. Los analistas han temido durante mucho tiempo que la IA pueda provocar un cálculo catastrófico si los Estados dependen de datos deficientes o manipulados, el tipo de error de cálculo que podría llevar a Estados Unidos a disparar contra un barco chino basándose en información inexacta.
En este caso concreto, el analista consultó un chatbot sobre información de inteligencia relativa al manifiesto del barco que se había originado en el Comando de Operaciones Especiales del Pacífico de Estados Unidos, con sede en Hawai. No estaba claro si se trataba de uno disponible comercialmente o de un producto del Gobierno de Estados Unidos.
“Las herramientas internas son, en su mayoría, simples copias de las comerciales con una capa de maquillaje”, dijo un ex alto funcionario de Estados Unidos familiarizado con los sistemas de IA utilizados por analistas militares y de inteligencia.
El bot fusionó inteligencia de fuentes abiertas con inteligencia de señales secreta de los archivos del Gobierno y llegó a su fatídica conclusión sobre el material que transportaba el barco.
Luego, el analista volvió a utilizar IA para convertir los hallazgos en un informe de inteligencia estándar, del tipo en el que confían los funcionarios militares, y lo distribuyó.
El Comando de Operaciones Especiales del Pacífico de Estados Unidos y el Pentágono no respondieron a una solicitud de comentarios.
La razón de la rápida adopción de la IA es que puede ayudar a los militares a tomar más rápidamente decisiones en el campo de batalla, como qué objetivos atacar o qué recursos militares trasladar y adónde. Los funcionarios dicen que Estados Unidos no puede darse el lujo de quedarse rezagado en la integración de la IA, en caso de que algún día tenga que combatir contra China u otro adversario que potencialmente pudiera mantenerse un paso por delante de Estados Unidos.
En enero, el secretario de Guerra Pete Hegseth publicó la “Estrategia de aceleración de la inteligencia artificial” de su departamento, en un intento por acelerar el uso de la IA por parte de las Fuerzas Armadas.
“Desataremos la experimentación, eliminaremos las barreras burocráticas, concentraremos nuestras inversiones y demostraremos el enfoque de ejecución necesario para garantizar que lideremos en materia de IA militar”, dijo Hegseth en un discurso en el que anunció la estrategia.
La estrategia también impulsa su uso generalizado en las Fuerzas Armadas, al ordenar al departamento que haga disponible la IA mediante varios programas con el objetivo de “democratizar la experimentación y la transformación con IA en todo el Departamento al poner los modelos de IA líderes en el mundo de Estados Unidos directamente en manos de nuestros tres millones de empleados civiles y militares, en todos los niveles de clasificación”, según un memorando que anunció la estrategia.
Pero el esfuerzo está descentralizado, dijeron varios funcionarios estadounidenses familiarizados con la situación, y distintas partes del Gobierno utilizan diferentes herramientas bajo diferentes órdenes y estándares de seguridad. No existe un conjunto único de estándares sobre cómo Estados Unidos verifica la información generada por estas herramientas. La constelación de diferentes sistemas de IA desplegados por distintos sectores de las Fuerzas Armadas y la comunidad de inteligencia hace que su fiabilidad y funcionalidad relativas varíen ampliamente.
Durante semanas, responsables políticos en Washington han debatido intensamente sobre la IA después de una serie de graves advertencias de ingenieros de Silicon Valley y directores ejecutivos de empresas tecnológicas sobre la posibilidad de que la IA escape a las restricciones humanas, con consecuencias potencialmente capaces de poner fin a la civilización.
Pero el episodio del barco chino pone de relieve un riesgo diferente y más inmediato: que los seres humanos tomen decisiones desastrosas basándose en información inexacta o engañosa generada por IA u otros sistemas automatizados. Las fuentes dijeron que las Fuerzas Armadas están recurriendo rápidamente a la IA para ayudar con la selección de objetivos, un área que conlleva el evidente riesgo de errores fatales.
“La IA en la selección de objetivos definitivamente está aumentando y no existen directrices reales sobre cómo la presencia de un ser humano en el proceso evitará bajas civiles o fuego amigo”, dijo otra fuente familiarizada con las políticas actuales de las Fuerzas Armadas.
Según una de las fuentes, el tipo de “alucinación” que generó la herramienta utilizada por el analista en este caso no ha sido un incidente aislado dentro de la comunidad de inteligencia desde que estas herramientas comenzaron a proliferar en el Gobierno.
Para algunos funcionarios de inteligencia de mayor edad, incluso aquellos que apoyan ampliamente el uso de la IA dentro de las Fuerzas Armadas, la IA ha ejercido presión sobre los analistas para que produzcan y distribuyan inteligencia con mayor rapidez, lo que abre la puerta a errores. Varios fuentes dijeron que los analistas jóvenes, en particular, son usuarios nativos de estas herramientas y tienen más probabilidades de confiar en ellas sin cuestionarlas.
“La IA permite llegar más rápido a una mala idea”, dijo una de las fuentes.
The-CNN-Wire
™ & © 2026 Cable News Network, Inc., a Warner Bros. Discovery Company. All rights reserved.
