Una IA le dijo al Pentágono que un barco chino llevaba armas nucleares: no era cierto
El Pentágono estuvo a punto de interceptar un barco chino después de que un chatbot de inteligencia artificial generara un informe de inteligencia falso, según reveló CNN esta semana citando fuentes del Departamento de Defensa.
El caso reabre una discusión que viene creciendo en Washington: cuánta autonomía debería tener la IA en el análisis de inteligencia militar, y quién responde cuando se equivoca.
Un analista del comando de operaciones especiales estadounidense usó la herramienta para evaluar el manifiesto de carga de la embarcación. El sistema concluyó que transportaba componentes para un programa de armas nucleares. Con ese dato sobre la mesa, el Pentágono empezó a preparar un abordaje: hubo aviones militares en el aire y se activaron protocolos para interceptar el buque.
La operación se frenó a último momento. Analistas con más experiencia revisaron la evaluación y encontraron que la IA había inventado la conclusión: no había evidencia real de que el barco llevara ese tipo de carga. CNN no pudo confirmar qué modelo o chatbot en particular se usó para el análisis.
El episodio, ocurrido en medio de la tensión regional por el conflicto en Irán, generó preocupación dentro del propio Departamento de Defensa sobre los controles que existen (o no) para verificar los resultados que entrega la IA antes de que se conviertan en decisiones operativas. Varios medios estadounidenses, entre ellos Rolling Stone y Engadget, calificaron el hecho como el ejemplo más claro hasta ahora de cómo una alucinación de un modelo de lenguaje puede escalar hasta el borde de un incidente militar entre dos potencias.
Por ahora el Pentágono no confirmó públicamente los detalles ni qué medidas va a tomar. El caso reabre una discusión que viene creciendo en Washington: cuánta autonomía debería tener la IA en el análisis de inteligencia militar, y quién responde cuando se equivoca.
