La alucinación de la IA casi desencadena una operación militar de EE. UU.

Durante la primavera, funcionarios estadounidenses hicieron un descubrimiento impactante mientras las aeronaves militares ya estaban en el aire: la inteligencia que guiaba un ataque armado contra un buque chino fue fabricada completamente por un chatbot de IA. La operación fue cancelada en el último momento, evitando por poco un posible enfrentamiento con China, informó CNN el viernes.
Este incidente destaca una preocupación creciente entre líderes militares y expertos externos: a medida que los tomadores de decisiones confían cada vez más en la IA, los errores generados por estos sistemas pueden propagarse por la cadena de mando antes de ser examinados.
El informe de inteligencia, que circuló durante el conflicto con Irán, afirmaba que el buque transportaba componentes para un programa de armas nucleares.
La desinformación provenía de un analista del Comando de Operaciones Especiales que utilizó un chatbot de IA para combinar datos de fuentes abiertas con inteligencia de señales clasificada. El chatbot identificó incorrectamente el manifiesto de carga del buque. El analista luego utilizó la herramienta una segunda vez para formatear estos resultados erróneos en un resumen con apariencia oficial, que se distribuyó por los canales de mando.
Este casi accidente ocurre mientras las Fuerzas Armadas de EE. UU. se esfuerzan por integrar la IA para acelerar la toma de decisiones y mantener su ventaja estratégica sobre China. El Pentágono ha descrito a la IA como un proveedor de una ventaja significativa para acelerar la cadena de eliminación, permitiendo a los comandantes responder de manera oportuna. Sin embargo, la misma velocidad que hace atractiva a la IA también puede permitir que las alucinaciones persistan con una supervisión humana insuficiente.
“Es importante que los miembros del servicio comprendan la incertidumbre inherente a los modelos de lenguaje grandes”, dijo Jake Steckler, investigador en GovAI y veterano oficial del Ejército de EE. UU., en una respuesta escrita a TechCrunch. “Pero es especialmente crítico para cualquier decisión que pueda llevar al uso de la fuerza, como la selección de objetivos, el análisis de inteligencia o la planificación operativa. Hay consecuencias de vida o muerte para esas decisiones.”
No obstante, Steckler argumenta que el incidente debería servir como un llamado a agregar más salvaguardas a la IA, no como una razón para evitarla. “Estas herramientas pueden ser útiles en los contextos adecuados y con las salvaguardas adecuadas”, dijo. “Pero priorizar la velocidad de adopción por encima de todo probablemente conduzca a incidentes que solo harán que los miembros del servicio pierdan la confianza en estos sistemas, lo que al final solo ralentizará la adopción.”
Artículo relacionado
Los robots de Nvidia Les Karpas: Robots esperando un momento ChatGPT en TechCrunch Disrupt 2026
El lanzamiento de ChatGPT en noviembre de 2022 desplazó abruptamente la inteligencia artificial (IA) de la hipotética expectativa a una utilidad cotidiana, cambiando fundamentalmente la forma en que interactuamos con los modelos de lenguaje grandes.L
Anthropic advierte que los modelos pequeños de IA pueden auto-replicarse a finales de año
Anthropic ha emitido otra advertencia urgente: los modelos de IA podrían aprender a replicarse a sí mismos en cuestión de meses, y una vez que este proceso comience, no habrá efectivamente un interruptor de "apagado". Según la última investigación de
Anthropic lanza Claude Fable 5.1 y Mythos 5.1, duplicando los estándares de programación y reduciendo los costos de lectura en caché en un 75%
El 1 de septiembre, Anthropic presentó Claude Fable 5.1 y Claude Mythos 5.1, posicionándolos como los modelos más avanzados del mundo para la programación y el trabajo del conocimiento. Construidos sobre una arquitectura base compartida, los modelos
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Durante la primavera, funcionarios estadounidenses hicieron un descubrimiento impactante mientras las aeronaves militares ya estaban en el aire: la inteligencia que guiaba un ataque armado contra un buque chino fue fabricada completamente por un chatbot de IA. La operación fue cancelada en el último momento, evitando por poco un posible enfrentamiento con China, informó CNN el viernes.
Este incidente destaca una preocupación creciente entre líderes militares y expertos externos: a medida que los tomadores de decisiones confían cada vez más en la IA, los errores generados por estos sistemas pueden propagarse por la cadena de mando antes de ser examinados.
El informe de inteligencia, que circuló durante el conflicto con Irán, afirmaba que el buque transportaba componentes para un programa de armas nucleares.
La desinformación provenía de un analista del Comando de Operaciones Especiales que utilizó un chatbot de IA para combinar datos de fuentes abiertas con inteligencia de señales clasificada. El chatbot identificó incorrectamente el manifiesto de carga del buque. El analista luego utilizó la herramienta una segunda vez para formatear estos resultados erróneos en un resumen con apariencia oficial, que se distribuyó por los canales de mando.
Este casi accidente ocurre mientras las Fuerzas Armadas de EE. UU. se esfuerzan por integrar la IA para acelerar la toma de decisiones y mantener su ventaja estratégica sobre China. El Pentágono ha descrito a la IA como un proveedor de una ventaja significativa para acelerar la cadena de eliminación, permitiendo a los comandantes responder de manera oportuna. Sin embargo, la misma velocidad que hace atractiva a la IA también puede permitir que las alucinaciones persistan con una supervisión humana insuficiente.
“Es importante que los miembros del servicio comprendan la incertidumbre inherente a los modelos de lenguaje grandes”, dijo Jake Steckler, investigador en GovAI y veterano oficial del Ejército de EE. UU., en una respuesta escrita a TechCrunch. “Pero es especialmente crítico para cualquier decisión que pueda llevar al uso de la fuerza, como la selección de objetivos, el análisis de inteligencia o la planificación operativa. Hay consecuencias de vida o muerte para esas decisiones.”
No obstante, Steckler argumenta que el incidente debería servir como un llamado a agregar más salvaguardas a la IA, no como una razón para evitarla. “Estas herramientas pueden ser útiles en los contextos adecuados y con las salvaguardas adecuadas”, dijo. “Pero priorizar la velocidad de adopción por encima de todo probablemente conduzca a incidentes que solo harán que los miembros del servicio pierdan la confianza en estos sistemas, lo que al final solo ralentizará la adopción.”
Los robots de Nvidia Les Karpas: Robots esperando un momento ChatGPT en TechCrunch Disrupt 2026
El lanzamiento de ChatGPT en noviembre de 2022 desplazó abruptamente la inteligencia artificial (IA) de la hipotética expectativa a una utilidad cotidiana, cambiando fundamentalmente la forma en que interactuamos con los modelos de lenguaje grandes.L
Anthropic advierte que los modelos pequeños de IA pueden auto-replicarse a finales de año
Anthropic ha emitido otra advertencia urgente: los modelos de IA podrían aprender a replicarse a sí mismos en cuestión de meses, y una vez que este proceso comience, no habrá efectivamente un interruptor de "apagado". Según la última investigación de
Anthropic lanza Claude Fable 5.1 y Mythos 5.1, duplicando los estándares de programación y reduciendo los costos de lectura en caché en un 75%
El 1 de septiembre, Anthropic presentó Claude Fable 5.1 y Claude Mythos 5.1, posicionándolos como los modelos más avanzados del mundo para la programación y el trabajo del conocimiento. Construidos sobre una arquitectura base compartida, los modelos





Hogar






