Alucinação de IA Quase Desencadeia Operação Militar dos EUA

Durante a primavera, funcionários dos Estados Unidos fizeram uma descoberta surpreendente enquanto aeronaves militares já estavam no ar: a inteligência que orientava um ataque armado contra um navio chinês foi inteiramente fabricada por um chatbot de IA. A operação foi cancelada na última hora, evitando por pouco um possível confronto com a China, informou a CNN na sexta-feira.
Este incidente destaca uma preocupação crescente entre líderes militares e especialistas externos: à medida que os tomadores de decisão confiam cada vez mais na IA, os erros gerados por esses sistemas podem se propagar pela cadeia de comando antes de serem examinados.
O relatório de inteligência, que circulou durante o conflito com o Irã, afirmava que o navio transportava componentes para um programa de armas nucleares.
A desinformação originou-se de um analista do Comando de Operações Especiais que usou um chatbot de IA para combinar dados de código aberto com inteligência de sinais classificada. O chatbot identificou incorretamente o manifesto de carga do navio. O analista então usou a ferramenta uma segunda vez para formatar essas descobertas errôneas em um resumo com aparência oficial, que foi distribuído por canais de comando.
Este quase acidente ocorre enquanto as Forças Armadas dos EUA se esforçam para integrar a IA para acelerar a tomada de decisões e manter sua vantagem estratégica sobre a China. O Pentágono descreveu a IA como fornecedora de uma vantagem significativa na aceleração da cadeia de eliminação, permitindo que os comandantes respondam em tempo hábil. No entanto, a mesma velocidade que torna a IA atraente também pode permitir que alucinações persistam com supervisão humana insuficiente.
“É importante que os membros dos serviços entendam a incerteza inerente aos LLMs”, disse Jake Steckler, pesquisador do GovAI e veterano oficial do Exército dos EUA, em uma resposta por escrito à TechCrunch. “Mas é especialmente crítico para quaisquer decisões que possam levar ao uso da força, como direcionamento, análise de inteligência ou planejamento operacional. Há consequências de vida ou morte para essas decisões.”
No entanto, Steckler argumenta que o incidente deve servir como um chamado para adicionar mais salvaguardas à IA, não como uma razão para evitá-la. “Essas ferramentas podem ser úteis nos contextos certos e com as salvaguardas adequadas em vigor”, disse ele. “Mas priorizar a velocidade de adoção acima de tudo provavelmente levará a incidentes que farão apenas os membros dos serviços perderem a confiança nesses sistemas, o que, em última análise, só irá retardar a adoção.”
Artigo relacionado
Os Les Karpas da Nvidia: Robôs à espera de um momento ChatGPT no TechCrunch Disrupt 2026
O lançamento do ChatGPT em novembro de 2022 mudou abruptamente a IA de uma hipérbole teórica para uma utilidade cotidiana, alterando fundamentalmente a forma como interagimos com modelos de linguagem de grande escala.A robótica tem sido há muito obje
A Anthropic alerta que modelos de IA pequenos podem se autorreplicar até o final do ano
Anthropic emitiu outro alerta urgente: modelos de IA podem potencialmente aprender a se autorreplicar em poucos meses, e uma vez que esse processo se inicie, não há efetivamente um botão de “desligar”. De acordo com a mais recente pesquisa da empresa
A Anthropic lança o Claude Fable 5.1 e o Mythos 5.1, duplicando os benchmarks de programação e reduzindo os custos de leitura em cache em 75%
Em 1º de setembro, a Anthropic apresentou o Claude Fable 5.1 e o Claude Mythos 5.1, posicionando-os como os modelos mais avançados do mundo para programação e trabalho de conhecimento. Construídos sobre uma arquitetura base compartilhada, os modelos
Recomendações de tópicos especiais relacionados
Comentários (0)

Durante a primavera, funcionários dos Estados Unidos fizeram uma descoberta surpreendente enquanto aeronaves militares já estavam no ar: a inteligência que orientava um ataque armado contra um navio chinês foi inteiramente fabricada por um chatbot de IA. A operação foi cancelada na última hora, evitando por pouco um possível confronto com a China, informou a CNN na sexta-feira.
Este incidente destaca uma preocupação crescente entre líderes militares e especialistas externos: à medida que os tomadores de decisão confiam cada vez mais na IA, os erros gerados por esses sistemas podem se propagar pela cadeia de comando antes de serem examinados.
O relatório de inteligência, que circulou durante o conflito com o Irã, afirmava que o navio transportava componentes para um programa de armas nucleares.
A desinformação originou-se de um analista do Comando de Operações Especiais que usou um chatbot de IA para combinar dados de código aberto com inteligência de sinais classificada. O chatbot identificou incorretamente o manifesto de carga do navio. O analista então usou a ferramenta uma segunda vez para formatar essas descobertas errôneas em um resumo com aparência oficial, que foi distribuído por canais de comando.
Este quase acidente ocorre enquanto as Forças Armadas dos EUA se esforçam para integrar a IA para acelerar a tomada de decisões e manter sua vantagem estratégica sobre a China. O Pentágono descreveu a IA como fornecedora de uma vantagem significativa na aceleração da cadeia de eliminação, permitindo que os comandantes respondam em tempo hábil. No entanto, a mesma velocidade que torna a IA atraente também pode permitir que alucinações persistam com supervisão humana insuficiente.
“É importante que os membros dos serviços entendam a incerteza inerente aos LLMs”, disse Jake Steckler, pesquisador do GovAI e veterano oficial do Exército dos EUA, em uma resposta por escrito à TechCrunch. “Mas é especialmente crítico para quaisquer decisões que possam levar ao uso da força, como direcionamento, análise de inteligência ou planejamento operacional. Há consequências de vida ou morte para essas decisões.”
No entanto, Steckler argumenta que o incidente deve servir como um chamado para adicionar mais salvaguardas à IA, não como uma razão para evitá-la. “Essas ferramentas podem ser úteis nos contextos certos e com as salvaguardas adequadas em vigor”, disse ele. “Mas priorizar a velocidade de adoção acima de tudo provavelmente levará a incidentes que farão apenas os membros dos serviços perderem a confiança nesses sistemas, o que, em última análise, só irá retardar a adoção.”
Os Les Karpas da Nvidia: Robôs à espera de um momento ChatGPT no TechCrunch Disrupt 2026
O lançamento do ChatGPT em novembro de 2022 mudou abruptamente a IA de uma hipérbole teórica para uma utilidade cotidiana, alterando fundamentalmente a forma como interagimos com modelos de linguagem de grande escala.A robótica tem sido há muito obje
A Anthropic alerta que modelos de IA pequenos podem se autorreplicar até o final do ano
Anthropic emitiu outro alerta urgente: modelos de IA podem potencialmente aprender a se autorreplicar em poucos meses, e uma vez que esse processo se inicie, não há efetivamente um botão de “desligar”. De acordo com a mais recente pesquisa da empresa
A Anthropic lança o Claude Fable 5.1 e o Mythos 5.1, duplicando os benchmarks de programação e reduzindo os custos de leitura em cache em 75%
Em 1º de setembro, a Anthropic apresentou o Claude Fable 5.1 e o Claude Mythos 5.1, posicionando-os como os modelos mais avançados do mundo para programação e trabalho de conhecimento. Construídos sobre uma arquitetura base compartilhada, os modelos





Lar






