米国国防総省は、AI企業Anthropicが軍事目的での不正使用を防ぐための安全対策の削除を拒否したため、同社との協力関係を終了しました。その後、米政府はAnthropicをサプライチェーンリスク企業としてリストアップしました。これに伴い、ペンタゴンはOpenAI、Google、Nvidia、Microsoft、Amazonなど他のAI大手企業へと協力先を移したことで、新たな懸念が生じています。この動きを受けて、議員らはHALO法案を提出し、自律型兵器については人間の指揮官が最終的な決定権を持つようにするとともに、AIの核兵器の運用や大規模な監視への使用を禁止し、厳格な文書管理規則を設けることにしました。専門家たちは、自動化による偏見や不透明なAIシステムが致命的な誤りを引き起こす危険性について警鐘を鳴らしています。