DeepSeekのようなツールのリスクを挙げ、セキュリティ責任者がAI規制の迅速化を要請

セキュリティ・オペレーション・センター、特に最高情報セキュリティ責任者（CISO）の間で、中国発の巨大AI「DeepSeek」への懸念が高まっている。

当初はビジネスの効率化とイノベーションのための画期的な技術として歓迎されていた人工知能だが、現在では企業の防衛を主導する人々に大きな不安を与えている。

英国のCISOの81％というかなりの大多数が、中国製AIチャットボットに対する政府の即時規制を求めている。彼らは、迅速な対応がなされなければ、このツールが全国的なサイバーセキュリティ危機の引き金になりかねないと警告している。

この懸念は憶測に基づくものではなく、この技術の不透明なデータ処理や悪意のある利用の可能性から直接生じており、企業のセキュリティの最高レベルで警鐘を鳴らしている問題である。

こうした見識は、Absolute Security社の「UK Resilience Risk Index Report」のために実施された、英国の主要組織の250人のCISOを対象とした世論調査から得られたものだ。このデータは、かつて理論的だったAIの脅威が、セキュリティ・リーダーにとって具体的な現実となり、断固とした対応を促していることを示している。

戦略の劇的な転換を反映して、これらのリーダーの3分の1以上（34%）が、セキュリティ上の懸念からAIツールの全面的な使用禁止をすでに実施している。さらに30％は、企業内での特定のAI導入を中止している。

このような後退は、テクノロジーの拒絶ではなく、エスカレートするリスク状況に対する現実的な反応である。最近のハロッズでの情報漏えいのような有名な事件が示すように、企業はすでに高度な脅威と闘っている。CISOは追いつくのが難しいと感じており、高度なAIが攻撃者の能力を増強するという見通しは、多くの人が対応する準備ができていないと感じている。

DeepSeekのようなプラットフォームのセキュリティ・ギャップの拡大

DeepSeekのようなプラットフォームの根本的なリスクは、企業の機密データを漏えいさせる可能性と、攻撃ツールとしてサイバー犯罪者に利用される可能性の両方があることだ。

CISOの60%は、DeepSeekの普及によってサイバー攻撃が直接的に増加すると予測している。同数のCISOが、このテクノロジーはすでにプライバシーとガバナンスのプロトコルを複雑にし、すでに要求の厳しい役割を限界まで押し上げていると報告している。

このことは、顕著な認識の変化につながっている。かつては防衛を大きく変える可能性があると考えられていたAIは、セキュリティの専門家からは脅威の一部と見なされるようになっている。調査によると、CISOの42％が、AIは自社のセキュリティ体制にとってメリットよりもリスクの方が大きいと考えている。

アブソリュート・セキュリティのインターナショナルSVP、アンディ・ウォードは次のようにコメントしている：「我々の調査は、サイバー脅威環境を急速に変化させているDeepSeekのような新たなAIツールがもたらす重大な危険性を強調している。

「攻撃を加速させ、機密データを危険にさらすAIツールの能力に対する懸念が高まる中、組織は早急にサイバー耐性を強化し、これらのAIを利用した脅威に対抗するためのセキュリティフレームワークを更新する必要があります。

「英国のCISOの5人に4人が政府の規制を求めているのは、まさにこのためだ。彼らは、この技術がいかに迅速に進化し、既存のセキュリティ対策を回避できるかを目の当たりにしている。

おそらく最も憂慮すべき発見は、準備不足の告白であろう。シニア・セキュリティ・リーダーの半数近く（46%）が、AI主導型攻撃特有の危険に対処する準備がチームにできていないことを認めている。彼らは、DeepSeekのようなツールが、防衛戦略が適応できるよりも早く開発され、政府の介入でしか対処できないと多くの人が感じている重大な脆弱性を生み出すのを見ている。

「これらは仮定のリスクではなく、具体的なリスクです」とウォードは付け加えた。「DeepSeekのようなLLMに対応するために、組織がすでにAIツールの全面的な使用を禁止したり、セキュリティ戦略を見直したりしているという事実は、この問題がいかに差し迫ったものであるかを示している。

「配備、ガバナンス、モニタリングの明確なルールを確立する国家的な規制の枠組みがなければ、英国経済のあらゆる分野で深刻な混乱が生じる危険性がある。

企業はAIの未来を確保するために投資する

守りの姿勢をとってはいるものの、企業はAIを完全に見捨てているわけではない。現在のアプローチは、完全な撤退というよりは戦略的な再調整である。

企業はAIの変革の可能性を認めており、AIを安全に統合するために多額の投資を行っている。実際、84％の企業が2025年に向けてAIの専門家の採用を優先している。

このコミットメントは最高幹部レベルにも及んでおり、80％の企業がC-suite向けのAIトレーニングに専念している。その戦略は2つある。テクノロジーを管理するための既存スタッフのスキルアップと、その複雑さをナビゲートするための専門人材の採用だ。

目標は、社内にAI知識の強固な基盤を構築し、増大する外部の脅威に対する重要な防御の役割を果たすことである。

英国の安全保障指導者からのメッセージは明確だ。目的はAIのイノベーションを抑制することではなく、その安全な発展を確保することである。これを達成するには、政府とのより強力で協力的なパートナーシップが必要だ。

そのためには、明確なルールを設定し、政府の監視を確保し、熟練したAI人材を育成し、ディープシークとそれに続く強力なAIツールがもたらす安全保障上のリスクを管理するための首尾一貫した国家戦略を確立する必要がある。

「議論の期間は過ぎた。我々は、AIが危機を煽るのではなく、進歩を促進するよう、早急な行動、明確な政策、厳格な監視を必要としている」とウォードは締めくくった。

関連記事アラン・チューリング研究所人文科学がAIの未来の鍵

AIとビッグデータについて、業界の専門家からもっと学びたいですか？アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoをご覧ください。この包括的なイベントは、Intelligent Automation Conference、BlockX、Digital Transformation Week、Cyber Security & Cloud Expoなどの他の主要なカンファレンスと同時に開催されます。

テックフォージが提供するその他のエンタープライズ向けテクノロジーイベントやウェビナーについては、こちらをご覧ください。