新しいETSI AIセキュリティ規格の概要

ETSI EN 304 223は、組織がガバナンス体制に組み込むべき人工知能に関する基本的なセキュリティ要件を定めています。

企業が機械学習を中核的なワークフローに統合する中、この欧州規格はAIモデルおよびシステムを保護するための具体的な規定を定めています。これは、各国標準化機関によって正式に承認された、AIサイバーセキュリティに関する世界的に適用可能な初の欧州規格であり、国際市場におけるその信頼性を高めています。

EU AI法に対する補完的なベンチマークとして機能する本規格は、データポイズニング、モデルの難読化、間接的なプロンプト注入など、従来のソフトウェアセキュリティ対策では見過ごされがちな、AIシステム特有のリスクを認識しています。本規格は、深層ニューラルネットワーク、生成AI、および基本的な予測システムに適用され、学術研究のみに使用されるものを明示的に除外しています。

ETSI規格が定義するAIセキュリティの責任の連鎖

企業におけるAI導入における根強い課題の一つは、リスクの責任の所在を明確にすることです。ETSI規格は、開発者（Developers）、システム運用者（System Operators）、データ管理者（Data Custodians）という3つの主要な技術的役割を定義することで、この課題に対処しています。

多くの組織において、これらの境界は曖昧になりがちです。例えば、不正検知のためにオープンソースモデルを微調整する金融サービス企業は、開発者とシステム運用の双方に該当します。この二重の役割には厳格な責任が伴います。企業は、トレーニングデータの出所やモデル設計の監査を文書化すると同時に、導入環境のセキュリティを確保しなければなりません。

「データカストディアン」を独立したステークホルダーグループとして明示的に位置づけたことは、最高データ・アナリティクス責任者（CDAO）に直接的な影響を与えます。CDAOはデータのアクセス権限と完全性を管理する役割を担っており、これには現在、明確なセキュリティ上の義務が伴っています。 管理者は、システムの意図された用途がトレーニングデータの機密性レベルと一致していることを確認しなければならず、これによりデータ管理プロセス内に事実上のセキュリティゲートキーパーが組み込まれることになる。

ETSIのAI標準は、セキュリティが導入時にのみ後付けされるものであってはならないことを強調している。設計段階において、組織はメンバーシップ推論やモデル難読化といったAI特有の攻撃を考慮した脅威モデリングを実施しなければならない。

ある要件では、開発者が攻撃対象領域を最小限に抑えるために機能を制限することが義務付けられています。 例えば、システムがマルチモーダルモデルを採用しているにもかかわらず、テキストのみを処理する場合、画像や音声処理といった未使用のモダリティは、軽減が必要なリスクとなります。これにより、技術リーダーは、より小規模で専門性の高いモデルで十分な場合に、大規模な汎用基盤モデルを導入するという一般的な慣行を見直すよう迫られています。

また、この規格では厳格な資産管理も義務付けられています。 開発者およびシステム運用者は、相互依存関係や接続性を網羅した詳細な資産目録を維持しなければなりません。これにより、シャドーAIの発見が容易になります。ITリーダーは、存在を認識していないモデルを保護することはできないからです。さらに、この規格ではAI攻撃に特化した災害復旧計画が求められており、モデルが侵害された場合でも「正常な状態」を確実に復元できるようにしています。

サプライチェーンのセキュリティは、サードパーティベンダーやオープンソースリポジトリに依存する組織にとって直接的な課題となります。ETSI規格の下では、システムオペレーターがドキュメントが不十分なAIモデルやコンポーネントの使用を選択する場合、その選択を正当化し、付随するセキュリティリスクを文書化しなければなりません。

実務上、調達チームはもはや「ブラックボックス」型のソリューションを受け入れることはできません。 開発者は、モデルコンポーネントの真正性を検証するために、暗号ハッシュを提供しなければなりません。大規模言語モデルで一般的なように、トレーニングデータが公開ソースから取得された場合、開発者はソースURLと取得タイムスタンプを記録する必要があります。この監査証跡は、特にトレーニング中にモデルがデータポイズニングの影響を受けたかどうかを判断する際、インシデント後の調査を支援します。

外部顧客にAPIを提供する企業は、AI特有の攻撃に対抗するための制御措置を実装しなければなりません。例えば、攻撃者がモデルをリバースエンジニアリングしたり、防御システムを圧倒してポイズンドデータを注入したりするのを防ぐためのレート制限などです。

このライフサイクルアプローチは保守フェーズにも継続され、同規格では、新しいデータを用いた再学習などの主要な更新を、新バージョンのデプロイと見なしています。ETSI AI規格の下では、このような更新には新たなセキュリティテストと評価が求められます。

継続的な監視も体系化されています。システム運用者は、稼働時間を確認するだけでなく、セキュリティ侵害の兆候となり得る「データドリフト」や行動の漸進的な変化を特定するためにログを分析しなければなりません。これにより、AIの監視は単なるパフォーマンス指標からセキュリティ機能へと転換されます。

本規格は「ライフサイクル終了（End of Life）」フェーズも対象としています。モデルが廃止または移管される際、組織はデータ管理責任者（Data Custodians）を関与させ、データおよび構成詳細の安全な廃棄を確保しなければなりません。この要件により、廃棄されたハードウェアや放置されたクラウドインスタンスを通じて、機密性の高い知的財産やトレーニングデータが漏洩するのを防ぎます。

経営陣による監督とガバナンスの責任

ETSI EN 304 223への準拠には、現在のサイバーセキュリティ研修プログラムの見直しが必要です。この規格は役割に応じた研修を求め、開発者がAI向けのセキュアコーディングを確実に習得すると同時に、一般従業員がAIの出力を通じたソーシャルエンジニアリングなどの脅威に対して警戒を怠らないようにすることを求めています。

「ETSI EN 304 223は、AIシステムのセキュリティに向けた共有された強固な基盤を構築する上で、重要なマイルストーンとなります」と、ETSI人工知能セキュリティ技術委員会の委員長であるスコット・カズォウ氏は述べた。

「AIが重要なサービスやインフラにますます組み込まれるにつれ、これらの技術の複雑さと導入の現実の両方を認識した、明確かつ実践的なガイダンスの価値は、いくら強調してもしすぎることはありません。このフレームワークの背景にある取り組みは幅広い協力関係に根ざしており、組織が、設計段階から回復力があり、信頼でき、安全なAIシステムを信頼できるようにします。」

ETSIのAIセキュリティ標準で概説された基準を採用することで、より安全なイノベーションのための枠組みが構築されます。文書化された監査証跡、明確に定義された役割、およびサプライチェーンの透明性を通じて、組織はAI導入のリスクを低減すると同時に、将来の規制審査に備えた正当な立場を確立することができます。

近日公開予定の技術報告書（ETSI TR 104 159）では、これらの原則を生成AIに特化して適用し、ディープフェイクや偽情報といった課題に対処する予定です。

関連記事：AI導入を成功させるための従業員の不安への対処法（アリスター・フロスト）

AIおよびビッグデータの専門家による知見にご興味がありますか？アムステルダム、カリフォルニア、ロンドンで開催される「AI & Big Data Expo」をご覧ください。TechExの一環であるこの包括的なイベントは、他の主要なテクノロジーカンファレンスと同時開催されます。詳細はこちらをクリックしてください。

AI NewsはTechForge Mediaがお届けしています。その他の今後のエンタープライズ・テクノロジー・イベントやウェビナーについては、こちらをご覧ください。