COSAIの発売：設立メンバーはSecure AIのために団結します

AIの急速な成長には、追いつくことができる堅牢なセキュリティフレームワークと標準が必要です。そのため、私たちは昨年、Secure AI Framework（SAIF）を導入し、これが始まりに過ぎないことを認識していました。業界のフレームワークを機能させるには、チームワークと協力する場が必要です。それが現在の私たちの状況です。

アスペン・セキュリティ・フォーラムにおいて、業界の仲間たちと共にCoalition for Secure AI（CoSAI）の立ち上げを発表できることを嬉しく思います。過去1年間、私たちはこの連合を結成するために懸命に取り組んできており、AIが現在および将来にもたらす特有のセキュリティ課題に対処することを目指しています。

CoSAIの創設メンバーには、Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal、Wizといった大手企業が名を連ねています。私たちは、国際標準およびオープンソース団体であるOASIS Openのもとで活動を始めます。

CoSAIの初のワークストリームの紹介

個々の開発者から大企業までが共通のセキュリティ標準とベストプラクティスの採用に取り組む中、CoSAIはAIセキュリティにおけるこの共同の取り組みを支援します。本日、連合が業界や学界と協力して注力する最初の3つの分野を始動します：

1. AIシステムのソフトウェアサプライチェーンセキュリティ： Googleは、SLSA ProvenanceをAIモデルに拡張することを推進しており、AIソフトウェアの作成とサプライチェーンを通じた取り扱いを追跡することで、その安全性を見極める支援をしています。このワークストリームは、プロビナンスの確認に関するガイダンスを提供し、第三者モデルのリスク管理、AIアプリケーション全体のプロビナンス評価を通じて、AIおよび従来のソフトウェアのSSDFおよびSLSAセキュリティ原則に基づいてAIセキュリティを強化することを目指します。
2. 変化するサイバーセキュリティ環境への防御者の準備： AIガバナンスの日常的な対応は、セキュリティ担当者にとって大きな課題となることがあります。このワークストリームは、防御者が投資すべきポイントや、AIのセキュリティ影響に対処するための緩和技術を特定するためのフレームワークを作成します。このフレームワークは、AIモデルの攻撃的サイバーセキュリティの進歩に合わせて成長します。
3. AIセキュリティガバナンス： AIセキュリティのガバナンスには、新たなリソースと、AIセキュリティの独自性を理解する必要があります。CoSAIは、リスクとコントロールのリスト、チェックリスト、スコアカードを開発し、AI製品のセキュリティの準備状況を評価し、管理、監視、報告する実践者を支援します。

さらに、CoSAIは、Frontier Model Forum、Partnership on AI、Open Source Security Foundation、ML Commonsといった団体と協力し、責任あるAIを推進します。

今後の展望

AIが進化し続ける中、私たちはリスク管理戦略がそのペースに追いつくよう全力を尽くしています。過去1年間、AIを安全かつセキュアにするための業界からの大きな支持を見てきました。さらに、開発者、専門家、さまざまな規模の企業が、組織がAIを安全に使用できるようにするための実際の行動を起こしているのを見ています。

AI開発者には、そしてエンドユーザーが求めるのは、挑戦に立ち向かい、責任を持って今後の機会を捉えるセキュリティフレームワークです。CoSAIはこの旅の次の大きなステップであり、近日中のさらなるアップデートをお届けします。CoSAIをサポートする方法については、coalitionforsecureai.orgをご覧ください。その間、GoogleのAIセキュリティに関する取り組みについて詳しく知りたい場合は、Secure AI Frameworkページをご訪問ください。