COSAIの発売:設立メンバーはSecure AIのために団結します

AIの急速な成長には、追いつくことができる堅牢なセキュリティフレームワークと標準が必要です。そのため、私たちは昨年、Secure AI Framework(SAIF)を導入し、これが始まりに過ぎないことを認識していました。業界のフレームワークを機能させるには、チームワークと協力する場が必要です。それが現在の私たちの状況です。
アスペン・セキュリティ・フォーラムにおいて、業界の仲間たちと共にCoalition for Secure AI(CoSAI)の立ち上げを発表できることを嬉しく思います。過去1年間、私たちはこの連合を結成するために懸命に取り組んできており、AIが現在および将来にもたらす特有のセキュリティ課題に対処することを目指しています。
CoSAIの創設メンバーには、Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal、Wizといった大手企業が名を連ねています。私たちは、国際標準およびオープンソース団体であるOASIS Openのもとで活動を始めます。
CoSAIの初のワークストリームの紹介
個々の開発者から大企業までが共通のセキュリティ標準とベストプラクティスの採用に取り組む中、CoSAIはAIセキュリティにおけるこの共同の取り組みを支援します。本日、連合が業界や学界と協力して注力する最初の3つの分野を始動します:
- AIシステムのソフトウェアサプライチェーンセキュリティ: Googleは、SLSA ProvenanceをAIモデルに拡張することを推進しており、AIソフトウェアの作成とサプライチェーンを通じた取り扱いを追跡することで、その安全性を見極める支援をしています。このワークストリームは、プロビナンスの確認に関するガイダンスを提供し、第三者モデルのリスク管理、AIアプリケーション全体のプロビナンス評価を通じて、AIおよび従来のソフトウェアのSSDFおよびSLSAセキュリティ原則に基づいてAIセキュリティを強化することを目指します。
- 変化するサイバーセキュリティ環境への防御者の準備: AIガバナンスの日常的な対応は、セキュリティ担当者にとって大きな課題となることがあります。このワークストリームは、防御者が投資すべきポイントや、AIのセキュリティ影響に対処するための緩和技術を特定するためのフレームワークを作成します。このフレームワークは、AIモデルの攻撃的サイバーセキュリティの進歩に合わせて成長します。
- AIセキュリティガバナンス: AIセキュリティのガバナンスには、新たなリソースと、AIセキュリティの独自性を理解する必要があります。CoSAIは、リスクとコントロールのリスト、チェックリスト、スコアカードを開発し、AI製品のセキュリティの準備状況を評価し、管理、監視、報告する実践者を支援します。
さらに、CoSAIは、Frontier Model Forum、Partnership on AI、Open Source Security Foundation、ML Commonsといった団体と協力し、責任あるAIを推進します。
今後の展望
AIが進化し続ける中、私たちはリスク管理戦略がそのペースに追いつくよう全力を尽くしています。過去1年間、AIを安全かつセキュアにするための業界からの大きな支持を見てきました。さらに、開発者、専門家、さまざまな規模の企業が、組織がAIを安全に使用できるようにするための実際の行動を起こしているのを見ています。
AI開発者には、そしてエンドユーザーが求めるのは、挑戦に立ち向かい、責任を持って今後の機会を捉えるセキュリティフレームワークです。CoSAIはこの旅の次の大きなステップであり、近日中のさらなるアップデートをお届けします。CoSAIをサポートする方法については、coalitionforsecureai.orgをご覧ください。その間、GoogleのAIセキュリティに関する取り組みについて詳しく知りたい場合は、Secure AI Frameworkページをご訪問ください。
関連記事
Google、Gemini向け「Agentic AI」を発表、企業顧客向けに提供を開始
木曜日に開催されたGoogle Cloudのイベントで、同社はGemini AIを「エージェント時代」に統合する計画を発表しました。今回の発表により、単一のインターフェース内で、問い合わせへの回答だけでなく、ユーザーに代わってタスクを実行することも可能な統合型エージェントが導入されます。この動きは、AIツールが単純な対話型インターフェースから、割り当てられたタスクの責任を担えるシステムへと進化して
Googleは、あなたの生活を漫画の世界に変える、同社史上最も風変わりなAIツール「Dreambeans」を発表した
実験的な製品設計を担当する部門「Google Labs」は、日常生活を彩るAI搭載の新しいアプリをiOSおよびAndroid向けにリリースしました。その名も「Dreambeans」。この名前の由来については、後ほど説明します。このツールとは一体どのようなものなのでしょうか?このアプリケーションのプロダクトリードであるゴズデ・オズヌル氏は、TechCrunchに対し、このコンセプトは、ユーザーが利用
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
関連特集おすすめ
コメント (38)
0/500
Interesting move by the founding members! But I wonder how they'll enforce these standards across different AI models. The collaboration aspect is key though. Hope it's not just another talking shop 🤔
Finally, some big names getting together to talk about AI safety? About time. But let's see if this framework actually gets adopted or just becomes another paperweight. 🤔
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔

AIの急速な成長には、追いつくことができる堅牢なセキュリティフレームワークと標準が必要です。そのため、私たちは昨年、Secure AI Framework(SAIF)を導入し、これが始まりに過ぎないことを認識していました。業界のフレームワークを機能させるには、チームワークと協力する場が必要です。それが現在の私たちの状況です。
アスペン・セキュリティ・フォーラムにおいて、業界の仲間たちと共にCoalition for Secure AI(CoSAI)の立ち上げを発表できることを嬉しく思います。過去1年間、私たちはこの連合を結成するために懸命に取り組んできており、AIが現在および将来にもたらす特有のセキュリティ課題に対処することを目指しています。
CoSAIの創設メンバーには、Amazon、Anthropic、Chainguard、Cisco、Cohere、GenLab、IBM、Intel、Microsoft、NVIDIA、OpenAI、PayPal、Wizといった大手企業が名を連ねています。私たちは、国際標準およびオープンソース団体であるOASIS Openのもとで活動を始めます。
CoSAIの初のワークストリームの紹介
個々の開発者から大企業までが共通のセキュリティ標準とベストプラクティスの採用に取り組む中、CoSAIはAIセキュリティにおけるこの共同の取り組みを支援します。本日、連合が業界や学界と協力して注力する最初の3つの分野を始動します:
- AIシステムのソフトウェアサプライチェーンセキュリティ: Googleは、SLSA ProvenanceをAIモデルに拡張することを推進しており、AIソフトウェアの作成とサプライチェーンを通じた取り扱いを追跡することで、その安全性を見極める支援をしています。このワークストリームは、プロビナンスの確認に関するガイダンスを提供し、第三者モデルのリスク管理、AIアプリケーション全体のプロビナンス評価を通じて、AIおよび従来のソフトウェアのSSDFおよびSLSAセキュリティ原則に基づいてAIセキュリティを強化することを目指します。
- 変化するサイバーセキュリティ環境への防御者の準備: AIガバナンスの日常的な対応は、セキュリティ担当者にとって大きな課題となることがあります。このワークストリームは、防御者が投資すべきポイントや、AIのセキュリティ影響に対処するための緩和技術を特定するためのフレームワークを作成します。このフレームワークは、AIモデルの攻撃的サイバーセキュリティの進歩に合わせて成長します。
- AIセキュリティガバナンス: AIセキュリティのガバナンスには、新たなリソースと、AIセキュリティの独自性を理解する必要があります。CoSAIは、リスクとコントロールのリスト、チェックリスト、スコアカードを開発し、AI製品のセキュリティの準備状況を評価し、管理、監視、報告する実践者を支援します。
さらに、CoSAIは、Frontier Model Forum、Partnership on AI、Open Source Security Foundation、ML Commonsといった団体と協力し、責任あるAIを推進します。
今後の展望
AIが進化し続ける中、私たちはリスク管理戦略がそのペースに追いつくよう全力を尽くしています。過去1年間、AIを安全かつセキュアにするための業界からの大きな支持を見てきました。さらに、開発者、専門家、さまざまな規模の企業が、組織がAIを安全に使用できるようにするための実際の行動を起こしているのを見ています。
AI開発者には、そしてエンドユーザーが求めるのは、挑戦に立ち向かい、責任を持って今後の機会を捉えるセキュリティフレームワークです。CoSAIはこの旅の次の大きなステップであり、近日中のさらなるアップデートをお届けします。CoSAIをサポートする方法については、coalitionforsecureai.orgをご覧ください。その間、GoogleのAIセキュリティに関する取り組みについて詳しく知りたい場合は、Secure AI Frameworkページをご訪問ください。
Google、Gemini向け「Agentic AI」を発表、企業顧客向けに提供を開始
木曜日に開催されたGoogle Cloudのイベントで、同社はGemini AIを「エージェント時代」に統合する計画を発表しました。今回の発表により、単一のインターフェース内で、問い合わせへの回答だけでなく、ユーザーに代わってタスクを実行することも可能な統合型エージェントが導入されます。この動きは、AIツールが単純な対話型インターフェースから、割り当てられたタスクの責任を担えるシステムへと進化して
Googleは、あなたの生活を漫画の世界に変える、同社史上最も風変わりなAIツール「Dreambeans」を発表した
実験的な製品設計を担当する部門「Google Labs」は、日常生活を彩るAI搭載の新しいアプリをiOSおよびAndroid向けにリリースしました。その名も「Dreambeans」。この名前の由来については、後ほど説明します。このツールとは一体どのようなものなのでしょうか?このアプリケーションのプロダクトリードであるゴズデ・オズヌル氏は、TechCrunchに対し、このコンセプトは、ユーザーが利用
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
Interesting move by the founding members! But I wonder how they'll enforce these standards across different AI models. The collaboration aspect is key though. Hope it's not just another talking shop 🤔
Finally, some big names getting together to talk about AI safety? About time. But let's see if this framework actually gets adopted or just becomes another paperweight. 🤔
Endlich passiert was! Ohne gemeinsame Sicherheitsstandards kriegen wir den KI-Kater später... Hoffe die Mitglieder bringen nicht nur Marketing-Botschaften mit, sondern auch echte Code-Beiträge. So ein Framework lebt ja vom Community-Input! 👍
C'est une initiative cruciale pour l'avenir de l'IA ! J'espère que cette collaboration aboutira à des normes concrètes et non juste à des discours. Les risques de sécurité m'inquiètent depuis longtemps 😅
Finally some concrete action on AI security! The framework is a good start, but I'm curious how they'll handle enforcement and global cooperation. Cross-border data flows could be a major sticking point, especially with differing privacy laws. 🤔





家






