Cosai запущен: участники -основатели объединяются для Secure AI

Быстрый рост AI требует надежной структуры безопасности и стандартов, которые могут соответствовать этому темпу. Поэтому в прошлом году мы представили Secure AI Framework (SAIF), понимая, что это только начало. Чтобы любая отраслевая структура работала, необходима командная работа и место для сотрудничества. Именно здесь мы находимся сегодня.

На форуме по безопасности в Аспене мы рады объявить о запуске Коалиции за безопасный AI (CoSAI) вместе с нашими отраслевыми партнерами. В течение последнего года мы упорно работали над созданием этой коалиции, стремясь решить уникальные вызовы безопасности, которые приносит AI, как сейчас, так и в будущем.

Среди основателей CoSAI — такие крупные имена, как Amazon, Anthropic, Chainguard, Cisco, Cohere, GenLab, IBM, Intel, Microsoft, NVIDIA, OpenAI, PayPal и Wiz. Мы организуемся под эгидой OASIS Open, международной группы по стандартам и открытым исходным кодам.

Представляем первые направления работы CoSAI

Поскольку все — от отдельных разработчиков до крупных компаний — работают над внедрением общих стандартов безопасности и лучших практик, CoSAI поддержит эти коллективные усилия в области безопасности AI. Сегодня мы начинаем с первых трех направлений, на которых сосредоточится коалиция, работая рука об руку с индустрией и академическим сообществом:

1. Безопасность цепочки поставок программного обеспечения для систем AI: Google продвигает расширение SLSA Provenance на модели AI, помогая определить, является ли программное обеспечение AI безопасным, отслеживая его создание и обработку в цепочке поставок. Это направление работы направлено на повышение безопасности AI, предоставляя рекомендации по проверке происхождения, управлению рисками от сторонних моделей и оценке полного происхождения приложений AI, опираясь на существующие принципы безопасности SSDF и SLSA как для AI, так и для традиционного программного обеспечения.
2. Подготовка защитников к меняющемуся ландшафту кибербезопасности: Ежедневное управление AI может быть настоящей головной болью для специалистов по безопасности. Это направление создаст рамочную структуру для защитников, чтобы помочь им определить, куда инвестировать и какие методы смягчения использовать для решения вопросов безопасности, связанных с AI. Эта структура будет развиваться вместе с ростом достижений в области наступательной кибербезопасности в моделях AI.
3. Управление безопасностью AI: Управление безопасностью AI требует новых ресурсов и понимания того, что делает безопасность AI уникальной. CoSAI разработает список рисков и мер контроля, контрольный список и оценочную таблицу, чтобы помочь специалистам оценить их готовность, управлять, отслеживать и сообщать о безопасности своих продуктов AI.

Кроме того, CoSAI будет сотрудничать с группами, такими как Frontier Model Forum, Partnership on AI, Open Source Security Foundation и ML Commons, чтобы продвигать ответственный подход к AI.

Что дальше

По мере того как AI продолжает развиваться, мы полностью сосредоточены на том, чтобы наши стратегии управления рисками не отставали. В течение последнего года мы видели большую поддержку со стороны индустрии в обеспечении безопасности AI. Более того, мы наблюдаем реальные действия со стороны разработчиков, экспертов и компаний всех размеров, чтобы помочь организациям безопасно использовать AI.

Разработчикам AI нужен — а конечные пользователи заслуживают — рамочную структуру безопасности, которая справляется с вызовами и ответственно использует предстоящие возможности. CoSAI — это следующий большой шаг в этом путешествии, и скоро у нас будут новые обновления. Чтобы узнать, как вы можете поддержать CoSAI, посетите coalitionforsecureai.org. А пока зайдите на нашу страницу Secure AI Framework, чтобы узнать больше о работе Google в области безопасности AI.