MSC сотрудничает с рисками и возможностями искусственного интеллекта

На протяжении шести десятилетий Мюнхенская конференция по безопасности является ключевым местом встречи мировых лидеров, бизнеса, экспертов и гражданского общества для открытых дискуссий о укреплении и защите демократий и глобального порядка. В условиях нарастающих геополитических напряжений, важных выборов по всему миру и всё более сложных киберугроз эти обсуждения становятся важнее, чем когда-либо. Появление AI в наступательных и оборонительных ролях добавляет совершенно новый уровень к этим разговорам.

На этой неделе Группа анализа угроз Google (TAG), вместе с командами Mandiant и Trust & Safety, опубликовала новый отчёт. Он раскрывает, как поддерживаемые Ираном группы используют информационную войну для влияния на общественное мнение в конфликте между Израилем и ХАМАС. Отчёт также обновляет информацию о кибераспектах войны России в Украине. Отдельно TAG отметила нарастающее использование коммерческого шпионского ПО правительствами и другими злоумышленниками, направленное против журналистов, правозащитников, диссидентов и оппозиционных политиков. И не будем забывать о продолжающихся сообщениях о том, как злоумышленники эксплуатируют старые уязвимости систем для компрометации безопасности правительств и частных компаний.

В условиях этих нарастающих угроз у нас есть уникальная возможность использовать AI для укрепления киберзащиты демократий по всему миру, предоставляя бизнесу, правительствам и организациям новые оборонительные инструменты, которые раньше были доступны только крупнейшим игрокам. На этой неделе в Мюнхене мы обсуждаем, как использовать новые инвестиции, обязательства и партнёрства для решения рисков, связанных с AI, и реализации его потенциала. Ведь демократии не могут процветать в мире, где нападающие могут использовать AI для инноваций, а защитники — нет.

Использование AI для укрепления киберзащиты

Годами киберугрозы были головной болью для специалистов по безопасности, правительств, бизнеса и гражданского общества. AI имеет потенциал изменить баланс, давая защитникам реальное преимущество над нападающими. Но, как и любая технология, AI может быть обоюдоострым мечом, если его не разрабатывать и не использовать безопасно.

Поэтому сегодня мы запустили Инициативу киберзащиты с использованием AI. Она направлена на раскрытие потенциала безопасности AI с помощью предложенной политики и технологической повестки, чтобы обеспечить, укрепить и продвинуть наше коллективное цифровое будущее. Инициатива киберзащиты с использованием AI основывается на нашем Secure AI Framework (SAIF), который помогает организациям создавать инструменты и продукты AI, безопасные с самого начала.

В рамках этой инициативы мы запускаем новую когорту стартапов "AI для кибербезопасности", чтобы усилить трансатлантическую сцену кибербезопасности. Мы также увеличиваем наше обязательство на $15 миллионов для обучения кибербезопасности в Европе, добавляя ещё $2 миллиона для поддержки исследований в области кибербезопасности и открывая исходный код Magika, нашей системы идентификации типов файлов на основе Google AI. Кроме того, мы продолжаем инвестировать в наши безопасные, готовые к AI глобальные центры данных. К концу 2024 года мы инвестируем более $5 миллиардов в европейские центры данных, помогая обеспечить безопасный и надёжный доступ к ряду цифровых сервисов, включая генеративные возможности платформы Vertex AI.

Защита демократических выборов

В этом году выборы проходят по всей Европе, в Соединённых Штатах, Индии и многих других странах. У нас есть опыт поддержки целостности демократических выборов, и мы только что объявили о нашей кампании по пребанкингу в ЕС перед парламентскими выборами. Эта кампания, которая учит людей распознавать распространённые манипулятивные приёмы до того, как они их увидят, через короткие видеообъявления в социальных сетях, стартует этой весной во Франции, Германии, Италии, Бельгии и Польше. Мы также полностью привержены продолжению наших усилий по предотвращению злоупотреблений на наших платформах, предоставлению избирателям высококачественной информации и разъяснению о контенте, созданном с помощью AI, чтобы помочь людям делать осознанный выбор.

Существуют обоснованные опасения по поводу злоупотребления AI для создания дипфейков и введения избирателей в заблуждение. Но AI также предоставляет уникальную возможность предотвращать злоупотребления в массовом масштабе. Команды Google Trust & Safety решают эту проблему напрямую, используя AI для усиления наших усилий по борьбе со злоупотреблениями, более эффективного применения наших политик и быстрого адаптирования к новым ситуациям или утверждениям.

Мы также сотрудничаем с другими в индустрии, делясь исследованиями и работая вместе для противодействия угрозам и злоупотреблениям, включая риск обманного контента, созданного AI. На прошлой неделе мы присоединились к Коалиции за подлинность и происхождение контента (C2PA), которая работает над созданием учетной записи контента, чтобы пролить свет на то, как создаётся и редактируется контент, сгенерированный AI, со временем. Это опирается на наши кросс-индустриальные коллаборации вокруг ответственного AI с Frontier Model Forum, Partnership on AI и другими инициативами.

Объединение для защиты международного порядка, основанного на правилах

Мюнхенская конференция по безопасности выдержала испытание временем как место для решения вызовов демократии. На протяжении 60 лет демократии сталкивались с этими вызовами и преодолевали их, справляясь с крупными изменениями — такими, как те, что принес AI — вместе. Теперь у нас есть шанс снова объединиться — правительствам, бизнесу, академикам и гражданскому обществу — чтобы создать новые партнёрства, использовать потенциал AI во благо и укрепить мировой порядок, основанный на правилах.