MSC сотрудничает с рисками и возможностями искусственного интеллекта

В течение шести десятилетий конференция по безопасности Мюнхина была ключевым местом для сбора мировых лидеров, предприятий, экспертов и гражданского общества, чтобы открыть обсуждение о поддержке и защите демократий и глобального порядка. С растущей геополитической напряженностью, важными выборами во всем мире и более продвинутыми киберугрозами, эти переговоры более важны, чем когда -либо. Появление ИИ как в оскорбительных, так и в оборонительных ролях добавляет совершенно новый слой к разговору.

Только на этой неделе группа анализа угроз Google (TAG), наряду с командами Mandiant and Trust & Safety, выпустила новый отчет. Он показывает, как группы поддерживаемых иранским языком используют информационную войну, чтобы повысить общественное мнение о конфликте Израиля-Хама. Отчет также обновляет нас о кибер -аспектах российской войны в Украине. Отдельно TAG подчеркнул растущее использование коммерческого шпионского программного обеспечения правительствами и другими плохими субъектами, нацеливаясь на журналистов, правозащитников, диссидентов и оппозиционных политиков. И давайте не будем забывать о текущих отчетах о том, как субъекты угроз эксплуатируют уязвимости старой системы, чтобы поставить под угрозу безопасность правительств и частных компаний.

В разгар этих эскалационных угроз у нас есть золотая возможность использовать ИИ для поддержки киберзащиты демократий во всем мире, предоставляя предприятиям, правительствам и организациям новые защитные инструменты, которые когда -то были доступны только крупнейшим игрокам. В Мюнхене на этой неделе мы погружаемся в то, как мы можем использовать свежие инвестиции, обязательства и партнерские отношения для борьбы с рисками ИИ и извлечь выгоду из его потенциала. В конце концов, демократии не могут процветать в мире, где злоумышленники могут использовать ИИ для инноваций, но защитники не могут.

Использование ИИ для усиления киберзащиты

В течение многих лет киберугроза были головной болью для профессионалов в области безопасности, правительств, предприятий и гражданского общества. ИИ может сдвинуть баланс, давая защитникам реальное преимущество над злоумышленниками. Но, как и любая технология, ИИ может быть обоюдоострым мечом, если он не разработан и надежно используется.

Вот почему мы сегодня начали инициативу AI Cyber ​​Defense. Все дело в том, чтобы использовать потенциал безопасности ИИ с предложенной политической и технической повесткой дня, чтобы помочь обеспечить, расширить возможности и продвижение нашего коллективного цифрового будущего. Инициатива AI Cyber ​​Defense опирается на нашу Secure AI -Framework (SAIF), которая помогает организациям создавать инструменты и продукты ИИ, которые безопасны с самого начала.

В рамках этой инициативы мы запускаем новую стартапную когорту «ИИ для кибербезопасности», чтобы повысить сцену трансатлантической кибербезопасности. Мы также увеличиваем нашу приверженность обучению кибербезопасности в 15 миллионов долларов по всей Европе, добавляя еще 2 миллиона долларов для поддержки исследований в области кибербезопасности, а также Magika, наша система идентификации типа файлов с помощью Google AI. Кроме того, мы продолжаем вкладывать деньги в наши безопасные, готовые к мировым центрам обработки данных. К концу 2024 года мы инвестировали более 5 миллиардов долларов в европейские центры обработки данных, помогая обеспечить безопасный, надежный доступ к ряду цифровых услуг, в том числе генеративные возможности ИИ нашей платформы Vertex AI.

Защита демократических выборов

В этом году выборы происходят по всей Европе, США, Индии и многим другим странам. У нас есть послужной список поддержки целостности демократических выборов, и мы только что объявили о нашей предварительной кампании ЕС перед парламентскими выборами. Эта кампания, которая учит людей, как выявлять общие хитрости манипуляции, прежде чем они увидят их через короткие видеообъявления в социальных сетях, начинает эту весну во Франции, Германии, Италии, Бельгии и Польше. Мы также полностью привержены продолжению наших усилий по прекращению злоупотреблений на наших платформах, предоставляете избирателям высококачественную информацию и предоставили людям недооценку контента, сгенерированного AI, чтобы помочь им сделать лучший выбор.

Существуют достоверные опасения, что ИИ неправильно используется, чтобы создать глубокие подделки и ввести в заблуждение избирателей. Но ИИ также дает уникальный шанс предотвратить злоупотребление в масштабе. Команды Google Trust & Safety решают этот лобов, используя ИИ, чтобы усилить наши усилия по борьбе с злоупотреблением, более эффективно обеспечить соблюдение нашей политики и быстро адаптироваться к новым ситуациям или претензиям.

Мы также объединяемся с другими людьми в отрасли, делимся исследованиями и работаем вместе, чтобы противостоять угрозам и злоупотреблениям, включая риск обманчивого содержания искусственного интеллекта. Буквально на прошлой неделе мы присоединились к Коалиции по происхождению и аутентичности контента (C2PA), которая работает над учетными данными для контента, чтобы пролить свет на то, как создается и отредактирован контент с AI с течением времени. Это основано на нашем межотраслевом сотрудничестве вокруг ответственного ИИ с Frontier Model Forum, партнерством по ИИ и другими инициативами.

Объединение, чтобы защитить основанный на правилах международный заказ

Мюнхенская конференция по безопасности выступила с испытанием времени как место для решения проблем с демократией. В течение 60 лет демократии сталкивались и преодолевали эти проблемы, имея дело с серьезными сдвигами, как и те, которые принесли ИИ. Теперь у нас есть шанс снова собраться вместе-как правительства, предприятия, ученые и гражданское общество-чтобы установить новые партнерские отношения, использовать потенциал AI для добра и укрепить мировой порядок, основанный на правилах.