Дом
Microsoft усиливает защиту выборов с помощью инструментов целостности контента на фоне опасений по поводу ИИ
Избирательный цикл 2024 года знаменует собой поворотный момент для демократий во всем мире: приближаются парламентские выборы в ЕС, и многие европейские страны готовятся к решающим голосованиям. На фоне этой демократической вехи ускоренное развитие генеративного ИИ вызывает серьезные дискуссии о честности выборов и информационных экосистемах. Эксперты выражают обеспокоенность способностью ИИ быстро создавать разнообразный контент и возможностью его использования для дезинформационных кампаний.
Стратегическая инициатива Microsoft
В ответ на эти проблемы Microsoft расширила доступ к предварительной версии своих инструментов Content Integrity для политических организаций ЕС, избирательных кампаний и международных новостных изданий. Эти специализированные инструменты позволяют организациям проверять и раскрывать происхождение контента, повышая осведомленность избирателей о подлинности цифровых СМИ.
Система позволяет издателям встраивать в оригинальные медиа-активы защищенные мандаты контента, указывающие на авторство, сроки создания, географические данные, статус участия ИИ и любые последующие изменения. Приняв этот универсальный стандарт, Microsoft обеспечивает кроссплатформенную совместимость при проверке контента.
Структура целостности контента
Решение Microsoft состоит из трех основных элементов: Во-первых, веб-платформа позволяет уполномоченным лицам сертифицировать контент с помощью верифицируемых учетных данных. Во-вторых, благодаря сотрудничеству с компанией Truepic мобильное приложение позволяет в режиме реального времени осуществлять аутентифицированный захват медиафайлов с помощью камер смартфонов. В-третьих, публичный портал проверки дает возможность проверяющим факты и гражданам подтверждать полномочия СМИ.
Несмотря на то, что мандаты контента обеспечивают ценную проверку подлинности, сохраняются технические ограничения. Критики отмечают уязвимость метаданных к удалению, а также ненадежность обнаружения текста с помощью искусственного интеллекта - значительные препятствия в противодействии сложным операциям по дезинформации.

Визуальное сравнение, демонстрирующее применение Content Credentials к первому изображению (Источник: Microsoft)
Комплексная безопасность выборов
Microsoft подчеркивает, что инструменты обеспечения целостности содержимого представляют собой лишь один из уровней защиты от угроз, связанных с выборами с помощью ИИ. Компания выступает за многосторонние подходы к обеспечению безопасности, направленные на устранение развивающихся цифровых рисков.
Ранее, в 2024 году, Microsoft вместе с лидерами отрасли стала одним из основателей Tech Accord Against AI Deception, направленного на борьбу с манипуляциями в политических СМИ. Компания также предоставляет специализированные средства защиты кибербезопасности - программы Campaign Success и AccountGuard - для защиты избирательных процессов от кибервзломов, спонсируемых государством.
Продвижение демократических гарантий
Расширение Microsoft Content Integrity представляет собой своевременную инновацию, поскольку мировые демократии противостоят сложным цифровым угрозам. Предоставляя политическим организациям и журналистам возможности проверки контента, эта инициатива способствует повышению прозрачности избирательных информационных экосистем.
Однако технологические ограничения напоминают нам о том, что комплексные решения требуют постоянных инноваций. Постоянные проблемы сохранения метаданных и обнаружения текстов с помощью ИИ требуют постоянного сотрудничества между отраслями, инвестиций в исследования и разработки политики.
Многогранный подход Microsoft, сочетающий технологические решения, межотраслевые партнерства и меры кибербезопасности, отражает сложный характер современной защиты выборов. По мере развития цифровых угроз постоянное сотрудничество между поставщиками технологий, правительствами и гражданским обществом будет играть важную роль в сохранении честности выборов во всем мире.
Связанная статья
Сэм Альтман из OpenAI объявляет о наступлении эры сверхинтеллекта
Генеральный директор OpenAI Сэм Альтман объявил, что человечество вступило в эру искусственного сверхразума, и пути назад уже нет.«Мы прошли точку невозврата; восхождение началось, — говорит Альтман.
Бум искусственного интеллекта вызывает опасения, напоминающие пузырь эпохи доткомов
Приток многомиллиардных инвестиций в искусственный интеллект вызвал бурную дискуссию: не грозит ли отрасли пузырь, подобный тому, что был в сфере интернет-компаний?Инвесторы внимательно следят за любы
Anthropic запускает ИИ-агенты для проактивных аудитов безопасности моделей
Anthropic собрала команду автономных ИИ-агентов, которым поручена важная миссия: проверять мощные модели, такие как Claude, с целью повышения их безопасности.По мере того как системы ИИ становятся все
Рекомендации по связанным специальным темам
Комментарии (0)
Избирательный цикл 2024 года знаменует собой поворотный момент для демократий во всем мире: приближаются парламентские выборы в ЕС, и многие европейские страны готовятся к решающим голосованиям. На фоне этой демократической вехи ускоренное развитие генеративного ИИ вызывает серьезные дискуссии о честности выборов и информационных экосистемах. Эксперты выражают обеспокоенность способностью ИИ быстро создавать разнообразный контент и возможностью его использования для дезинформационных кампаний.
Стратегическая инициатива Microsoft
В ответ на эти проблемы Microsoft расширила доступ к предварительной версии своих инструментов Content Integrity для политических организаций ЕС, избирательных кампаний и международных новостных изданий. Эти специализированные инструменты позволяют организациям проверять и раскрывать происхождение контента, повышая осведомленность избирателей о подлинности цифровых СМИ.
Система позволяет издателям встраивать в оригинальные медиа-активы защищенные мандаты контента, указывающие на авторство, сроки создания, географические данные, статус участия ИИ и любые последующие изменения. Приняв этот универсальный стандарт, Microsoft обеспечивает кроссплатформенную совместимость при проверке контента.
Структура целостности контента
Решение Microsoft состоит из трех основных элементов: Во-первых, веб-платформа позволяет уполномоченным лицам сертифицировать контент с помощью верифицируемых учетных данных. Во-вторых, благодаря сотрудничеству с компанией Truepic мобильное приложение позволяет в режиме реального времени осуществлять аутентифицированный захват медиафайлов с помощью камер смартфонов. В-третьих, публичный портал проверки дает возможность проверяющим факты и гражданам подтверждать полномочия СМИ.
Несмотря на то, что мандаты контента обеспечивают ценную проверку подлинности, сохраняются технические ограничения. Критики отмечают уязвимость метаданных к удалению, а также ненадежность обнаружения текста с помощью искусственного интеллекта - значительные препятствия в противодействии сложным операциям по дезинформации.

Визуальное сравнение, демонстрирующее применение Content Credentials к первому изображению (Источник: Microsoft)
Комплексная безопасность выборов
Microsoft подчеркивает, что инструменты обеспечения целостности содержимого представляют собой лишь один из уровней защиты от угроз, связанных с выборами с помощью ИИ. Компания выступает за многосторонние подходы к обеспечению безопасности, направленные на устранение развивающихся цифровых рисков.
Ранее, в 2024 году, Microsoft вместе с лидерами отрасли стала одним из основателей Tech Accord Against AI Deception, направленного на борьбу с манипуляциями в политических СМИ. Компания также предоставляет специализированные средства защиты кибербезопасности - программы Campaign Success и AccountGuard - для защиты избирательных процессов от кибервзломов, спонсируемых государством.
Продвижение демократических гарантий
Расширение Microsoft Content Integrity представляет собой своевременную инновацию, поскольку мировые демократии противостоят сложным цифровым угрозам. Предоставляя политическим организациям и журналистам возможности проверки контента, эта инициатива способствует повышению прозрачности избирательных информационных экосистем.
Однако технологические ограничения напоминают нам о том, что комплексные решения требуют постоянных инноваций. Постоянные проблемы сохранения метаданных и обнаружения текстов с помощью ИИ требуют постоянного сотрудничества между отраслями, инвестиций в исследования и разработки политики.
Многогранный подход Microsoft, сочетающий технологические решения, межотраслевые партнерства и меры кибербезопасности, отражает сложный характер современной защиты выборов. По мере развития цифровых угроз постоянное сотрудничество между поставщиками технологий, правительствами и гражданским обществом будет играть важную роль в сохранении честности выборов во всем мире.
Бум искусственного интеллекта вызывает опасения, напоминающие пузырь эпохи доткомов
Приток многомиллиардных инвестиций в искусственный интеллект вызвал бурную дискуссию: не грозит ли отрасли пузырь, подобный тому, что был в сфере интернет-компаний?Инвесторы внимательно следят за любы











