Дезинформация с Двигательными Эй, выявленная как высший глобальный риск

Когда мы подходим к периоду, когда многочисленные страны готовится к выборам в течение следующих двух лет, угроза дезинформации и дезинформации, заряженная турбонаддувом искусственным интеллектом (ИИ), вырисовывается как наиболее критический глобальный риск. Эта обеспокоенность подчеркивается глобальным отчетом о рисках Всемирного экономического форума (WEF) о 2024 году, в котором подчеркивается, что переплетение фальсифицированной информации с социальными беспорядками будет на переднем крае, особенно с крупными экономиками, проводимыми выборами.

Среди растущих беспокойств по поводу стоимости жизни риски, связанные с дезинформацией, связанной с искусственным искусством, должны омрачить другие проблемы в этом году. Согласно WEF, дезинформация и дезинформация будут превзойти список глобальных рисков, за которыми следуют экстремальные погодные явления и социальная поляризация. В отчете также перечислены кибербезопасность и межгосударственный вооруженный конфликт между пятью лучшими рисками.

Региональные различия в восприятии риска

Хотя дезинформация и дезинформация считаются главным риском в Индии, она занимает шестое место в США и восьмом в Европейском союзе. WEF указывает, что быстрое ускорение в возможностях манипулируемой информации, вызванное легким доступом к сложным технологиям и снижением доверия к информации и учреждениям, усугубляет ситуацию.

Влияние синтетического содержания

В течение следующих нескольких лет ожидается, что различные участники будут использовать всплеск синтетического содержания, еще больше усиливают общественные разногласия, идеологическое насилие и политические репрессии. Поскольку почти три миллиарда человек должны голосовать в таких странах, как Индия, Индонезия, США и Великобритания, широко распространенное распространение дезинформации может поставить под угрозу легитимность вновь избранных правительств.

Простота доступа к удобным для пользователя инструментов ИИ уже привела к буму в фальсифицированной информации и «синтетическом» контенте, таком как расширенный голосовой клонирование и поддельные веб-сайты. WEF предупреждает, что это синтетическое содержание будет манипулировать людьми, вредить экономике и общества переломов во многих отношениях в течение следующих двух лет, потенциально используемых для различных целей, от климатической активности до эскалации конфликтов.

Возникающие угрозы и регулирующие реакции

Новые виды преступлений, такие как не согласенную порнографию и манипуляции с фондовым рынком, также находятся на подъеме. WEF предупреждает, что эти вопросы могут привести к насильственным протестам, преступлениям на почве ненависти, гражданским конфликтам и терроризму.

В ответ некоторые страны уже внедряют новые правила, направленные как на хозяев, так и для создателей онлайн и незаконного контента. Зарождающее регулирование генеративного ИИ, такого как требование Китая в отношении контента с генерируемым AI водяным знаком, может помочь в определении ложной информации, включая непреднамеренную дезинформацию из контента, сгенерированного AI. Тем не менее, WEF отмечает, что темпы регулирования вряд ли будут идти в ногу с быстрым развитием технологий.

Недавние технологические достижения увеличили объем, охват и эффективность фальсифицированной информации, что затрудняет отслеживание, атрибут и контроль. Платформы социальных сетей, которым поручено поддерживать целостность, могут быть перегружены множественными перекрывающимися кампаниями. Более того, дезинформация становится все более персонализированной и целенаправленной, часто распространяющейся через менее прозрачные платформы обмена сообщениями, такие как WhatsApp или WeChat.

Проблемы в различении контента, сгенерированного AI

WEF также подчеркивает растущую трудность в различении между сгенерированным ИИ и человеческим, даже для сложных систем обнаружения и технических людей. Тем не менее, некоторые страны предпринимают шаги для решения этой проблемы.

Инициатива Сингапура о борьбе с глубокими темпами

Сингапур объявил об инвестициях в 20 миллионов долларов США (15,04 млн. Долл. США) в онлайн -программу исследований доверия и безопасности, которая включает в себя создание центра для разработки инструментов для борьбы с вредным онлайн -контентом. Эта инициатива, возглавляемая Министерством связи и информации (MCI), должна работать до 2028 года.

Центр передовых технологий в области безопасности в Интернете, запланированный в первой половине 2024 года, направлен на объединение исследователей и организаций для создания надежной экосистемы для более безопасного Интернета. Центр будет сосредоточен на разработке и настройке инструментов для обнаружения вредного контента, такого как глубокие и ложные претензии, а также будет работать над выявлением уязвимостей общества и разработке вмешательств для снижения восприимчивости к вредному содержанию.

MCI уже взаимодействовал с более чем 100 специалистами из академических кругов и государственного и частного сектора, с 30 участниками, непосредственно участвующими в работе центра. Разработанные инструменты будут протестированы и предложены для внедрения, направленные на повышение цифрового доверия с помощью таких технологий, как водянка и аутентификация контента.

Более широкие последствия дезинформации

WEF предупреждает, что, если оставить неконтролируемой, дезинформация может привести к двум контрастным сценариям. С одной стороны, некоторые правительства и платформы могут определить приоритеты свободы слова и гражданских свобод, что потенциально не сможет эффективно обуздать фальсифицированную информацию, что приводит к спорному определению «истины» в обществах. Это может быть использовано государственными и негосударственными субъектами для углубления социальных разделений, подрывать общественное доверие к политическим институтам и угрожать национальной сплоченности.

С другой стороны, в ответ на распространение дезинформации некоторые страны могут прибегнуть к повышению контроля над информацией, рискуя внутренней пропагандой и цензурой. Поскольку концепция истины подорвана, правительства могут получить больше власти для контроля информации на основе их определения «истины», что может привести к более широким репрессиям информационных потоков и дальнейшей эрозии интернета, прессы и свобод доступа к информации.