トップグローバルリスクとして特定されたAI駆動の誤った情報

多くの国が今後2年間にわたって選挙に向けて準備を進めている時期に近づくと、人工知能（AI）によってターボチャージされた誤った情報と偽情報の脅威が、最も重要な世界的リスクとして大きく迫っています。この懸念は、世界経済フォーラム（WEF）Global Risks Report 2024によって強調されています。これは、社会的不安と偽造された情報の絡み合いが最前線にあることを強調しています。

生活費についての不安が高まっている中で、AI燃料の誤った情報に関連するリスクは、今年他の懸念を覆い隠すように設定されています。 WEFによると、誤った情報と偽情報は、世界的なリスクのリストの上位にあり、極端な気象現象と社会的偏光が密接に続きます。また、このレポートには、上位5つのリスクの間のサイバー不安と州間武力紛争も記載されています。

リスク認識の地域のばらつき

誤った情報と偽情報はインドで最高のリスクと見なされますが、米国で6位、欧州連合で8位にランクされています。 WEFは、洗練されたテクノロジーへの簡単なアクセスと情報や機関への信頼の低下によって駆動される操作情報の能力の急速な加速が状況を悪化させていることを指摘しています。

合成含有量の影響

次の数年にわたって、さまざまな俳優が合成内容の急増を活用し、社会的分裂、イデオロギー的暴力、政治的弾圧をさらに強化することが期待されています。インド、インドネシア、米国、英国などの国で30億人近くが投票する予定であるため、誤った情報の広範な普及は、新たに選出された政府の正当性を危険にさらす可能性があります。

ユーザーフレンドリーなAIツールへのアクセスが容易であるため、すでに偽造された情報や、高度な音声クローニングや偽のWebサイトなどの「合成」コンテンツのブームが発生しています。 WEFは、この合成コンテンツは、今後2年間にわたって個人を操作し、経済を害し、骨折した社会をさまざまな方法で操作し、気候活動から紛争のエスカレートまで、さまざまな目的に使用される可能性があると警告しています。

新たな脅威と規制対応

非合意に基づいたディープファークポルノや株式市場の操作など、新しいタイプの犯罪も増加しています。 WEFは、これらの問題が暴力的な抗議、憎悪犯罪、内戦、テロリズムにつながる可能性があると警告しています。

これに応じて、一部の国はすでに、オンラインおよび違法なコンテンツのホストと作成者の両方を対象とした新しい規制を実施しています。 AIが生成されたコンテンツに透かして透かして中国の要件など、生成AIの新生の規制は、AIが生成されたコンテンツからの意図しない誤った情報を含む誤った情報を特定するのに役立つ可能性があります。しかし、WEFは、規制のペースがテクノロジーの急速な発展に追いつくことはほとんどないと指摘しています。

最近の技術の進歩により、偽造された情報の量、リーチ、および有効性が向上し、追跡、属性、制御が難しくなりました。整合性の維持を担当するソーシャルメディアプラットフォームは、複数の重複キャンペーンに圧倒される場合があります。さらに、偽情報はますますパーソナライズされ、ターゲットになりつつあり、WhatsAppやWeChatのような透明性の低いメッセージングプラットフォームに広がることがよくあります。

AIに生成されたコンテンツを区別する際の課題

また、WEFは、洗練された検出システムや技術に精通した個人であっても、AIに生成されたコンテンツと人間生成コンテンツを区別する際の困難の増加を強調しています。ただし、一部の国では、この課題に対処するための措置を講じています。

ディープフェイクと戦うためのシンガポールのイニシアチブ

シンガポールは、有害なオンラインコンテンツと戦うためのツールを開発するためのセンターの確立を含む、オンライントラストおよび安全研究プログラムへの2,000万ドル（15.0400万ドル）の投資を発表しました。通信情報省（MCI）が率いるこのイニシアチブは、2028年まで実行される予定です。

2024年上半期に立ち上げる予定のオンライン安全性の高度な技術センターは、研究者と組織を集めて、より安全なインターネット用の堅牢なエコシステムを作成することを目指しています。センターは、ディープフェイクや誤った主張などの有害なコンテンツを検出するためのツールの開発とカスタマイズに焦点を当て、社会的脆弱性を特定し、有害なコンテンツに対する感受性を低下させる介入の開発にも取り組みます。

MCIはすでに、学界と公共および民間部門の100人以上の専門家と関わりを抱いており、30人の参加者がセンターの仕事に直接関与しています。開発されたツールは、透かしやコンテンツ認証などのテクノロジーを通じてデジタルトラストを強化することを目指して、採用のためにテストおよび提案されます。

誤った情報のより広い意味

WEFは、チェックされていないままにしておくと、誤った情報が2つの対照的なシナリオにつながる可能性があると警告しています。一方では、一部の政府とプラットフォームは、言論の自由と市民の自由を優先し、偽造された情報を効果的に抑制しない可能性があり、社会全体の「真実」の論争的な定義につながる可能性があります。これは、社会的分裂を深め、政治制度への国民の信頼を損ない、国民の結束を脅かすために、国家および非国家の関係者によって搾取される可能性があります。

一方、誤った情報の広がりに応じて、一部の国は、情報の制御の増加に頼り、国内の宣伝と検閲を危険にさらしているかもしれません。真実の概念が損なわれているため、政府は「真実」の定義に基づいて情報を制御するためにより多くの力を獲得し、情報の流れの広範な抑制、インターネット、報道、情報の自由のさらなる侵食につながる可能性があります。