AI驅動的錯誤信息被確定為全球最高風險

當我們接近在未來兩年內許多國家正在為選舉做準備的時期，被人工智能（AI）渦輪增壓的錯誤信息和虛假信息的威脅變為最關鍵的全球風險。世界經濟論壇（WEF）全球風險報告2024強調了這一擔憂，該報告強調，偽造的信息與社會動蕩的交織在一起將處於最前沿，尤其是在舉行選舉的主要經濟體中。

在越來越多的生活成本焦慮之中，與AI燃料錯誤信息相關的風險將使今年的其他擔憂掩蓋了其他問題。根據WEF，錯誤信息和虛假信息將列為全球風險的榜首，緊隨其後的是極端天氣事件和社會兩極分化。該報告還列出了網絡不安全感和州際武裝衝突。

風險感知的區域變化

儘管錯誤的信息和虛假信息被認為是印度的最高風險，但在美國排名第六，在歐盟排名第八。 WEF指出，在輕鬆訪問複雜技術以及對信息和機構的信任下降的驅動下，操縱信息功能的快速加速正在加劇這種情況。

合成內容的影響

在接下來的幾年中，預計各種參與者將利用合成內容的激增，進一步加劇社會分裂，意識形態暴力和政治鎮壓。隨著印度，印度尼西亞，美國和英國等國家的近30億人將投票，廣泛傳播錯誤信息可能會危害新當選政府的合法性。

訪問用戶友好的AI工具的便利性已經導致偽造的信息和“合成”內容（例如高級語音克隆和假網站）的繁榮。 WEF警告說，這種綜合內容將在未來兩年內以多種方式操縱個人，傷害經濟和破裂社會，從氣候行動到升級衝突，可能被用於各種目的。

新興威脅和監管反應

新型的犯罪，例如非自願性深層色情和股票市場操縱，也正在上升。 WEF警告說，這些問題可能會導致暴力抗議，仇恨犯罪，民間衝突和恐怖主義。

作為回應，一些國家已經在實施針對在線和非法內容的主機和創建者的新法規。對生成AI的新生監管，例如中國對AI生成的內容的需求，可能有助於識別虛假信息，包括來自AI生成的內容的無意錯誤信息。但是，WEF指出，監管的步伐不太可能跟上技術的快速發展。

最近的技術進步提高了偽造信息的數量，覆蓋範圍和有效性，因此很難跟踪，屬性和控制。社交媒體平台的任務是維持完整性，可能會因多個重疊的廣告系列而淹沒。此外，虛假信息正變得越來越個性化和針對性，通常通過WhatsApp或微信等透明的消息平台傳播。

區分AI生成的內容的挑戰

WEF還強調了在區分AI生成和人類生成的內容方面的越來越困難，即使對於精緻的檢測系統和精通技術的個人也是如此。但是，一些國家正在採取措施來應對這一挑戰。

新加坡的倡議作戰

新加坡宣布對在線信託和安全研究計劃進行了2000萬美元（1,504萬美元）的投資，其中包括建立一個中心來開發與有害在線內容打擊有害在線內容的工具。在通信和信息部（MCI）的領導下，該倡議定於2028年。

原定於2024年上半年推出的在線安全技術中心旨在將研究人員和組織匯集在一起​​，以創建一個可用於更安全的互聯網的強大生態系統。該中心將著重於開發和定制工具來檢測有害內容，例如深層訴訟和虛假主張，還將致力於確定社會脆弱性和開髮乾預措施以減少對有害內容的易感性。

MCI已經與來自學術界以及公共和私營部門的100多名專業人員互動，有30名參與者直接參與了該中心的工作。開發的工具將經過測試和提出，旨在通過水印和內容認證等技術來增強數字信任。

錯誤信息的廣泛含義

WEF警告說，如果沒有受到檢查，錯誤信息可能會導致兩種對比的情況。一方面，一些政府和平台可能會優先考慮言論自由和公民自由，可能無法有效地遏制偽造的信息，從而導致對社會的“真理”的有爭議的定義。這可以由州和非國家行為者利用，以加深社會鴻溝，破壞公眾對政治機構的信任並威脅民族凝聚力。

另一方面，為了響應錯誤信息的傳播，一些國家可能會增加對信息的控制權，冒著國內宣傳和審查制度的風險。由於破壞了真理的概念，政府可能會根據其對“真理”的定義來控制信息，這可能導致更廣泛地抑制信息流以及進一步侵蝕互聯網，新聞和信息訪問自由。