AI驅動的錯誤信息被確定為全球最高風險

隨著未來兩年眾多國家準備舉行選舉，由人工智能（AI）推動的錯誤信息和虛假信息威脅成為最關鍵的全球風險。這一擔憂在世界經濟論壇（WEF）的《2024年全球風險報告》中得到強調，該報告指出，虛假信息與社會動盪的交織將位居前列，特別是在主要經濟體舉行選舉的背景下。

在對生活成本日益增長的焦慮中，由AI驅動的錯誤信息風險預計將在今年超越其他問題。根據WEF的說法，錯誤信息和虛假信息將位居全球風險榜首，緊隨其後的是極端天氣事件和社會極化。報告還將網絡安全問題和國家間武裝衝突列為前五大風險。

風險認知中的區域差異

雖然錯誤信息和虛假信息在印度被認為是首要風險，但在美國排名第六，在歐盟排名第八。WEF指出，由於操縱信息能力的快速提升、對尖端技術的輕鬆訪問以及對信息和機構信任的下降，這一問題正在惡化。

合成內容的影響

在未來幾年，預計多種行為者將利用合成內容的激增，進一步加劇社會分歧、意識形態暴力及政治壓迫。隨著印度、印尼、美國和英國等國近30億人將參與投票，錯誤信息的廣泛傳播可能會危及新當選政府的合法性。

易於使用的AI工具的普及已導致虛假信息和“合成”內容（如高級語音克隆和假冒網站）的激增。WEF警告說，這種合成內容將在未來兩年以多種方式操縱個人、損害經濟並分裂社會，可能被用於從氣候行動主義到升級衝突的各種目的。

新興威脅與監管應對

新型犯罪，如非自願的深度偽造色情內容和股票市場操縱，也在增加。WEF警告說，這些問題可能導致暴力抗議、仇恨犯罪、內亂和恐怖主義。

作為回應，一些國家已開始實施針對線上和非法內容主機及創作者的新法規。生成式AI的新興監管，例如中國要求為AI生成內容添加水印，可能有助於識別虛假信息，包括AI生成內容中的無意錯誤信息。然而，WEF指出，監管的步伐不太可能跟上技術的快速發展。

近期的技術進步增加了虛假信息的數量、覆蓋範圍和有效性，使其更難追蹤、歸因和控制。負責維護誠信的社交媒體平台可能會因多重重疊的活動而不堪重負。此外，虛假信息正變得越來越個性化和針對性，通常通過WhatsApp或WeChat等不太透明的訊息平台傳播。

區分AI生成內容的挑戰

WEF還強調，區分AI生成內容與人類生成內容的難度日益增加，即使對於精密的檢測系統和技術敏銳的個人也是如此。然而，一些國家正在採取措施應對這一挑戰。

新加坡打擊深度偽造的舉措

新加坡宣布投資2000萬新元（1504萬美元）用於線上信任與安全研究計劃，包括建立一個中心來開發工具以應對有害線上內容。由通訊及資訊部（MCI）領導，這一計劃將持續到2028年。

線上安全先進技術中心預計將於2024年上半年啟動，旨在匯聚研究人員和組織，打造一個更安全的網絡生態系統。該中心將專注於開發和定制工具來檢測有害內容，如深度偽造和虛假聲明，並將致力於識別社會脆弱性並開發干預措施，以降低對有害內容的易感性。

MCI已與來自學術界及公共和私營部門的100多名專業人士進行了接觸，其中30名參與者直接參與該中心的工作。開發的工具將進行測試並提議採用，旨在通過水印和內容認證等技術增強數位信任。

錯誤信息的更廣泛影響

WEF警告說，如果不加控制，錯誤信息可能導致兩種對立的場景。一方面，一些政府和平台可能優先考慮言論自由和公民自由，可能無法有效遏制虛假信息，導致“真相”在社會中的定義具有爭議性。這可能被國家和非國家行為者利用，以加深社會分歧，破壞對政治機構的公眾信任，並威脅國家凝聚力。

另一方面，為應對錯誤信息的傳播，一些國家可能會採取對信息的更大控制，冒著國內宣傳和審查的風險。隨著真相概念的削弱，政府可能獲得更多權力，根據其對“真相”的定義來控制信息，這可能導致對信息流的更廣泛壓制，並進一步侵蝕互聯網、新聞和信息獲取自由。