AI驱动的错误信息被确定为全球最高风险

随着未来两年内众多国家准备进行选举，由人工智能（AI）驱动的虚假信息和误导信息的威胁已成为最关键的全球风险。这一担忧在世界经济论坛（WEF）的《2024年全球风险报告》中得到强调，该报告指出，虚假信息与社会动荡的交织将成为焦点，特别是在主要经济体举行选举的情况下。

在对生活成本的日益担忧中，AI驱动的虚假信息风险预计将在今年超过其他问题。根据WEF的报告，虚假信息和误导信息将位列全球风险榜首，紧随其后的是极端天气事件和社会两极分化。报告还将网络不安全和国家间武装冲突列为前五大风险。

风险认知的区域差异

虽然虚假信息和误导信息在印度被认为是首要风险，但在美国的排名第六，在欧盟排名第八。WEF指出，由于对复杂技术的轻松访问以及对信息和机构的信任下降，操控信息能力的迅速提升正在加剧这一情况。

合成内容的影响

在未来几年，各种行为者预计将利用合成内容的激增，进一步加剧社会分歧、意识形态暴力和政治压迫。随着印度、印尼、美国和英国等国家近30亿人将参与投票，虚假信息的广泛传播可能威胁到新当选政府的合法性。

易于使用的AI工具的普及已导致虚假信息和“合成”内容的激增，例如高级语音克隆和虚假网站。WEF警告，这种合成内容将在未来两年以多种方式操纵个人、损害经济并分裂社会，可能被用于从气候行动主义到升级冲突的各种目的。

新兴威胁与监管应对

新型犯罪，如非自愿的深度伪造色情内容和股票市场操纵，也在增加。WEF警告，这些问题可能导致暴力抗议、仇恨犯罪、内战和恐怖主义。

为此，一些国家已经开始实施针对在线和非法内容宿主及创作者的新法规。生成式AI的初步监管，例如中国要求为AI生成内容添加水印，可能有助于识别虚假信息，包括AI生成内容中的无意误导信息。然而，WEF指出，监管的速度不太可能跟上技术的快速发展。

近期技术进步增加了虚假信息的数量、覆盖范围和效果，使其更难追踪、归因和控制。负责维护诚信的社交媒体平台可能因多重重叠的活动而不堪重负。此外，误导信息正变得越来越个性化和针对性，通常通过WhatsApp或WeChat等不太透明的通信平台传播。

区分AI生成内容的挑战

WEF还强调，区分AI生成内容与人类生成内容越来越困难，即使是对复杂的检测系统和技术精通的个人也是如此。然而，一些国家正在采取措施应对这一挑战。

新加坡应对深度伪造的举措

新加坡宣布投资2000万新元（1504万美元）用于在线信任与安全研究计划，包括建立一个中心来开发应对有害在线内容的工具。由通讯与信息部（MCI）领导，这一举措预计将持续到2028年。

在线安全高级技术中心计划于2024年上半年启动，旨在汇集研究人员和组织，打造一个更安全的互联网生态系统。该中心将专注于开发和定制工具，以检测有害内容，如深度伪造和虚假声明，并将研究社会脆弱性，开发干预措施以降低对有害内容的易感性。

MCI已与来自学术界及公共和私营部门的100多名专业人士进行接触，其中30人直接参与中心工作。开发的工具将经过测试并提议采用，旨在通过水印和内容认证等技术增强数字信任。

虚假信息的更广泛影响

WEF警告，如果不加控制，虚假信息可能导致两种截然相反的场景。一方面，一些政府和平台可能优先考虑言论自由和公民自由，可能无法有效遏制虚假信息，导致“真相”在社会中的定义充满争议。这可能被国家和非国家行为者利用，加深社会分歧，破坏对政治机构的公共信任，并威胁国家凝聚力。

另一方面，为应对虚假信息的传播，一些国家可能诉诸加强对信息的控制，存在国内宣传和审查的风险。随着真相概念的削弱，政府可能获得更多权力，根据其定义的“真相”控制信息，可能导致对信息流的更广泛压制，进一步侵蚀互联网、新闻和信息获取的自由。