AI驱动的错误信息被确定为全球最高风险

当我们接近在未来两年内许多国家正在为选举做准备的时期，被人工智能（AI）涡轮增压的错误信息和虚假信息的威胁变为最关键的全球风险。世界经济论坛（WEF）全球风险报告2024强调了这一担忧，该报告强调，伪造的信息与社会动荡的交织在一起将处于最前沿，尤其是在举行选举的主要经济体中。

在越来越多的生活成本焦虑之中，与AI燃料错误信息相关的风险将使今年的其他担忧掩盖了其他问题。根据WEF，错误信息和虚假信息将列为全球风险的榜首，紧随其后的是极端天气事件和社会两极分化。该报告还列出了网络不安全感和州际武装冲突。

风险感知的区域变化

尽管错误的信息和虚假信息被认为是印度的最高风险，但在美国排名第六，在欧盟排名第八。 WEF指出，在轻松访问复杂技术以及对信息和机构的信任下降的驱动下，操纵信息功能的快速加速正在加剧这种情况。

合成内容的影响

在接下来的几年中，预计各种参与者将利用合成内容的激增，进一步加剧社会分裂，意识形态暴力和政治镇压。随着印度，印度尼西亚，美国和英国等国家的近30亿人将投票，广泛传播错误信息可能会危害新当选政府的合法性。

访问用户友好的AI工具的便利性已经导致伪造的信息和“合成”内容（例如高级语音克隆和假网站）的繁荣。 WEF警告说，这种综合内容将在未来两年内以多种方式操纵个人，伤害经济和破裂社会，从气候行动到升级冲突，可能被用于各种目的。

新兴威胁和监管反应

新型的犯罪，例如非自愿性深层色情和股票市场操纵，也正在上升。 WEF警告说，这些问题可能会导致暴力抗议，仇恨犯罪，民间冲突和恐怖主义。

作为回应，一些国家已经在实施针对在线和非法内容的主机和创建者的新法规。对生成AI的新生监管，例如中国对AI生成的内容的需求，可能有助于识别虚假信息，包括来自AI生成的内容的无意错误信息。但是，WEF指出，监管的步伐不太可能跟上技术的快速发展。

最近的技术进步提高了伪造信息的数量，覆盖范围和有效性，因此很难跟踪，属性和控制。社交媒体平台的任务是维持完整性，可能会因多个重叠的广告系列而淹没。此外，虚假信息正变得越来越个性化和针对性，通常通过WhatsApp或微信等透明的消息平台传播。

区分AI生成的内容的挑战

WEF还强调了在区分AI生成和人类生成的内容方面的越来越困难，即使对于精致的检测系统和精通技术的个人也是如此。但是，一些国家正在采取措施来应对这一挑战。

新加坡的倡议作战

新加坡宣布对在线信托和安全研究计划进行了2000万美元（1,504万美元）的投资，其中包括建立一个中心来开发与有害在线内容打击有害在线内容的工具。在通信和信息部（MCI）的领导下，该倡议定于2028年。

原定于2024年上半年推出的在线安全技术中心旨在将研究人员和组织汇集在一起​​，以创建一个可用于更安全的互联网的强大生态系统。该中心将着重于开发和定制工具来检测有害内容，例如深层诉讼和虚假主张，还将致力于确定社会脆弱性和开发干预措施以减少对有害内容的易感性。

MCI已经与来自学术界以及公共和私营部门的100多名专业人员互动，有30名参与者直接参与了该中心的工作。开发的工具将经过测试和提出，旨在通过水印和内容认证等技术来增强数字信任。

错误信息的广泛含义

WEF警告说，如果没有受到检查，错误信息可能会导致两种对比的情况。一方面，一些政府和平台可能会优先考虑言论自由和公民自由，可能无法有效地遏制伪造的信息，从而导致对社会的“真理”的有争议的定义。这可以由州和非国家行为者利用，以加深社会鸿沟，破坏公众对政治机构的信任并威胁民族凝聚力。

另一方面，为了响应错误信息的传播，一些国家可能会增加对信息的控制权，冒着国内宣传和审查制度的风险。由于破坏了真理的概念，政府可能会根据其对“真理”的定义来控制信息，这可能导致更广泛地抑制信息流以及进一步侵蚀互联网，新闻和信息访问自由。