Chatgpt因诽谤性错误而面临隐私投诉

OpenAI在欧洲再次陷入困境，这一次是因为其AI聊天机器人习惯于输出虚假信息。由倡导组织Noyb支持的最新隐私投诉，可能是监管机构无法忽视的一起事件。

投诉源于挪威的一起令人不安的事件，ChatGPT错误地声称一名名叫Arve Hjalmar Holmen的男子被判谋杀其两名子女并试图杀害第三名子女的罪名。这一令人震惊的捏造让当地社区感到震惊。

过去关于ChatGPT不准确的投诉多涉及次要细节，如错误的出生日期或传记错误。一个主要问题是，OpenAI不允许个人更正关于他们的虚假信息。相反，OpenAI通常选择阻止对某些提示的回应。然而，根据欧盟的《通用数据保护条例》（GDPR），欧洲人享有包括纠正个人数据的权利。

GDPR还要求数据控制者确保其生成的个人数据的准确性。Noyb在对ChatGPT的最新投诉中强调了这一要求。

Noyb的数据保护律师Joakim Söderberg强调：“GDPR非常明确。个人数据必须准确。如果不准确，用户有权要求更改以反映真相。仅仅向ChatGPT用户展示一个小的免责声明，称聊天机器人可能会出错，显然是不够的。你不能只是传播虚假信息，最后加一个小小的免责声明，称你所说的一切可能不真实。”

违反GDPR可能导致高额罚款，最高可达公司全球年收入的4%。执法行动还可能导致AI产品的变更。例如，意大利的数据保护机构在2023年初暂时禁止了ChatGPT，促使OpenAI修改了其提供给用户的信息。该机构随后因OpenAI在没有适当法律依据的情况下处理数据，对其罚款1500万欧元。

自那以后，欧洲隐私监管机构在监管生成式AI（GenAI）方面更加谨慎，试图弄清楚GDPR如何适用于这些新技术。例如，爱尔兰的数据保护委员会（DPC）建议不要急于禁止GenAI工具，而是采取更审慎的方法。与此同时，2023年9月在波兰提交的针对ChatGPT的隐私投诉仍未解决。

Noyb的新投诉旨在促使隐私监管机构采取行动，应对AI幻觉带来的风险。

与TechCrunch分享的截图显示了ChatGPT对“Arve Hjalmar Holmen是谁？”这一查询的回应。它错误地声称Holmen被判谋杀儿童罪，并被判处21年监禁，杀害了他的两个儿子。虽然这一说法完全不真实，但ChatGPT正确地提到Holmen有三个孩子，性别正确，并且正确命名了他的家乡。这种真相与虚构的混合使得AI的幻觉更加令人不安。

Noyb的发言人无法确定ChatGPT为何对Holmen生成了如此具体的虚假叙述，尽管对报纸档案进行了彻底研究。

像ChatGPT中使用的大型语言模型在大规模预测下一个词，这可能解释了为什么包含弑亲故事的数据集可能影响了回应。无论原因如何，这种输出显然是不可接受的。

Noyb认为，根据欧盟数据保护规则，这些捏造是非法的。OpenAI关于潜在错误的免责声明并不能免除其遵守GDPR的要求，避免产生关于个人的严重虚假信息。

针对投诉，OpenAI的发言人表示：“我们继续研究改进模型准确性和减少幻觉的新方法。虽然我们仍在审查这份投诉，但它涉及的ChatGPT版本已经通过增加在线搜索功能提高了准确性。”

尽管投诉聚焦于一个人，Noyb指出ChatGPT还捏造了其他损害性信息，例如错误地暗示澳大利亚一名市长卷入贿赂丑闻，或一名德国记者涉及儿童虐待指控。

在更新底层AI模型后，Noyb注意到ChatGPT停止了关于Holmen的虚假声明，可能是因为该工具现在会搜索网络以获取有关个人的信息。

在我们的测试中，ChatGPT最初显示了不同人的照片，并附上消息称“无法找到有关Holmen的任何信息”。随后的查询将他识别为“挪威音乐家和词曲作者”，拥有《Honky Tonk Inferno》等专辑。

虽然关于Holmen的危险虚假信息已停止，但Noyb和Holmen仍然担心AI模型内部可能仍保留不正确和诽谤性信息。

Noyb的另一位数据保护律师Kleanthi Sardeli表示：“添加一个声明，称你不遵守法律，并不能使法律失效。AI公司也不能只是对用户‘隐藏’虚假信息，而在内部仍然处理虚假信息。AI公司应该停止表现得好像GDPR不适用于它们，而实际上显然适用。如果不停止幻觉，人们很容易遭受声誉损害。”

Noyb已向挪威的数据保护机构提交了这份投诉，希望其进行调查，因为该投诉针对的是OpenAI的美国实体，而不仅仅是其爱尔兰办公室。Noyb于2024年4月在奥地利提交的另一份GDPR投诉，因OpenAI指定其爱尔兰分部为向欧洲用户提供ChatGPT服务的实体，而被转交至爱尔兰DPC。

该投诉仍在DPC审查中，没有明确的解决时间表。

此报告已更新，包含OpenAI的声明