Anthropic 在法律文件中承认克劳德人工智能错误，称其 令人尴尬且非故意

Anthropic公司在与音乐出版商的法律纠纷中回应了有关人工智能生成的消息来源的指控，称该事件是其克劳德聊天机器人 "无意中的引用错误"。

有争议的引用出现在 Anthropic 数据科学家奥利维亚-陈（Olivia Chen）于 4 月 30 日提交的法律文件中，这是该公司针对克劳德使用受版权保护的歌词进行训练的指控进行辩护的一部分。在法庭审理过程中，代表环球音乐集团（Universal Music Group）和其他出版商的法律顾问指出所引用的来源可能是编造的，暗示它们可能是 Anthropic 的人工智能系统发明的。

Anthropic公司的辩护律师伊万娜-杜卡诺维奇（Ivana Dukanovic）在最近提交的答复中澄清说，虽然引用的材料是真实的，但克劳德在文件中使用了法律引文的格式。该公司承认，虽然自动检查发现并纠正了人工智能生成的不准确的卷数和页码，但人工审核时仍未发现某些措辞上的错误。

杜卡诺维奇解释说："系统正确识别了出版物名称、年份和可访问链接，但错误地包含了错误的文章标题和作者信息。Anthropic 公司对造成的混乱表示遗憾，称这一疏忽是 "一个不幸但无意的错误"。

在越来越多的法律诉讼中，人工智能辅助引文造成的问题也越来越复杂。最近，加利福尼亚州的一名法官训斥了一名律师，因为他没有披露人工智能在准备一份包含不存在的法律参考文献的辩护状时所扮演的角色。去年 12 月，一位错误信息研究员承认 ChatGPT 在其提交的一份法律文件中编造了引文，这一问题进一步引起了关注。