Anthropic 在法律文件中承认克劳德人工智能错误,称其 令人尴尬且非故意

Anthropic公司在与音乐出版商的法律纠纷中回应了有关人工智能生成的消息来源的指控,称该事件是其克劳德聊天机器人 "无意中的引用错误"。
有争议的引用出现在 Anthropic 数据科学家奥利维亚-陈(Olivia Chen)于 4 月 30 日提交的法律文件中,这是该公司针对克劳德使用受版权保护的歌词进行训练的指控进行辩护的一部分。在法庭审理过程中,代表环球音乐集团(Universal Music Group)和其他出版商的法律顾问指出所引用的来源可能是编造的,暗示它们可能是 Anthropic 的人工智能系统发明的。
Anthropic公司的辩护律师伊万娜-杜卡诺维奇(Ivana Dukanovic)在最近提交的答复中澄清说,虽然引用的材料是真实的,但克劳德在文件中使用了法律引文的格式。该公司承认,虽然自动检查发现并纠正了人工智能生成的不准确的卷数和页码,但人工审核时仍未发现某些措辞上的错误。
杜卡诺维奇解释说:"系统正确识别了出版物名称、年份和可访问链接,但错误地包含了错误的文章标题和作者信息。Anthropic 公司对造成的混乱表示遗憾,称这一疏忽是 "一个不幸但无意的错误"。
在越来越多的法律诉讼中,人工智能辅助引文造成的问题也越来越复杂。最近,加利福尼亚州的一名法官训斥了一名律师,因为他没有披露人工智能在准备一份包含不存在的法律参考文献的辩护状时所扮演的角色。去年 12 月,一位错误信息研究员承认 ChatGPT 在其提交的一份法律文件中编造了引文,这一问题进一步引起了关注。
相关文章
谷歌AI概述在搜索结果中占据更多席位
根据Similarweb发布的《2026年生成式AI行业概况》报告,谷歌的AI生成的摘要出现在43%的美国搜索结果中,较一年前的15%显著上升。虽然“AI概览”会在标准搜索结果中展示生成的摘要,但“AI模式”则为复杂的查询和后续提示提供了对话式界面。用户可以在不丢失初始搜索上下文的情况下,从“AI概览”切换到“AI模式”。谷歌解释称,“AI模式”采用了一种名为“查询扇出”(query fan-ou
红杉资本投资的Empirik筹集2100万美元,用于在故障发生前进行预测
在2020年加入红杉资本担任首席数字与信息官之前,阿文·普里曾在Rubrik和VMware负责基础设施管理工作长达十余年。 三年前,当大型语言模型开始展现其真正潜力时,普里与红杉资本的另一位IT负责人苏迪尔·杜尔贾蒂(Sudheer Dhurjati)意识到,人工智能能够帮助自主解决基础设施工程师面临的一大挑战——在技术故障发生前就加以预防。这两位技术界资深人士意识到,与其在系统故障发生后被动应对
ElevenLabs 引入 BlackRock、杰米·福克斯和洛琳加作为新投资者
ElevenLabs,语音人工智能领域的领军企业,宣布了其5亿美元D轮融资的新增参与者,该轮融资最初于2月公布。目前投资者名单包括黑石集团(BlackRock)、惠灵顿管理公司(Wellington)、D.E. Shaw和施罗德投资(Schroders)等主要机构,以及英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、荷兰皇家电信(KPN)和德国电信(Deutsche Telekom)等战略企业支持者。加入本轮融资的知名个人投资者包括演员杰米·福克斯(Jamie F
相关专题推荐
评论 (3)
0/500
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic公司在与音乐出版商的法律纠纷中回应了有关人工智能生成的消息来源的指控,称该事件是其克劳德聊天机器人 "无意中的引用错误"。
有争议的引用出现在 Anthropic 数据科学家奥利维亚-陈(Olivia Chen)于 4 月 30 日提交的法律文件中,这是该公司针对克劳德使用受版权保护的歌词进行训练的指控进行辩护的一部分。在法庭审理过程中,代表环球音乐集团(Universal Music Group)和其他出版商的法律顾问指出所引用的来源可能是编造的,暗示它们可能是 Anthropic 的人工智能系统发明的。
Anthropic公司的辩护律师伊万娜-杜卡诺维奇(Ivana Dukanovic)在最近提交的答复中澄清说,虽然引用的材料是真实的,但克劳德在文件中使用了法律引文的格式。该公司承认,虽然自动检查发现并纠正了人工智能生成的不准确的卷数和页码,但人工审核时仍未发现某些措辞上的错误。
杜卡诺维奇解释说:"系统正确识别了出版物名称、年份和可访问链接,但错误地包含了错误的文章标题和作者信息。Anthropic 公司对造成的混乱表示遗憾,称这一疏忽是 "一个不幸但无意的错误"。
在越来越多的法律诉讼中,人工智能辅助引文造成的问题也越来越复杂。最近,加利福尼亚州的一名法官训斥了一名律师,因为他没有披露人工智能在准备一份包含不存在的法律参考文献的辩护状时所扮演的角色。去年 12 月,一位错误信息研究员承认 ChatGPT 在其提交的一份法律文件中编造了引文,这一问题进一步引起了关注。
谷歌AI概述在搜索结果中占据更多席位
根据Similarweb发布的《2026年生成式AI行业概况》报告,谷歌的AI生成的摘要出现在43%的美国搜索结果中,较一年前的15%显著上升。虽然“AI概览”会在标准搜索结果中展示生成的摘要,但“AI模式”则为复杂的查询和后续提示提供了对话式界面。用户可以在不丢失初始搜索上下文的情况下,从“AI概览”切换到“AI模式”。谷歌解释称,“AI模式”采用了一种名为“查询扇出”(query fan-ou
红杉资本投资的Empirik筹集2100万美元,用于在故障发生前进行预测
在2020年加入红杉资本担任首席数字与信息官之前,阿文·普里曾在Rubrik和VMware负责基础设施管理工作长达十余年。 三年前,当大型语言模型开始展现其真正潜力时,普里与红杉资本的另一位IT负责人苏迪尔·杜尔贾蒂(Sudheer Dhurjati)意识到,人工智能能够帮助自主解决基础设施工程师面临的一大挑战——在技术故障发生前就加以预防。这两位技术界资深人士意识到,与其在系统故障发生后被动应对
ElevenLabs 引入 BlackRock、杰米·福克斯和洛琳加作为新投资者
ElevenLabs,语音人工智能领域的领军企业,宣布了其5亿美元D轮融资的新增参与者,该轮融资最初于2月公布。目前投资者名单包括黑石集团(BlackRock)、惠灵顿管理公司(Wellington)、D.E. Shaw和施罗德投资(Schroders)等主要机构,以及英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、荷兰皇家电信(KPN)和德国电信(Deutsche Telekom)等战略企业支持者。加入本轮融资的知名个人投资者包括演员杰米·福克斯(Jamie F
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!





首页






