人类学家律师在克劳德幻觉引用法律条文后道歉

最近,Anthropic 公司的一名代表律师承认,在该公司与音乐出版商的法律纠纷中,使用了该公司的 Claude 人工智能聊天机器人生成的错误引文。周四,Anthropic 在北加州法庭提交的一份文件中承认了这一点。
Anthropic 在彭博社首次报道的这份文件中指出,Claude 捏造了标题和作者详细信息都不正确的引用。该公司的律师承认,他们的例行引文检查未能发现这一错误,以及克劳德的 "幻觉 "造成的其他一些不准确之处。
Anthropic公司对这一疏忽表示歉意,称这一事件是 "诚实的引用错误,并非捏造权威"。
本周早些时候,环球音乐集团和其他音乐出版商的律师指控Anthropic公司的专家证人、雇员奥利维亚-陈(Olivia Chen)在证词中引用了编造的文章,涉嫌利用克劳德。随后,联邦法官苏珊-范库伦(Susan van Keulen)要求 Anthropic 就这些指控做出回应。
音乐出版商提起的诉讼是版权持有者与科技公司之间因涉嫌滥用其内容开发生成式人工智能工具而发生的多起冲突的一部分。
这标志着人工智能在法律诉讼中的应用又一次导致了意想不到的后果。本周早些时候,加州一名法官批评两家律师事务所在其法庭上提交 "虚假的人工智能生成研究"。今年 1 月,一名澳大利亚律师被曝在起草法庭文件时使用了 ChatGPT,导致引文存在缺陷。
尽管发生了此类事件,初创公司仍在继续吸引大量资金,以实现法律流程自动化。据报道,采用生成式人工智能模型为律师提供帮助的哈维公司正在讨论以超过 50 亿美元的估值获得超过 2.5 亿美元的资金。
Techcrunch 活动 ### 加入我们的 TechCrunch 会议:人工智能
预订参加我们的顶级人工智能行业活动,来自 OpenAI、Anthropic 和 Cohere 的演讲者将为您带来精彩演讲。在有限的时间内,门票仅售 292 美元,可参加一整天的专家演讲、研讨会和宝贵的交流机会。
在 TechCrunch 会议上参展:人工智能
在 TechCrunch Sessions: AI 上预订您的展位:向 1200 多位决策者展示您的创新成果,而无需花费巨额资金。报名截止至 5 月 9 日,额满为止。
加利福尼亚州伯克利 | 6月5日 现在注册
相关文章
Anthropic 与 Google 和 Broadrom 扩大计算合作
人工智能研究实验室Anthropic周一宣布,已与谷歌和博通达成一项新协议,旨在大幅提升其Claude AI模型背后的处理和计算能力。随着对其AI产品需求的持续快速增长,该公司对其计算合作伙伴关系进行了此次调整。这些协议将扩大Anthropic对谷歌云张量处理单元(TPUs)——即谷歌专用的AI芯片——的使用范围,并进一步拓展了双方于2025年10月达成的、涉及超过1吉瓦计算容量的合作协议。Ant
随着用户迁移,Claude在ChatGPT面前逐渐占据上风
随着ChatGPT及其母公司OpenAI卷入一系列争议,越来越多的用户正转向Claude。转折点出现在Claude的开发者Anthropic拒绝了美国国防部关于将其AI模型用于大规模国内监控或全自主武器的请求之后。作为报复,特朗普总统下令所有联邦机构停止使用Anthropic的产品,国防部长皮特·赫格塞斯则采取行动,将该公司列为供应链威胁。不久之后,OpenAI披露了其与五角大楼的合作关系,并声称
Anthropic与五角大楼的对峙对国家安全意味着什么
过去两周,Anthropic首席执行官达里奥·阿莫迪与国防部长皮特·赫格塞斯之间围绕军方应用人工智能技术问题展开的公开对峙成为舆论焦点。Anthropic已制定政策,禁止其人工智能模型被用于对美国公民进行大规模监控,或用于未经人类批准即可发起攻击的完全自主武器系统。相比之下,赫格塞斯部长则主张国防部不应受供应商规则的约束,并呼吁允许将该技术用于任何“合法用途”。周四,阿莫迪公开表示,尽管面临可能被
相关专题推荐
评论 (2)
0/500
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

最近,Anthropic 公司的一名代表律师承认,在该公司与音乐出版商的法律纠纷中,使用了该公司的 Claude 人工智能聊天机器人生成的错误引文。周四,Anthropic 在北加州法庭提交的一份文件中承认了这一点。
Anthropic 在彭博社首次报道的这份文件中指出,Claude 捏造了标题和作者详细信息都不正确的引用。该公司的律师承认,他们的例行引文检查未能发现这一错误,以及克劳德的 "幻觉 "造成的其他一些不准确之处。
Anthropic公司对这一疏忽表示歉意,称这一事件是 "诚实的引用错误,并非捏造权威"。
本周早些时候,环球音乐集团和其他音乐出版商的律师指控Anthropic公司的专家证人、雇员奥利维亚-陈(Olivia Chen)在证词中引用了编造的文章,涉嫌利用克劳德。随后,联邦法官苏珊-范库伦(Susan van Keulen)要求 Anthropic 就这些指控做出回应。
音乐出版商提起的诉讼是版权持有者与科技公司之间因涉嫌滥用其内容开发生成式人工智能工具而发生的多起冲突的一部分。
这标志着人工智能在法律诉讼中的应用又一次导致了意想不到的后果。本周早些时候,加州一名法官批评两家律师事务所在其法庭上提交 "虚假的人工智能生成研究"。今年 1 月,一名澳大利亚律师被曝在起草法庭文件时使用了 ChatGPT,导致引文存在缺陷。
尽管发生了此类事件,初创公司仍在继续吸引大量资金,以实现法律流程自动化。据报道,采用生成式人工智能模型为律师提供帮助的哈维公司正在讨论以超过 50 亿美元的估值获得超过 2.5 亿美元的资金。
Techcrunch 活动 ### 加入我们的 TechCrunch 会议:人工智能
预订参加我们的顶级人工智能行业活动,来自 OpenAI、Anthropic 和 Cohere 的演讲者将为您带来精彩演讲。在有限的时间内,门票仅售 292 美元,可参加一整天的专家演讲、研讨会和宝贵的交流机会。
在 TechCrunch 会议上参展:人工智能
在 TechCrunch Sessions: AI 上预订您的展位:向 1200 多位决策者展示您的创新成果,而无需花费巨额资金。报名截止至 5 月 9 日,额满为止。
加利福尼亚州伯克利 | 6月5日 现在注册
Anthropic 与 Google 和 Broadrom 扩大计算合作
人工智能研究实验室Anthropic周一宣布,已与谷歌和博通达成一项新协议,旨在大幅提升其Claude AI模型背后的处理和计算能力。随着对其AI产品需求的持续快速增长,该公司对其计算合作伙伴关系进行了此次调整。这些协议将扩大Anthropic对谷歌云张量处理单元(TPUs)——即谷歌专用的AI芯片——的使用范围,并进一步拓展了双方于2025年10月达成的、涉及超过1吉瓦计算容量的合作协议。Ant
随着用户迁移,Claude在ChatGPT面前逐渐占据上风
随着ChatGPT及其母公司OpenAI卷入一系列争议,越来越多的用户正转向Claude。转折点出现在Claude的开发者Anthropic拒绝了美国国防部关于将其AI模型用于大规模国内监控或全自主武器的请求之后。作为报复,特朗普总统下令所有联邦机构停止使用Anthropic的产品,国防部长皮特·赫格塞斯则采取行动,将该公司列为供应链威胁。不久之后,OpenAI披露了其与五角大楼的合作关系,并声称
Anthropic与五角大楼的对峙对国家安全意味着什么
过去两周,Anthropic首席执行官达里奥·阿莫迪与国防部长皮特·赫格塞斯之间围绕军方应用人工智能技术问题展开的公开对峙成为舆论焦点。Anthropic已制定政策,禁止其人工智能模型被用于对美国公民进行大规模监控,或用于未经人类批准即可发起攻击的完全自主武器系统。相比之下,赫格塞斯部长则主张国防部不应受供应商规则的约束,并呼吁允许将该技术用于任何“合法用途”。周四,阿莫迪公开表示,尽管面临可能被
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





首页






