人类学家律师在克劳德幻觉引用法律条文后道歉

最近,Anthropic 公司的一名代表律师承认,在该公司与音乐出版商的法律纠纷中,使用了该公司的 Claude 人工智能聊天机器人生成的错误引文。周四,Anthropic 在北加州法庭提交的一份文件中承认了这一点。
Anthropic 在彭博社首次报道的这份文件中指出,Claude 捏造了标题和作者详细信息都不正确的引用。该公司的律师承认,他们的例行引文检查未能发现这一错误,以及克劳德的 "幻觉 "造成的其他一些不准确之处。
Anthropic公司对这一疏忽表示歉意,称这一事件是 "诚实的引用错误,并非捏造权威"。
本周早些时候,环球音乐集团和其他音乐出版商的律师指控Anthropic公司的专家证人、雇员奥利维亚-陈(Olivia Chen)在证词中引用了编造的文章,涉嫌利用克劳德。随后,联邦法官苏珊-范库伦(Susan van Keulen)要求 Anthropic 就这些指控做出回应。
音乐出版商提起的诉讼是版权持有者与科技公司之间因涉嫌滥用其内容开发生成式人工智能工具而发生的多起冲突的一部分。
这标志着人工智能在法律诉讼中的应用又一次导致了意想不到的后果。本周早些时候,加州一名法官批评两家律师事务所在其法庭上提交 "虚假的人工智能生成研究"。今年 1 月,一名澳大利亚律师被曝在起草法庭文件时使用了 ChatGPT,导致引文存在缺陷。
尽管发生了此类事件,初创公司仍在继续吸引大量资金,以实现法律流程自动化。据报道,采用生成式人工智能模型为律师提供帮助的哈维公司正在讨论以超过 50 亿美元的估值获得超过 2.5 亿美元的资金。
Techcrunch 活动 ### 加入我们的 TechCrunch 会议:人工智能
预订参加我们的顶级人工智能行业活动,来自 OpenAI、Anthropic 和 Cohere 的演讲者将为您带来精彩演讲。在有限的时间内,门票仅售 292 美元,可参加一整天的专家演讲、研讨会和宝贵的交流机会。
在 TechCrunch 会议上参展:人工智能
在 TechCrunch Sessions: AI 上预订您的展位:向 1200 多位决策者展示您的创新成果,而无需花费巨额资金。报名截止至 5 月 9 日,额满为止。
加利福尼亚州伯克利 | 6月5日 现在注册
相关文章
Anthropic 发布了备受争议的内容生成器 Opus 4.6
Anthropic针对Claude制定的通用使用标准禁止该模型生成色情内容,包括描述或要求进行性交或性行为、生成与性癖好或性幻想相关的内容,以及进行色情聊天。 然而,这并未阻止Anthropic今年早些时候发布的模型Claude Opus 4.6轻易参与其安全防护机制本应阻止的色情角色扮演场景。在 TechCrunch 的测试中,Opus 4.6 甚至无需过多怂恿就能突破对色情内容的限制。在 10
Claude 的“同事”功能现在可以记住你过去的聊天指令
Anthropic 对 Claude 记忆系统的更新消除了使用 AI 代理时的一个主要摩擦点:即重复向 AI 解释其已保留的上下文的必要性。通过整合标准聊天和 Claude Cowork 的记忆架构,Claude 现在能够在所有交互中保持连续性,即使在切换到另一个会话时,也能记住之前会话中的见解。用户现在可以查看、编辑或删除存储在 Claude 记忆中的任何信息,确保对 AI 保留内容的完全透明和控制。图片来源:Anthropic这一增强功能简化了研究与执行之间的工作流程,允许用户从头脑风暴无缝
随着当地人开始为数字服务付费,印度正从应用下载转向变现
印度曾是全球最大的应用下载中心,却一直难以实现盈利。随着用户越来越多地投资于人工智能、娱乐和高端数字服务,这一局面正在发生转变。据Sensor Tower数据显示,第二季度印度用户在移动应用上的消费额达到创纪录的3.45亿美元,同比增长35%。 这家数据分析公司指出,当前的增长主要由生成式人工智能、流媒体和生产力工具驱动,这反映出印度用户越来越愿意为数字订阅服务付费,而非仅依赖游戏。这一创纪录的季
相关专题推荐
评论 (3)
0/500
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

最近,Anthropic 公司的一名代表律师承认,在该公司与音乐出版商的法律纠纷中,使用了该公司的 Claude 人工智能聊天机器人生成的错误引文。周四,Anthropic 在北加州法庭提交的一份文件中承认了这一点。
Anthropic 在彭博社首次报道的这份文件中指出,Claude 捏造了标题和作者详细信息都不正确的引用。该公司的律师承认,他们的例行引文检查未能发现这一错误,以及克劳德的 "幻觉 "造成的其他一些不准确之处。
Anthropic公司对这一疏忽表示歉意,称这一事件是 "诚实的引用错误,并非捏造权威"。
本周早些时候,环球音乐集团和其他音乐出版商的律师指控Anthropic公司的专家证人、雇员奥利维亚-陈(Olivia Chen)在证词中引用了编造的文章,涉嫌利用克劳德。随后,联邦法官苏珊-范库伦(Susan van Keulen)要求 Anthropic 就这些指控做出回应。
音乐出版商提起的诉讼是版权持有者与科技公司之间因涉嫌滥用其内容开发生成式人工智能工具而发生的多起冲突的一部分。
这标志着人工智能在法律诉讼中的应用又一次导致了意想不到的后果。本周早些时候,加州一名法官批评两家律师事务所在其法庭上提交 "虚假的人工智能生成研究"。今年 1 月,一名澳大利亚律师被曝在起草法庭文件时使用了 ChatGPT,导致引文存在缺陷。
尽管发生了此类事件,初创公司仍在继续吸引大量资金,以实现法律流程自动化。据报道,采用生成式人工智能模型为律师提供帮助的哈维公司正在讨论以超过 50 亿美元的估值获得超过 2.5 亿美元的资金。
Techcrunch 活动 ### 加入我们的 TechCrunch 会议:人工智能
预订参加我们的顶级人工智能行业活动,来自 OpenAI、Anthropic 和 Cohere 的演讲者将为您带来精彩演讲。在有限的时间内,门票仅售 292 美元,可参加一整天的专家演讲、研讨会和宝贵的交流机会。
在 TechCrunch 会议上参展:人工智能
在 TechCrunch Sessions: AI 上预订您的展位:向 1200 多位决策者展示您的创新成果,而无需花费巨额资金。报名截止至 5 月 9 日,额满为止。
加利福尼亚州伯克利 | 6月5日 现在注册
Anthropic 发布了备受争议的内容生成器 Opus 4.6
Anthropic针对Claude制定的通用使用标准禁止该模型生成色情内容,包括描述或要求进行性交或性行为、生成与性癖好或性幻想相关的内容,以及进行色情聊天。 然而,这并未阻止Anthropic今年早些时候发布的模型Claude Opus 4.6轻易参与其安全防护机制本应阻止的色情角色扮演场景。在 TechCrunch 的测试中,Opus 4.6 甚至无需过多怂恿就能突破对色情内容的限制。在 10
Claude 的“同事”功能现在可以记住你过去的聊天指令
Anthropic 对 Claude 记忆系统的更新消除了使用 AI 代理时的一个主要摩擦点:即重复向 AI 解释其已保留的上下文的必要性。通过整合标准聊天和 Claude Cowork 的记忆架构,Claude 现在能够在所有交互中保持连续性,即使在切换到另一个会话时,也能记住之前会话中的见解。用户现在可以查看、编辑或删除存储在 Claude 记忆中的任何信息,确保对 AI 保留内容的完全透明和控制。图片来源:Anthropic这一增强功能简化了研究与执行之间的工作流程,允许用户从头脑风暴无缝
随着当地人开始为数字服务付费,印度正从应用下载转向变现
印度曾是全球最大的应用下载中心,却一直难以实现盈利。随着用户越来越多地投资于人工智能、娱乐和高端数字服务,这一局面正在发生转变。据Sensor Tower数据显示,第二季度印度用户在移动应用上的消费额达到创纪录的3.45亿美元,同比增长35%。 这家数据分析公司指出,当前的增长主要由生成式人工智能、流媒体和生产力工具驱动,这反映出印度用户越来越愿意为数字订阅服务付费,而非仅依赖游戏。这一创纪录的季
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





首页






