Anthropic 在法律文件中承认克劳德人工智能错误,称其 令人尴尬且非故意

Anthropic公司在与音乐出版商的法律纠纷中回应了有关人工智能生成的消息来源的指控,称该事件是其克劳德聊天机器人 "无意中的引用错误"。
有争议的引用出现在 Anthropic 数据科学家奥利维亚-陈(Olivia Chen)于 4 月 30 日提交的法律文件中,这是该公司针对克劳德使用受版权保护的歌词进行训练的指控进行辩护的一部分。在法庭审理过程中,代表环球音乐集团(Universal Music Group)和其他出版商的法律顾问指出所引用的来源可能是编造的,暗示它们可能是 Anthropic 的人工智能系统发明的。
Anthropic公司的辩护律师伊万娜-杜卡诺维奇(Ivana Dukanovic)在最近提交的答复中澄清说,虽然引用的材料是真实的,但克劳德在文件中使用了法律引文的格式。该公司承认,虽然自动检查发现并纠正了人工智能生成的不准确的卷数和页码,但人工审核时仍未发现某些措辞上的错误。
杜卡诺维奇解释说:"系统正确识别了出版物名称、年份和可访问链接,但错误地包含了错误的文章标题和作者信息。Anthropic 公司对造成的混乱表示遗憾,称这一疏忽是 "一个不幸但无意的错误"。
在越来越多的法律诉讼中,人工智能辅助引文造成的问题也越来越复杂。最近,加利福尼亚州的一名法官训斥了一名律师,因为他没有披露人工智能在准备一份包含不存在的法律参考文献的辩护状时所扮演的角色。去年 12 月,一位错误信息研究员承认 ChatGPT 在其提交的一份法律文件中编造了引文,这一问题进一步引起了关注。
相关文章
Google 相册借助人工智能,将《绯闻女孩》中那间标志性的衣帽间重现于世
谷歌相册于周三宣布推出一项基于人工智能的新功能,该功能将很快把你的服装照片转化为一个数字衣橱,让你能够搭配出全新的穿搭组合,甚至可以进行虚拟试穿。这一概念显然借鉴了电影《绯闻女孩》中雪儿(Cher)那标志性的虚拟衣橱,她在其中可以浏览众多套装,从而决定穿什么。谷歌表示,该功能将利用人工智能技术,根据用户Google相册中的衣物自动构建一个数字衣橱。在应用内,用户可以按类别(如上装、下装、首饰等)筛
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam
相关专题推荐
评论 (3)
0/500
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic公司在与音乐出版商的法律纠纷中回应了有关人工智能生成的消息来源的指控,称该事件是其克劳德聊天机器人 "无意中的引用错误"。
有争议的引用出现在 Anthropic 数据科学家奥利维亚-陈(Olivia Chen)于 4 月 30 日提交的法律文件中,这是该公司针对克劳德使用受版权保护的歌词进行训练的指控进行辩护的一部分。在法庭审理过程中,代表环球音乐集团(Universal Music Group)和其他出版商的法律顾问指出所引用的来源可能是编造的,暗示它们可能是 Anthropic 的人工智能系统发明的。
Anthropic公司的辩护律师伊万娜-杜卡诺维奇(Ivana Dukanovic)在最近提交的答复中澄清说,虽然引用的材料是真实的,但克劳德在文件中使用了法律引文的格式。该公司承认,虽然自动检查发现并纠正了人工智能生成的不准确的卷数和页码,但人工审核时仍未发现某些措辞上的错误。
杜卡诺维奇解释说:"系统正确识别了出版物名称、年份和可访问链接,但错误地包含了错误的文章标题和作者信息。Anthropic 公司对造成的混乱表示遗憾,称这一疏忽是 "一个不幸但无意的错误"。
在越来越多的法律诉讼中,人工智能辅助引文造成的问题也越来越复杂。最近,加利福尼亚州的一名法官训斥了一名律师,因为他没有披露人工智能在准备一份包含不存在的法律参考文献的辩护状时所扮演的角色。去年 12 月,一位错误信息研究员承认 ChatGPT 在其提交的一份法律文件中编造了引文,这一问题进一步引起了关注。
Google 相册借助人工智能,将《绯闻女孩》中那间标志性的衣帽间重现于世
谷歌相册于周三宣布推出一项基于人工智能的新功能,该功能将很快把你的服装照片转化为一个数字衣橱,让你能够搭配出全新的穿搭组合,甚至可以进行虚拟试穿。这一概念显然借鉴了电影《绯闻女孩》中雪儿(Cher)那标志性的虚拟衣橱,她在其中可以浏览众多套装,从而决定穿什么。谷歌表示,该功能将利用人工智能技术,根据用户Google相册中的衣物自动构建一个数字衣橱。在应用内,用户可以按类别(如上装、下装、首饰等)筛
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!





首页






