法官抨击律师提交虚假AI研究

法官因律师事务所未披露使用人工智能而对其进行处罚
在最近的一项裁决中,加利福尼亚法官迈克尔·威尔纳对两家知名律师事务所处以31,000美元的巨额罚款,原因是他们在民事诉讼中秘密依赖人工智能。据威尔纳法官称,这两家律所提交了一份充满“虚假、不准确且具有误导性的法律引用和引文的”诉状。据法律教授埃里克·戈德曼和布莱克·里德在Bluesky上报道,法官对这种被他认为是对职业标准鲁莽无视的行为表达了不满。
“我相信我所阅读的诉状,”威尔纳法官在裁决书中写道。“我被他们引用的权威资料说服,因此我深入研究了那些案例。但它们根本不存在。这太可怕了。我差点基于虚假信息签署了一项司法命令。”
根据法庭文件,问题始于原告的法律团队聘请了一个人工智能工具来起草补充诉状的大纲。然而,这个大纲在交给另一家涉案律师事务所K&L Gates时,充满了捏造内容。不幸的是,两家律所都没有在提交前对信息进行事实核查或验证。
威尔纳法官发现,“至少有两个引用的权威资料完全不存在。”在要求澄清时,K&L Gates重新提交了诉状,但法官发现了更多捏造的引用。作为回应,他发布了一份要求说明原因的命令,促使双方在宣誓下承认真相。负责起草原始大纲的律师承认使用了Google Gemini和Westlaw Precision与CoCounsel等法律研究工具。
滥用模式的出现
这不是律师因滥用人工智能而陷入麻烦的首次案例。前特朗普律师迈克尔·科恩曾引用不存在的法庭案例,原因是错误地将Google Gemini(当时称为Bard)视为常规搜索引擎。同样,哥伦比亚的一名法官发现,起诉一家航空公司的律师在诉状中加入了由ChatGPT生成的虚假案例。
“整个事件令人震惊,”威尔纳法官总结道。“在未披露的情况下依赖人工智能的初步决定是不可接受的。将这种有缺陷的材料发送给其他专业人士,却未警告其可疑来源,使所有人都面临风险。”
更广泛的影响
这一裁决凸显了法律专业人士对在法庭文件中使用人工智能的伦理影响日益增长的担忧。虽然人工智能工具承诺提高效率和准确性,但如果不加以适当审查,也存在传播错误信息的风险。正如威尔纳法官强调的,“任何合理称职的律师都不应在未验证其输出的情况下将研究或写作外包给算法。”
此案清楚地提醒人们在法律实践中透明度和责任感的重要性。随着人工智能的不断发展,从业者需谨慎行事,确保技术增强而非损害司法系统的完整性。
相关文章
Google 相册借助人工智能,将《绯闻女孩》中那间标志性的衣帽间重现于世
谷歌相册于周三宣布推出一项基于人工智能的新功能,该功能将很快把你的服装照片转化为一个数字衣橱,让你能够搭配出全新的穿搭组合,甚至可以进行虚拟试穿。这一概念显然借鉴了电影《绯闻女孩》中雪儿(Cher)那标志性的虚拟衣橱,她在其中可以浏览众多套装,从而决定穿什么。谷歌表示,该功能将利用人工智能技术,根据用户Google相册中的衣物自动构建一个数字衣橱。在应用内,用户可以按类别(如上装、下装、首饰等)筛
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam
相关专题推荐
评论 (4)
0/500
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

法官因律师事务所未披露使用人工智能而对其进行处罚
在最近的一项裁决中,加利福尼亚法官迈克尔·威尔纳对两家知名律师事务所处以31,000美元的巨额罚款,原因是他们在民事诉讼中秘密依赖人工智能。据威尔纳法官称,这两家律所提交了一份充满“虚假、不准确且具有误导性的法律引用和引文的”诉状。据法律教授埃里克·戈德曼和布莱克·里德在Bluesky上报道,法官对这种被他认为是对职业标准鲁莽无视的行为表达了不满。
“我相信我所阅读的诉状,”威尔纳法官在裁决书中写道。“我被他们引用的权威资料说服,因此我深入研究了那些案例。但它们根本不存在。这太可怕了。我差点基于虚假信息签署了一项司法命令。”
根据法庭文件,问题始于原告的法律团队聘请了一个人工智能工具来起草补充诉状的大纲。然而,这个大纲在交给另一家涉案律师事务所K&L Gates时,充满了捏造内容。不幸的是,两家律所都没有在提交前对信息进行事实核查或验证。
威尔纳法官发现,“至少有两个引用的权威资料完全不存在。”在要求澄清时,K&L Gates重新提交了诉状,但法官发现了更多捏造的引用。作为回应,他发布了一份要求说明原因的命令,促使双方在宣誓下承认真相。负责起草原始大纲的律师承认使用了Google Gemini和Westlaw Precision与CoCounsel等法律研究工具。
滥用模式的出现
这不是律师因滥用人工智能而陷入麻烦的首次案例。前特朗普律师迈克尔·科恩曾引用不存在的法庭案例,原因是错误地将Google Gemini(当时称为Bard)视为常规搜索引擎。同样,哥伦比亚的一名法官发现,起诉一家航空公司的律师在诉状中加入了由ChatGPT生成的虚假案例。
“整个事件令人震惊,”威尔纳法官总结道。“在未披露的情况下依赖人工智能的初步决定是不可接受的。将这种有缺陷的材料发送给其他专业人士,却未警告其可疑来源,使所有人都面临风险。”
更广泛的影响
这一裁决凸显了法律专业人士对在法庭文件中使用人工智能的伦理影响日益增长的担忧。虽然人工智能工具承诺提高效率和准确性,但如果不加以适当审查,也存在传播错误信息的风险。正如威尔纳法官强调的,“任何合理称职的律师都不应在未验证其输出的情况下将研究或写作外包给算法。”
此案清楚地提醒人们在法律实践中透明度和责任感的重要性。随着人工智能的不断发展,从业者需谨慎行事,确保技术增强而非损害司法系统的完整性。
Google 相册借助人工智能,将《绯闻女孩》中那间标志性的衣帽间重现于世
谷歌相册于周三宣布推出一项基于人工智能的新功能,该功能将很快把你的服装照片转化为一个数字衣橱,让你能够搭配出全新的穿搭组合,甚至可以进行虚拟试穿。这一概念显然借鉴了电影《绯闻女孩》中雪儿(Cher)那标志性的虚拟衣橱,她在其中可以浏览众多套装,从而决定穿什么。谷歌表示,该功能将利用人工智能技术,根据用户Google相册中的衣物自动构建一个数字衣橱。在应用内,用户可以按类别(如上装、下装、首饰等)筛
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





首页






