法官抨击律师提交虚假AI研究

法官因律师事务所未披露使用人工智能而对其进行处罚

在最近的一项裁决中，加利福尼亚法官迈克尔·威尔纳对两家知名律师事务所处以31,000美元的巨额罚款，原因是他们在民事诉讼中秘密依赖人工智能。据威尔纳法官称，这两家律所提交了一份充满“虚假、不准确且具有误导性的法律引用和引文的”诉状。据法律教授埃里克·戈德曼和布莱克·里德在Bluesky上报道，法官对这种被他认为是对职业标准鲁莽无视的行为表达了不满。

“我相信我所阅读的诉状，”威尔纳法官在裁决书中写道。“我被他们引用的权威资料说服，因此我深入研究了那些案例。但它们根本不存在。这太可怕了。我差点基于虚假信息签署了一项司法命令。”

根据法庭文件，问题始于原告的法律团队聘请了一个人工智能工具来起草补充诉状的大纲。然而，这个大纲在交给另一家涉案律师事务所K&L Gates时，充满了捏造内容。不幸的是，两家律所都没有在提交前对信息进行事实核查或验证。

威尔纳法官发现，“至少有两个引用的权威资料完全不存在。”在要求澄清时，K&L Gates重新提交了诉状，但法官发现了更多捏造的引用。作为回应，他发布了一份要求说明原因的命令，促使双方在宣誓下承认真相。负责起草原始大纲的律师承认使用了Google Gemini和Westlaw Precision与CoCounsel等法律研究工具。

滥用模式的出现

这不是律师因滥用人工智能而陷入麻烦的首次案例。前特朗普律师迈克尔·科恩曾引用不存在的法庭案例，原因是错误地将Google Gemini（当时称为Bard）视为常规搜索引擎。同样，哥伦比亚的一名法官发现，起诉一家航空公司的律师在诉状中加入了由ChatGPT生成的虚假案例。

“整个事件令人震惊，”威尔纳法官总结道。“在未披露的情况下依赖人工智能的初步决定是不可接受的。将这种有缺陷的材料发送给其他专业人士，却未警告其可疑来源，使所有人都面临风险。”

更广泛的影响

这一裁决凸显了法律专业人士对在法庭文件中使用人工智能的伦理影响日益增长的担忧。虽然人工智能工具承诺提高效率和准确性，但如果不加以适当审查，也存在传播错误信息的风险。正如威尔纳法官强调的，“任何合理称职的律师都不应在未验证其输出的情况下将研究或写作外包给算法。”

此案清楚地提醒人们在法律实践中透明度和责任感的重要性。随着人工智能的不断发展，从业者需谨慎行事，确保技术增强而非损害司法系统的完整性。