法官抨擊律師提交偽造AI研究

法官因律師事務所未披露使用AI而處以罰款

在最近的一項裁決中，加州法官邁克爾·威尔纳（Michael Wilner）對兩家知名律師事務所處以31,000美元的巨額罰款，原因是他們在民事訴訟中秘密依賴人工智能。根據威尔纳法官的說法，這些事務所提交了一份充滿“虛假、不準確且具有誤導性的法律引證和引用”的訴狀。據法律教授埃里克·戈德曼（Eric Goldman）和布雷克·里德（Blake Reid）在Bluesky上報導，法官對於他認為是對職業標準的魯莽漠視表示沮喪。

“我信任我閱讀的訴狀，”威尔纳法官在裁決中寫道。“我被他們引用的權威說服，因此我深入研究這些案例。但這些案例根本不存在。這太可怕了。我差點根據虛假信息簽署了一份司法命令。”

根據法庭文件，問題始於原告的法律團隊聘請了一款AI工具來為補充訴狀起草大綱。然而，這份大綱在交給另一家參與案件的律師事務所K&L Gates時，充斥著捏造的內容。不幸的是，兩家事務所都沒有在提交前對信息進行事實核查或驗證。

威尔纳法官發現，“至少有兩項引用的權威完全不存在。”在要求澄清時，K&L Gates重新提交了訴狀，但法官發現了更多捏造的參考資料。作為回應，他發出了顯示原因命令，促使雙方在宣誓下承認真相。負責創建原始大綱的律師承認使用了Google Gemini和Westlaw Precision with CoCounsel等法律研究工具。

濫用模式的出現

這並非律師因濫用AI而惹上麻煩的首例。前川普律師邁克爾·科恩（Michael Cohen）曾因誤將Google Gemini（當時稱為Bard）當作普通搜索引擎，而引用了不存在的法庭案例。同樣，哥倫比亞的一名法官發現，起訴一家航空公司的律師在訴狀中引用了由ChatGPT生成的虛假案例。

“整個事件令人震驚，”威尔纳法官總結道。“在未披露的情況下決定依賴AI是不可接受的。將如此有缺陷的材料發送給其他專業人士，卻未警告其來源可疑，這讓所有人都面臨風險。”

更廣泛的影響

這項裁決凸顯了法律專業人士對在法庭文件中使用AI的倫理影響日益增長的擔憂。雖然AI工具承諾提高效率和準確性，但如果未經適當審查，也存在傳播錯誤信息的風險。正如威尔纳法官強調，“任何合理稱職的律師都不應在未驗證其輸出的情況下，將研究或寫作外包給算法。”

此案是一個鮮明的提醒，強調法律實務中透明度和問責制的重要性。隨著AI的不斷發展，對於從業者來說，謹慎行事至關重要，確保技術能夠增強而非損害司法系統的完整性。