法官抨擊律師提交偽造AI研究

法官因律師事務所未披露使用AI而處以罰款
在最近的一項裁決中,加州法官邁克爾·威尔纳(Michael Wilner)對兩家知名律師事務所處以31,000美元的巨額罰款,原因是他們在民事訴訟中秘密依賴人工智能。根據威尔纳法官的說法,這些事務所提交了一份充滿“虛假、不準確且具有誤導性的法律引證和引用”的訴狀。據法律教授埃里克·戈德曼(Eric Goldman)和布雷克·里德(Blake Reid)在Bluesky上報導,法官對於他認為是對職業標準的魯莽漠視表示沮喪。
“我信任我閱讀的訴狀,”威尔纳法官在裁決中寫道。“我被他們引用的權威說服,因此我深入研究這些案例。但這些案例根本不存在。這太可怕了。我差點根據虛假信息簽署了一份司法命令。”
根據法庭文件,問題始於原告的法律團隊聘請了一款AI工具來為補充訴狀起草大綱。然而,這份大綱在交給另一家參與案件的律師事務所K&L Gates時,充斥著捏造的內容。不幸的是,兩家事務所都沒有在提交前對信息進行事實核查或驗證。
威尔纳法官發現,“至少有兩項引用的權威完全不存在。”在要求澄清時,K&L Gates重新提交了訴狀,但法官發現了更多捏造的參考資料。作為回應,他發出了顯示原因命令,促使雙方在宣誓下承認真相。負責創建原始大綱的律師承認使用了Google Gemini和Westlaw Precision with CoCounsel等法律研究工具。
濫用模式的出現
這並非律師因濫用AI而惹上麻煩的首例。前川普律師邁克爾·科恩(Michael Cohen)曾因誤將Google Gemini(當時稱為Bard)當作普通搜索引擎,而引用了不存在的法庭案例。同樣,哥倫比亞的一名法官發現,起訴一家航空公司的律師在訴狀中引用了由ChatGPT生成的虛假案例。
“整個事件令人震驚,”威尔纳法官總結道。“在未披露的情況下決定依賴AI是不可接受的。將如此有缺陷的材料發送給其他專業人士,卻未警告其來源可疑,這讓所有人都面臨風險。”
更廣泛的影響
這項裁決凸顯了法律專業人士對在法庭文件中使用AI的倫理影響日益增長的擔憂。雖然AI工具承諾提高效率和準確性,但如果未經適當審查,也存在傳播錯誤信息的風險。正如威尔纳法官強調,“任何合理稱職的律師都不應在未驗證其輸出的情況下,將研究或寫作外包給算法。”
此案是一個鮮明的提醒,強調法律實務中透明度和問責制的重要性。隨著AI的不斷發展,對於從業者來說,謹慎行事至關重要,確保技術能夠增強而非損害司法系統的完整性。
相關文章
Google 相片運用人工智慧,讓《窈窕淑女》中那座標誌性的衣櫥栩栩如生
Google Photos 於週三宣布了一項由人工智慧驅動的新功能,這項功能將很快能將您衣物的照片轉化為數位衣櫥,讓您能創造嶄新的穿搭組合,甚至進行虛擬試穿。這個概念顯然是受到電影《窈窕淑女》中 Cher 那座標誌性的虛擬衣櫥啟發,她在片中可以瀏覽眾多服裝組合,同時決定該穿什麼。Google表示,這項功能將運用AI技術,根據您Google相簿圖庫中的衣物,自動建立您的衣櫥數位副本。在應用程式內,您
Notion 將其工作區轉變為人工智慧代理的樞紐
生產力軟體公司 Notion 正邁入「代理時代」。在週三的直播產品發布會上,以協作式筆記應用程式聞名的 Notion 揭曉了一套全新的開發者平台,該平台不僅擴展了其自訂 AI 代理程式的能力,還能與外部代理程式串接,並讓團隊建立自動化多步驟工作流程,從任何資料庫中擷取資料。透過建立一個「協調層」——一個能在多個工具和資料來源之間協調 AI 工作的系統——Notion 將自身定位為不僅僅是一款具備
ElevenLabs 宣布 BlackRock、傑米·福克斯與伊娃·朗格莉亞成為新投資人
語音人工智慧公司 ElevenLabs 已公布其 5 億美元 D 輪融資的更多投資者名單,該輪融資最初於二月宣布。 投資者陣容包括黑石集團(BlackRock)、威靈頓管理(Wellington)、D.E. Shaw及施羅德(Schroders)等機構投資者;NVIDIA、Salesforce、桑坦德銀行(Santander)、KPN及德國電信(Deutsche Telekom)等企業;以及傑米·
相關專題推薦
評論 (4)
0/500
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

法官因律師事務所未披露使用AI而處以罰款
在最近的一項裁決中,加州法官邁克爾·威尔纳(Michael Wilner)對兩家知名律師事務所處以31,000美元的巨額罰款,原因是他們在民事訴訟中秘密依賴人工智能。根據威尔纳法官的說法,這些事務所提交了一份充滿“虛假、不準確且具有誤導性的法律引證和引用”的訴狀。據法律教授埃里克·戈德曼(Eric Goldman)和布雷克·里德(Blake Reid)在Bluesky上報導,法官對於他認為是對職業標準的魯莽漠視表示沮喪。
“我信任我閱讀的訴狀,”威尔纳法官在裁決中寫道。“我被他們引用的權威說服,因此我深入研究這些案例。但這些案例根本不存在。這太可怕了。我差點根據虛假信息簽署了一份司法命令。”
根據法庭文件,問題始於原告的法律團隊聘請了一款AI工具來為補充訴狀起草大綱。然而,這份大綱在交給另一家參與案件的律師事務所K&L Gates時,充斥著捏造的內容。不幸的是,兩家事務所都沒有在提交前對信息進行事實核查或驗證。
威尔纳法官發現,“至少有兩項引用的權威完全不存在。”在要求澄清時,K&L Gates重新提交了訴狀,但法官發現了更多捏造的參考資料。作為回應,他發出了顯示原因命令,促使雙方在宣誓下承認真相。負責創建原始大綱的律師承認使用了Google Gemini和Westlaw Precision with CoCounsel等法律研究工具。
濫用模式的出現
這並非律師因濫用AI而惹上麻煩的首例。前川普律師邁克爾·科恩(Michael Cohen)曾因誤將Google Gemini(當時稱為Bard)當作普通搜索引擎,而引用了不存在的法庭案例。同樣,哥倫比亞的一名法官發現,起訴一家航空公司的律師在訴狀中引用了由ChatGPT生成的虛假案例。
“整個事件令人震驚,”威尔纳法官總結道。“在未披露的情況下決定依賴AI是不可接受的。將如此有缺陷的材料發送給其他專業人士,卻未警告其來源可疑,這讓所有人都面臨風險。”
更廣泛的影響
這項裁決凸顯了法律專業人士對在法庭文件中使用AI的倫理影響日益增長的擔憂。雖然AI工具承諾提高效率和準確性,但如果未經適當審查,也存在傳播錯誤信息的風險。正如威尔纳法官強調,“任何合理稱職的律師都不應在未驗證其輸出的情況下,將研究或寫作外包給算法。”
此案是一個鮮明的提醒,強調法律實務中透明度和問責制的重要性。隨著AI的不斷發展,對於從業者來說,謹慎行事至關重要,確保技術能夠增強而非損害司法系統的完整性。
Google 相片運用人工智慧,讓《窈窕淑女》中那座標誌性的衣櫥栩栩如生
Google Photos 於週三宣布了一項由人工智慧驅動的新功能,這項功能將很快能將您衣物的照片轉化為數位衣櫥,讓您能創造嶄新的穿搭組合,甚至進行虛擬試穿。這個概念顯然是受到電影《窈窕淑女》中 Cher 那座標誌性的虛擬衣櫥啟發,她在片中可以瀏覽眾多服裝組合,同時決定該穿什麼。Google表示,這項功能將運用AI技術,根據您Google相簿圖庫中的衣物,自動建立您的衣櫥數位副本。在應用程式內,您
Notion 將其工作區轉變為人工智慧代理的樞紐
生產力軟體公司 Notion 正邁入「代理時代」。在週三的直播產品發布會上,以協作式筆記應用程式聞名的 Notion 揭曉了一套全新的開發者平台,該平台不僅擴展了其自訂 AI 代理程式的能力,還能與外部代理程式串接,並讓團隊建立自動化多步驟工作流程,從任何資料庫中擷取資料。透過建立一個「協調層」——一個能在多個工具和資料來源之間協調 AI 工作的系統——Notion 將自身定位為不僅僅是一款具備
ElevenLabs 宣布 BlackRock、傑米·福克斯與伊娃·朗格莉亞成為新投資人
語音人工智慧公司 ElevenLabs 已公布其 5 億美元 D 輪融資的更多投資者名單,該輪融資最初於二月宣布。 投資者陣容包括黑石集團(BlackRock)、威靈頓管理(Wellington)、D.E. Shaw及施羅德(Schroders)等機構投資者;NVIDIA、Salesforce、桑坦德銀行(Santander)、KPN及德國電信(Deutsche Telekom)等企業;以及傑米·
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





首頁






