裁判官、弁護士たちの偽のAI研究成果に苦言

裁判官がAI使用の非開示で法律事務所に罰金を課す

最近の判決で、カリフォルニア州のマイケル・ウィルナー裁判官は、民事訴訟中に人工知能を秘密裏に使用したとして、2つの著名な法律事務所に31,000ドルの高額な罰金を課した。ウィルナー裁判官によると、これらの事務所は「虚偽、不正確、誤解を招く法的引用と引用文」で満たされた書面を提出した。法律学者のエリック・ゴールドマンとブレイク・リードがBlueskyで報告したところによると、裁判官は職業基準に対する無謀な無視とみなしたことに対して不満を表明した。

「私が読んだ書面を信頼していました」とウィルナー裁判官は判決文に書いている。「彼らが参照した権威に納得し、自身でそれらの事例を詳しく調べました。しかし、それらは存在しませんでした。恐ろしいことでした。偽の情報に基づく司法命令に署名するところでした。」

裁判所文書によると、問題は原告の法律チームが補足書面の概要を作成するためにAIツールを雇ったことから始まった。しかし、この概要は、事件に関与するもう一つの法律事務所であるK&Lゲーツに引き渡された際、捏造された内容で溢れていた。残念ながら、どちらの事務所も情報を提出前に事実確認や検証を行わなかった。

ウィルナー裁判官は、「引用された権威の少なくとも2つが完全に存在しなかった」ことを発見した。明確化を求められたK&Lゲーツは書面を再提出したが、裁判官はさらに多くの捏造された参照を発見した。これに応じて、彼は原因を示す命令を発行し、両者が宣誓の下で真実を認めるよう促した。元の概要を作成した弁護士は、Google GeminiやWestlaw Precision with CoCounselなどの法的調査ツールを使用したことを認めた。

誤用のパターン

AIの誤用で弁護士が問題に巻き込まれるのはこれが初めてではない。元トランプ弁護士のマイケル・コーエンは、Google Gemini（当時はBardとして知られていた）を通常の検索エンジンと誤って扱い、存在しない裁判例を引用したことがある。同様に、コロンビアの裁判官は、航空会社を訴えた弁護士がChatGPTによって生成された偽の事例を書面に散りばめていたことを発見した。

「この一連の出来事は、まったくもって驚くべきものでした」とウィルナー裁判官は結論付けた。「AIに依存する最初の決定を非開示で行ったことは受け入れられません。そのような欠陥のある資料を、問題のある起源について警告せずに他の専門家に送ることは、すべての人を危険にさらしました。」

より広い影響

この判決は、裁判書類におけるAI使用の倫理的影響について、法律専門家の間で高まる懸念を浮き彫りにしている。AIツールは効率性と正確性を約束するが、適切に検証されなければ誤情報を広めるリスクも伴う。ウィルナー裁判官が強調したように、「合理的に有能な弁護士は、その出力を検証せずに研究や執筆をアルゴリズムにアウトソーシングすべきではありません。」

この事件は、法律実務における透明性と責任の重要性を強く思い出させる。AIが進化し続ける中、技術が司法制度の誠実さを損なうことなく強化することを保証するために、慎重に行動することが重要である。