裁判官、弁護士たちの偽のAI研究成果に苦言

法律事務所がAIの使用を明かさずに利用したことに対する判事の罰金

最近の判決において、カリフォルニア州のウィルナー判事は、民事訴訟中に人工知能に頼りながらもその事実を隠していた2つの著名な法律事務所に総額3万1千ドルの罰金を科しました。ウィルナー判事によると、これらの事務所は「偽造、誤った、または誤解を招く法的引用や引用文」が詰まった意見書を提出しました。ブルースカイでの報告によると、ゴールドマン教授とレイブ教授は判事が専門家としての基準を軽視したことを不満に感じていると述べています。「私は提出された意見書を信頼していました」とウィルナー判事は判決の中で記しています。「彼らが言及した権威に納得し、自分でその判例を詳しく調査しましたが、存在しないことがわかりました。これは恐ろしい出来事でした。私は偽の情報を基に司法命令に署名しようとしたのです。」裁判所の文書によると、問題は原告の弁護団が補足意見書のアウトラインを作成するためにAIツールを雇用した際に始まりました。しかし、これがK＆Lゲイツ（別の関係する法律事務所）に引き渡される際には、捏造された内容が含まれており、両方の事務所とも提出前に確認や検証を行いませんでした。ウィルナー判事は、「少なくとも2つの引用がまったく存在しなかった」と発見しました。さらに説明を求められた際、K＆Lゲイツは意見書を再提出しましたが、判事はさらに多くの捏造された参照が存在することを突き止めました。これに対し、彼は「説明を求め命令」を発出し、双方に誓って真実を認めさせました。オリジナルのアウトラインを作成した弁護士は、Google GeminiやWestlaw Precision with CoCounselなどの法律研究ツールを使用していたことを認めたのです。

誤用のパターン

これがAIの誤用で問題になった最初の事例ではありません。元トランプ弁護士のマイケル・コーエンは、Google Geminiを通常の検索エンジンと誤って扱った結果、存在しない裁判所の判例を引用しました。同様に、コロンビアの判事は、航空会社を訴えた弁護士たちがChatGPTによって生成された架空の事件を意見書に散りばめていたことを発見しました。「この一連の出来事はまったく驚異的だった」とウィルナー判事は結論づけました。「AIを明かさずに依存した最初の決定は許容できないものでした。その疑わしい出所について警告なしに他の専門家に誤った資料を送ることは、誰もがリスクにさらされることになります。」

広範な影響

この判決は、裁判所提出物におけるAI使用に関する倫理的な懸念を浮き彫りにしています。AIツールは効率と正確性を約束しますが、適切に検証されていない場合、誤情報を広めることにもなります。ウィルナー判事は強調しました。「どんなに能力のある弁護士でも、その出力を確認せずにアルゴリズムに調査や執筆を委ねるべきではありません。」この事件は、法務実務における透明性と責任の重要性を改めて思い起こさせるものでした。AIが進化を続ける中で、専門家たちは慎重に進むべきであり、技術が法制度の誠実性を損なうのではなく、それを強化することが重要です。