법관, 변호사들에게 가짜 AI 연구 비판

판사가 AI 사용 공개 없이 법률 회사를 처벌하다

최근 판결에서 캘리포니아 판사 마이클 윌너는 민사 소송 중 인공지능에 몰래 의존한 두 개의 저명한 로펌에 31,000달러의 무거운 벌금을 부과했다. 윌너 판사에 따르면, 해당 로펌은 “거짓되고 부정확하며 오해를 불러일으키는 법적 인용과 인용문”으로 가득 찬 서면을 제출했다. 법학 교수 에릭 골드먼과 블레이크 리드가 Bluesky에서 보도한 바에 따르면, 판사는 전문직 표준에 대한 무모한 무시에 대해 좌절감을 표출했다.

“내가 읽은 서면을 믿었다,” 윌너 판사는 판결문에 썼다. “그들이 참조한 권위 있는 자료에 설득당했고, 그래서 그 사례들을 직접 더 깊이 조사했다. 하지만 그런 사례들은 존재하지 않았다. 정말 무서웠다. 가짜 정보에 기반한 사법 명령에 서명할 뻔했다.”

법원 문서에 따르면, 문제는 원고의 법률 팀이 추가 서면의 개요를 작성하기 위해 AI 도구를 고용하면서 시작되었다. 그러나 이 개요는 K&L Gates라는 또 다른 관련 로펌에 전달되었을 때 가짜 내용으로 가득 차 있었다. 불행히도, 두 로펌 모두 정보를 제출하기 전에 사실 확인이나 검증을 하지 않았다.

윌너 판사는 “인용된 권위 있는 자료 중 적어도 두 개는 완전히 존재하지 않았다”고 발견했다. 해명을 요구받자, K&L Gates는 서면을 다시 제출했지만, 판사는 더 많은 가짜 참조를 발견했다. 이에 따라 그는 원인 소명 명령을 발부했고, 양측은 선서 하에 진실을 인정했다. 원래 개요를 작성한 변호사는 Google Gemini와 Westlaw Precision with CoCounsel 같은 법률 연구 도구를 사용했다고 고백했다.

오용의 패턴

이것은 변호사들이 AI 오용으로 곤경에 처한 첫 사례가 아니다. 전 트럼프 변호사 마이클 코헨은 Google Gemini(당시 Bard로 알려짐)를 일반 검색 엔진으로 오인해 존재하지 않는 법원 사례를 인용한 적이 있다. 마찬가지로, 콜롬비아의 한 판사는 항공사를 상대로 소송을 제기한 변호사들이 ChatGPT가 생성한 가짜 사례를 서면에 포함시켰다고 밝혔다.

“이 모든 사건은 그야말로 충격적이었다,” 윌너 판사는 결론지었다. “공개 없이 AI에 의존한 초기 결정은 용납될 수 없었다. 의심스러운 출처에 대한 경고 없이 그런 결함 있는 자료를 다른 전문가들에게 보내는 것은 모두를 위험에 빠뜨렸다.”

더 넓은 함의

이 판결은 법률 전문가들 사이에서 AI를 법원 서류에 사용하는 것의 윤리적 함의에 대한 점점 커지는 우려를 강조한다. AI 도구는 효율성과 정확성을 약속하지만, 적절히 검증되지 않으면 잘못된 정보를 퍼뜨릴 위험이 있다. 윌너 판사가 강조했듯이, “합리적으로 유능한 변호사는 출력물을 검증하지 않고 연구나 작성을 알고리즘에 아웃소싱해서는 안 된다.”

이 사건은 법률 실무에서 투명성과 책임의 중요성을 강하게 상기시킨다. AI가 계속 발전함에 따라, 기술이 사법 시스템의 무결성을 훼손하지 않고 향상시킬 수 있도록 실무자들이 신중히 다가가는 것이 여전히 중요하다.