법관, 변호사들에게 가짜 AI 연구 비판

법원, AI 사용 시 고지 의무 위반한律师事务所에 벌금 부과

최근 캘리포니아 주 마이클 윌너 판사는 두 명의 대형 로펌에게 민사 소송 중 인공지능(AI)을 비밀리에 사용했다며 3만1천 달러의 벌금을 부과했다. 윌너 판사는 이 로펌들이 제출한 의견서가 "거짓, 부정확하고 오도하는 법적 인용문과 인용구"로 가득 차 있다고 지적했다. 블루스카이에서 보고된 바에 따르면, 이에 대해 에릭 골드만 교수와 블레이크 레이드 교수가 표현한 우려와 같이, 윌너 판사는 전문가로서의 기준을 무시한 무책임한 행동에 대해 실망감을 나타냈다. "나는 읽었던 의견서를 신뢰했다"라고 윌너 판사는 판결문에서 썼다. "그들이 인용한 권위들에 의해 설득되었고, 나도 직접 그 사건들을 조사하려 노력했지만 그것들은 존재하지 않았다. 놀랍게도, 나는 가짜 정보에 근거한 판결 명령에 서명할 뻔했다." 법원 문서에 따르면 문제가 발생한 것은 원고 측 법률팀이 보충 의견서를 작성하기 위해 AI 도구를 고용하면서 시작되었다. 그러나 이 개요는 K&L 게이츠라는 다른 로펌에 전달되었을 당시 조작된 내용으로 가득 차 있었다. 안타깝게도 양측 모두 제출 전 사실 확인이나 검증을 하지 않았다. 윌너 판사는 "인용된 권위 중 최소 두 가지는 전혀 존재하지 않았다"고 발견했다. 추가 확인 요청 시, K&L 게이츠는 의견서를 다시 제출했으나, 판사가 더 많은 조작된 참조를 발견하게 되었다. 이에 대해 그는 주장을 이유로 명령을 내렸으며, 양측이 서약 아래 진실을 인정하도록 요구했다. 원래 개요를 작성한 변호사는 구글 젬마와 웨스트로우 프리시전 및 코큐언스와 같은 법률 연구 도구를 사용했다고 고백했다. AI 사용의 패턴

이것은 처음으로 변호사들이 AI를 잘못 사용해 화를 입은 사례는 아니다. 트럼프 전 대통령의 변호사를 지낸 마이클 코헨은 구글 젬마(당시 바드로 알려져 있던)를 일반 검색 엔진으로 잘못 처리한 후 존재하지 않는 법원 사건을 인용했다. 마찬가지로 콜롬비아의 한 판사는 항공사에 소송을 제기한 변호사들이 의견서에 채팅GPT로 생성된 가짜 사건들을 섞어 넣었다고 밝혔다. "이 모든 사건은 심히 우려스럽다"고 윌너 판사는 결론지었다. "첫 번째 결정으로 AI를 사용하면서 고지를 하지 않은 것은 용납될 수 없다. 이러한 결함이 있는 자료를 다른 전문가들에게 보내면서 그 출처가 의심스럽다는 경고를 하지 않은 것은 모든 사람에게 위험을 초래했다." 법적으로 미치는 광범위한 영향

이 판결은 법률 전문가들 사이에서 법원 제출 시 AI 사용의 윤리적 함의에 대한 점점 더 큰 우려를 강조한다. AI 도구는 효율성과 정확성을 약속하지만, 검증되지 않으면 오도된 정보를 퍼뜨릴 위험이 있다. 윌너 판사는 "적절히 검증되지 않은 알고리즘의 연구 또는 글쓰기를 아웃소싱하는 변호사는 누구나 아니어야 한다"고 강조했다. 이 사건은 법률 실무에서 투명성과 책임성이 얼마나 중요한지를 상기시키는 강력한 사례이다. AI가 계속 발전함에 따라, 실무자들이 기술이 법 체계의 무결성을 저해하지 않고 강화되도록 주의 깊게 다뤄야 한다는 것이 중요하다.