법관, 변호사들에게 가짜 AI 연구 비판

판사가 AI 사용 공개 없이 법률 회사를 처벌하다
최근 판결에서 캘리포니아 판사 마이클 윌너는 민사 소송 중 인공지능에 몰래 의존한 두 개의 저명한 로펌에 31,000달러의 무거운 벌금을 부과했다. 윌너 판사에 따르면, 해당 로펌은 “거짓되고 부정확하며 오해를 불러일으키는 법적 인용과 인용문”으로 가득 찬 서면을 제출했다. 법학 교수 에릭 골드먼과 블레이크 리드가 Bluesky에서 보도한 바에 따르면, 판사는 전문직 표준에 대한 무모한 무시에 대해 좌절감을 표출했다.
“내가 읽은 서면을 믿었다,” 윌너 판사는 판결문에 썼다. “그들이 참조한 권위 있는 자료에 설득당했고, 그래서 그 사례들을 직접 더 깊이 조사했다. 하지만 그런 사례들은 존재하지 않았다. 정말 무서웠다. 가짜 정보에 기반한 사법 명령에 서명할 뻔했다.”
법원 문서에 따르면, 문제는 원고의 법률 팀이 추가 서면의 개요를 작성하기 위해 AI 도구를 고용하면서 시작되었다. 그러나 이 개요는 K&L Gates라는 또 다른 관련 로펌에 전달되었을 때 가짜 내용으로 가득 차 있었다. 불행히도, 두 로펌 모두 정보를 제출하기 전에 사실 확인이나 검증을 하지 않았다.
윌너 판사는 “인용된 권위 있는 자료 중 적어도 두 개는 완전히 존재하지 않았다”고 발견했다. 해명을 요구받자, K&L Gates는 서면을 다시 제출했지만, 판사는 더 많은 가짜 참조를 발견했다. 이에 따라 그는 원인 소명 명령을 발부했고, 양측은 선서 하에 진실을 인정했다. 원래 개요를 작성한 변호사는 Google Gemini와 Westlaw Precision with CoCounsel 같은 법률 연구 도구를 사용했다고 고백했다.
오용의 패턴
이것은 변호사들이 AI 오용으로 곤경에 처한 첫 사례가 아니다. 전 트럼프 변호사 마이클 코헨은 Google Gemini(당시 Bard로 알려짐)를 일반 검색 엔진으로 오인해 존재하지 않는 법원 사례를 인용한 적이 있다. 마찬가지로, 콜롬비아의 한 판사는 항공사를 상대로 소송을 제기한 변호사들이 ChatGPT가 생성한 가짜 사례를 서면에 포함시켰다고 밝혔다.
“이 모든 사건은 그야말로 충격적이었다,” 윌너 판사는 결론지었다. “공개 없이 AI에 의존한 초기 결정은 용납될 수 없었다. 의심스러운 출처에 대한 경고 없이 그런 결함 있는 자료를 다른 전문가들에게 보내는 것은 모두를 위험에 빠뜨렸다.”
더 넓은 함의
이 판결은 법률 전문가들 사이에서 AI를 법원 서류에 사용하는 것의 윤리적 함의에 대한 점점 커지는 우려를 강조한다. AI 도구는 효율성과 정확성을 약속하지만, 적절히 검증되지 않으면 잘못된 정보를 퍼뜨릴 위험이 있다. 윌너 판사가 강조했듯이, “합리적으로 유능한 변호사는 출력물을 검증하지 않고 연구나 작성을 알고리즘에 아웃소싱해서는 안 된다.”
이 사건은 법률 실무에서 투명성과 책임의 중요성을 강하게 상기시킨다. AI가 계속 발전함에 따라, 기술이 사법 시스템의 무결성을 훼손하지 않고 향상시킬 수 있도록 실무자들이 신중히 다가가는 것이 여전히 중요하다.
관련 기사
워너 뮤직이 AI 귀속 스타트업 서룰 AI를 인수하다
워너 뮤직 그룹(WMG)은 수요일 Sureel AI라는 인공지능 속성 추적 스타트업을 인수한다고 확인했다. Sureel의 독점 기술은 음악 트랙에 대한 ‘AI DNA’를 생성하며, 이를 구성 요소로 분해하여 AI 모델이 이러한 요소를 어떻게 활용하는지 추적한다.이번 인수를 통해 WMG는 아티스트와 작곡가의 작품이 AI 생성 콘텐츠에서 어떻게 활용되거나 AI 모델 학습에 사용되는지를 모니터링하는 능력을 강화할 계획이다.“Sureel을 WMG에
아마존은 쇼핑용 알렉사를 출시하면서 루푸스를 후순위로 밀어붙이고 있다
아마존은 Alexa for Shopping을 출시하며, Rufus 쇼핑 챗봇과 Alexa+를 앱, 웹사이트 및 Echo Show 기기 전반에 걸쳐 통합했습니다.이 도우미는 제품 문의에 답변하고, 상품을 비교하며, 가격을 추적하고, 쇼핑 알림을 지원합니다. 또한 예약된 쇼핑 작업과 자격이 있는 자동 구매도 처리합니다.회사에 따르면, Alexa for Shopping은 Rufus의 제품 전문성과 Alexa+의 개인화된 도우미 컨텍스트를 결합합니
마이크로소프트, 애저, AI 기술이 캘리포니아 산불 위험에 맞서다
마이크로소프트는 AI 기반 산불 탐지 기술에 투자하고 있으며, CVP 겸 수석 데이터 과학자인 후안 라비스타 페레스가 환경 피해 완화 전략을 논의하고 있다.NASA에 따르면, 기후 변화는 지구상의 모든 사람에게 영향을 미치며, 기온 상승, 강수 패턴의 변화, 해수면 상승 등의 형태로 나타납니다.NASA는 인간 활동이 주된 원인으로 작용하여 지구가 전례 없는
관련 특별 주제 추천
의견 (4)
0/500
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

판사가 AI 사용 공개 없이 법률 회사를 처벌하다
최근 판결에서 캘리포니아 판사 마이클 윌너는 민사 소송 중 인공지능에 몰래 의존한 두 개의 저명한 로펌에 31,000달러의 무거운 벌금을 부과했다. 윌너 판사에 따르면, 해당 로펌은 “거짓되고 부정확하며 오해를 불러일으키는 법적 인용과 인용문”으로 가득 찬 서면을 제출했다. 법학 교수 에릭 골드먼과 블레이크 리드가 Bluesky에서 보도한 바에 따르면, 판사는 전문직 표준에 대한 무모한 무시에 대해 좌절감을 표출했다.
“내가 읽은 서면을 믿었다,” 윌너 판사는 판결문에 썼다. “그들이 참조한 권위 있는 자료에 설득당했고, 그래서 그 사례들을 직접 더 깊이 조사했다. 하지만 그런 사례들은 존재하지 않았다. 정말 무서웠다. 가짜 정보에 기반한 사법 명령에 서명할 뻔했다.”
법원 문서에 따르면, 문제는 원고의 법률 팀이 추가 서면의 개요를 작성하기 위해 AI 도구를 고용하면서 시작되었다. 그러나 이 개요는 K&L Gates라는 또 다른 관련 로펌에 전달되었을 때 가짜 내용으로 가득 차 있었다. 불행히도, 두 로펌 모두 정보를 제출하기 전에 사실 확인이나 검증을 하지 않았다.
윌너 판사는 “인용된 권위 있는 자료 중 적어도 두 개는 완전히 존재하지 않았다”고 발견했다. 해명을 요구받자, K&L Gates는 서면을 다시 제출했지만, 판사는 더 많은 가짜 참조를 발견했다. 이에 따라 그는 원인 소명 명령을 발부했고, 양측은 선서 하에 진실을 인정했다. 원래 개요를 작성한 변호사는 Google Gemini와 Westlaw Precision with CoCounsel 같은 법률 연구 도구를 사용했다고 고백했다.
오용의 패턴
이것은 변호사들이 AI 오용으로 곤경에 처한 첫 사례가 아니다. 전 트럼프 변호사 마이클 코헨은 Google Gemini(당시 Bard로 알려짐)를 일반 검색 엔진으로 오인해 존재하지 않는 법원 사례를 인용한 적이 있다. 마찬가지로, 콜롬비아의 한 판사는 항공사를 상대로 소송을 제기한 변호사들이 ChatGPT가 생성한 가짜 사례를 서면에 포함시켰다고 밝혔다.
“이 모든 사건은 그야말로 충격적이었다,” 윌너 판사는 결론지었다. “공개 없이 AI에 의존한 초기 결정은 용납될 수 없었다. 의심스러운 출처에 대한 경고 없이 그런 결함 있는 자료를 다른 전문가들에게 보내는 것은 모두를 위험에 빠뜨렸다.”
더 넓은 함의
이 판결은 법률 전문가들 사이에서 AI를 법원 서류에 사용하는 것의 윤리적 함의에 대한 점점 커지는 우려를 강조한다. AI 도구는 효율성과 정확성을 약속하지만, 적절히 검증되지 않으면 잘못된 정보를 퍼뜨릴 위험이 있다. 윌너 판사가 강조했듯이, “합리적으로 유능한 변호사는 출력물을 검증하지 않고 연구나 작성을 알고리즘에 아웃소싱해서는 안 된다.”
이 사건은 법률 실무에서 투명성과 책임의 중요성을 강하게 상기시킨다. AI가 계속 발전함에 따라, 기술이 사법 시스템의 무결성을 훼손하지 않고 향상시킬 수 있도록 실무자들이 신중히 다가가는 것이 여전히 중요하다.
워너 뮤직이 AI 귀속 스타트업 서룰 AI를 인수하다
워너 뮤직 그룹(WMG)은 수요일 Sureel AI라는 인공지능 속성 추적 스타트업을 인수한다고 확인했다. Sureel의 독점 기술은 음악 트랙에 대한 ‘AI DNA’를 생성하며, 이를 구성 요소로 분해하여 AI 모델이 이러한 요소를 어떻게 활용하는지 추적한다.이번 인수를 통해 WMG는 아티스트와 작곡가의 작품이 AI 생성 콘텐츠에서 어떻게 활용되거나 AI 모델 학습에 사용되는지를 모니터링하는 능력을 강화할 계획이다.“Sureel을 WMG에
마이크로소프트, 애저, AI 기술이 캘리포니아 산불 위험에 맞서다
마이크로소프트는 AI 기반 산불 탐지 기술에 투자하고 있으며, CVP 겸 수석 데이터 과학자인 후안 라비스타 페레스가 환경 피해 완화 전략을 논의하고 있다.NASA에 따르면, 기후 변화는 지구상의 모든 사람에게 영향을 미치며, 기온 상승, 강수 패턴의 변화, 해수면 상승 등의 형태로 나타납니다.NASA는 인간 활동이 주된 원인으로 작용하여 지구가 전례 없는
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





집






