영국 법원, AI가 생성한 가짜 인용문을 제출한 변호사에게 엄중한 처벌 경고

잉글랜드 및 웨일즈 고등법원은 법률 업무에서 인공지능의 오용을 방지해야 할 법조계의 책임을 강조하는 획기적인 판결을 발표했습니다. 빅토리아 샤프 판사의 판결은 최근 인공지능이 생성한 콘텐츠가 법원에 오해를 불러일으킨 두 가지 사례를 다루었습니다.
AI 신뢰성 문제
샤프 판사는 "ChatGPT와 같은 생성형 AI 도구는 신뢰할 수 있는 법률 조사를 수행할 수 없습니다."라고 분명하게 말했습니다. 그녀는 이러한 기술이 권위 있어 보이지만 심각한 사실 오류가 포함된 일관된 답변을 생성할 수 있다고 설명했습니다. "이 시스템은 명백히 거짓임이 드러나는 자신감 넘치는 주장을 하는 경우가 많습니다."라고 그녀는 지적했습니다.
여전히 남아있는 전문가의 의무
이 판결은 AI의 지원을 전면적으로 금지하지는 않지만, 변호사가 반드시 지켜야 할 의무를 규정하고 있습니다:
- 모든 AI가 생성한 연구를 권위 있는 출처와 대조하여 검증할 것
- 제출 전에 정확성 보장
- 사용된 기술에 관계없이 전문적인 표준 유지
위험성을 강조하는 사례 예시
한 손해배상 청구 소송에서는 45건의 인용 사례 중 18건이 존재하지 않는 것으로 판명되었고, 다른 사례에서는 잘못된 인용과 관련 없는 내용이 포함되어 있었습니다. 또 다른 사건에서는 퇴거 사건과 관련하여 5건의 조작된 인용문이 제출되었는데, 변호인은 AI의 직접적인 사용을 부인하면서 AI가 강화된 검색 요약을 통해 간접적으로 소싱했을 가능성을 시사했습니다.
규제 대응 시작
샤프 판사는 판결문을 다음과 같은 법률 관리 기관에 전달했습니다:
- 변호사 위원회
- 법률 협회
그녀의 판결은 "이러한 직업적 기준을 충족하지 못하면 대중의 비난부터 잠재적인 형사 회부까지 심각한 결과를 초래할 수 있다"는 것을 공식적으로 알리는 역할을 합니다. 관련 변호사들은 모두 규제 당국의 심사를 받게 됩니다.
법률 전문가에 대한 경고
이번 판결은 법원이 이 사건에서 모독 소송에 대해 자제력을 발휘했지만, 향후 AI 오용과 관련된 사건에 대해 "선례가 될 수 없다"는 점을 명확히 했습니다. 변호사들은 절차적 안전장치가 기술적 능력과 함께 적응해야 한다고 경고합니다.
이번 판결은 법률 서비스 전반에 걸쳐 AI 도입이 증가하는 가운데 나온 것으로, 전문 업무에서 기술의 진화하는 역할을 인정하는 동시에 명확한 보호 장치를 마련한 것입니다.
관련 기사
안트로픽의 수익이 급증하며 시가총액이 천억 달러에 근접했습니다.
보고서에 따르면, 앤θ로픽은 불과 몇 달 만에 상당한 수익 성장을 이루었습니다. 이 회사의 연간 수익은 현재 300억 달러를 초과하며, 이는 지난해 말보다 세 배 이상 증가한 수치입니다. 이러한 성장 덕분에 앤θ로픽은 오픈AI에 비해 약간의 우위를 가질 수 있지만, 직접적인 비교는 쉽지 않습니다. 주요 성장 요인으로는 클로드 코드와 카우워크 제품, 그리고 추론 모델의 토큰 판매량 증가가 꼽힙니다.더 주목할 만한 점은 앤θ로픽의 이익률이 크게
애플, 무단 인앱 구매 및 부당한 결제 방식으로 인해 Cal AI 앱을 삭제함
애플이 최근 MyFitnessPal 내에서 인기 있는 AI 기반 식단 추적 앱인 Cal AI를 삭제한 것은, 외부 결제 및 구독에 대한 앱 스토어 정책을 엄격히 집행하고 있음을 보여줍니다. 이 앱은 매년 5,000만 달러의 반복 수익을 창출하고 있었지만, 여러 개발자 가이드라인을 위반하여 일시적으로 삭제되었다가 문제를 해결한 후 다시 복원되었습니다.보도에 따르면, 에픽 게임스와 애플 간의 소송에서 미국 개발자들이 외부 결제 시스템을 연동할 수
Github Copilot의 토큰 기반 결제 방식이 개발자들의 분노를 불러일으키고 있습니다.
마이크로소프트의 GitHub Copilot의 황금기가 끝나고 있는 것으로 보입니다. 특히 개인 사용자들에게는 더욱 그렇습니다. 마이크로소프트는 고정된 구독료 모델에서 토큰 기반의 결제 모델로 전환하고 있으며, 이로 인해 비용이 상당히 증가할 수 있습니다. 대기업들은 아마도 이 변화를 감당할 수 있겠지만, 소규모 기업이나 프리랜서들에게는 새로운 요금 체계가 월간 예산에 큰 부담을 줄 수 있습니다.이러한 변화는 6월 1일부터 시행되며, 이제 사용
관련 특별 주제 추천
의견 (2)
0/500
애초에 변호사가 위조 인용문을 제출하리라고는 생각도 못 했는데, 인공지능이 이런 문제까지 일으키다니 정말... 혁신을 쫓는 것도 중요하지만, 업무 윤리와 법률적 책임을 망각하면 안 될 것 같아요😅 특히 법률 영역이라면 더 말할 필요도 없고요. 앞으로 이런 판례가 더 많아지겠네요.

잉글랜드 및 웨일즈 고등법원은 법률 업무에서 인공지능의 오용을 방지해야 할 법조계의 책임을 강조하는 획기적인 판결을 발표했습니다. 빅토리아 샤프 판사의 판결은 최근 인공지능이 생성한 콘텐츠가 법원에 오해를 불러일으킨 두 가지 사례를 다루었습니다.
AI 신뢰성 문제
샤프 판사는 "ChatGPT와 같은 생성형 AI 도구는 신뢰할 수 있는 법률 조사를 수행할 수 없습니다."라고 분명하게 말했습니다. 그녀는 이러한 기술이 권위 있어 보이지만 심각한 사실 오류가 포함된 일관된 답변을 생성할 수 있다고 설명했습니다. "이 시스템은 명백히 거짓임이 드러나는 자신감 넘치는 주장을 하는 경우가 많습니다."라고 그녀는 지적했습니다.
여전히 남아있는 전문가의 의무
이 판결은 AI의 지원을 전면적으로 금지하지는 않지만, 변호사가 반드시 지켜야 할 의무를 규정하고 있습니다:
- 모든 AI가 생성한 연구를 권위 있는 출처와 대조하여 검증할 것
- 제출 전에 정확성 보장
- 사용된 기술에 관계없이 전문적인 표준 유지
위험성을 강조하는 사례 예시
한 손해배상 청구 소송에서는 45건의 인용 사례 중 18건이 존재하지 않는 것으로 판명되었고, 다른 사례에서는 잘못된 인용과 관련 없는 내용이 포함되어 있었습니다. 또 다른 사건에서는 퇴거 사건과 관련하여 5건의 조작된 인용문이 제출되었는데, 변호인은 AI의 직접적인 사용을 부인하면서 AI가 강화된 검색 요약을 통해 간접적으로 소싱했을 가능성을 시사했습니다.
규제 대응 시작
샤프 판사는 판결문을 다음과 같은 법률 관리 기관에 전달했습니다:
- 변호사 위원회
- 법률 협회
그녀의 판결은 "이러한 직업적 기준을 충족하지 못하면 대중의 비난부터 잠재적인 형사 회부까지 심각한 결과를 초래할 수 있다"는 것을 공식적으로 알리는 역할을 합니다. 관련 변호사들은 모두 규제 당국의 심사를 받게 됩니다.
법률 전문가에 대한 경고
이번 판결은 법원이 이 사건에서 모독 소송에 대해 자제력을 발휘했지만, 향후 AI 오용과 관련된 사건에 대해 "선례가 될 수 없다"는 점을 명확히 했습니다. 변호사들은 절차적 안전장치가 기술적 능력과 함께 적응해야 한다고 경고합니다.
이번 판결은 법률 서비스 전반에 걸쳐 AI 도입이 증가하는 가운데 나온 것으로, 전문 업무에서 기술의 진화하는 역할을 인정하는 동시에 명확한 보호 장치를 마련한 것입니다.
안트로픽의 수익이 급증하며 시가총액이 천억 달러에 근접했습니다.
보고서에 따르면, 앤θ로픽은 불과 몇 달 만에 상당한 수익 성장을 이루었습니다. 이 회사의 연간 수익은 현재 300억 달러를 초과하며, 이는 지난해 말보다 세 배 이상 증가한 수치입니다. 이러한 성장 덕분에 앤θ로픽은 오픈AI에 비해 약간의 우위를 가질 수 있지만, 직접적인 비교는 쉽지 않습니다. 주요 성장 요인으로는 클로드 코드와 카우워크 제품, 그리고 추론 모델의 토큰 판매량 증가가 꼽힙니다.더 주목할 만한 점은 앤θ로픽의 이익률이 크게
애플, 무단 인앱 구매 및 부당한 결제 방식으로 인해 Cal AI 앱을 삭제함
애플이 최근 MyFitnessPal 내에서 인기 있는 AI 기반 식단 추적 앱인 Cal AI를 삭제한 것은, 외부 결제 및 구독에 대한 앱 스토어 정책을 엄격히 집행하고 있음을 보여줍니다. 이 앱은 매년 5,000만 달러의 반복 수익을 창출하고 있었지만, 여러 개발자 가이드라인을 위반하여 일시적으로 삭제되었다가 문제를 해결한 후 다시 복원되었습니다.보도에 따르면, 에픽 게임스와 애플 간의 소송에서 미국 개발자들이 외부 결제 시스템을 연동할 수
Github Copilot의 토큰 기반 결제 방식이 개발자들의 분노를 불러일으키고 있습니다.
마이크로소프트의 GitHub Copilot의 황금기가 끝나고 있는 것으로 보입니다. 특히 개인 사용자들에게는 더욱 그렇습니다. 마이크로소프트는 고정된 구독료 모델에서 토큰 기반의 결제 모델로 전환하고 있으며, 이로 인해 비용이 상당히 증가할 수 있습니다. 대기업들은 아마도 이 변화를 감당할 수 있겠지만, 소규모 기업이나 프리랜서들에게는 새로운 요금 체계가 월간 예산에 큰 부담을 줄 수 있습니다.이러한 변화는 6월 1일부터 시행되며, 이제 사용
애초에 변호사가 위조 인용문을 제출하리라고는 생각도 못 했는데, 인공지능이 이런 문제까지 일으키다니 정말... 혁신을 쫓는 것도 중요하지만, 업무 윤리와 법률적 책임을 망각하면 안 될 것 같아요😅 특히 법률 영역이라면 더 말할 필요도 없고요. 앞으로 이런 판례가 더 많아지겠네요.





집






