클로드가 법률 인용을 환각한 후 아나토믹의 변호사가 사과

최근 Anthropic을 대표하는 변호사가 음악 퍼블리셔와 진행 중인 법적 분쟁에서 회사의 Claude AI 챗봇이 잘못된 인용문을 사용했음을 인정했습니다. 이러한 인정은 목요일 캘리포니아 북부 법정에 제출한 서류를 통해 이루어졌습니다.

블룸버그가 처음 보도한 이 서류에서 앤트로픽은 클라우드가 잘못된 제목과 저자 정보로 인용문을 조작했다고 밝혔습니다. 회사의 변호사들은 일상적인 인용 검사에서 이 오류를 발견하지 못했으며, 클로드의 "환각"으로 인한 몇 가지 다른 부정확성도 발견하지 못했다고 인정했습니다.

이러한 감독 소홀에 대해 사과하면서 Anthropic은 이 사건을 "정직한 인용 실수이지 권위를 조작한 것이 아니다"라고 설명했습니다.

이번 주 초, 유니버설 뮤직 그룹과 다른 음악 퍼블리셔의 변호사들은 Anthropic의 전문 증인인 직원 올리비아 첸이 증언에서 조작된 기사를 언급하며 클라우드를 이용했다고 주장하며 고발했습니다. 이에 따라 수잔 반 큘렌 연방 판사는 이러한 주장에 대해 Anthropic에 답변을 요청했습니다.

음악 퍼블리셔가 제기한 이번 소송은 저작권 소유자와 기술 회사가 생성형 AI 도구 개발을 위해 콘텐츠를 오용했다는 의혹을 둘러싼 여러 갈등의 일환입니다.

이는 법적 소송에서 AI의 사용이 의도하지 않은 결과를 초래한 또 다른 사례입니다. 이번 주 초, 캘리포니아의 한 판사는 두 로펌이 자신의 법정에 '가짜 AI 생성 연구'를 제출했다고 비판했습니다. 1월에는 호주의 한 변호사가 법원 문서 초안 작성에 ChatGPT를 활용하여 잘못된 인용을 초래한 사실이 드러나기도 했습니다.

이러한 사건에도 불구하고 스타트업은 법률 프로세스를 자동화하기 위해 계속해서 상당한 자금을 유치하고 있습니다. 변호사를 지원하기 위해 생성형 AI 모델을 사용하는 Harvey는 50억 달러가 넘는 가치로 2억 5천만 달러 이상의 자금을 확보하기 위해 논의 중인 것으로 알려졌습니다.

테크크런치 이벤트 ### 테크크런치 세션에 참여하세요: AI

OpenAI, Anthropic, Cohere의 연사가 참여하는 최고의 AI 업계 이벤트에 자리를 예약하세요. 한정된 기간 동안 전문가 프레젠테이션, 워크샵, 귀중한 네트워킹 기회를 하루 종일 즐길 수 있는 티켓 가격이 단 $292에 판매됩니다.

테크크런치 세션에 참가하세요: AI

TC 세션에서 전시 부스를 예약하세요: AI에서 전시 부스를 예약하고 1,200명 이상의 의사결정권자에게 큰 비용 부담 없이 혁신을 선보이세요. 5월 9일까지 또는 자리가 소진되는 동안 이용 가능합니다.

캘리포니아 버클리 | 6월 5일 지금 등록하기