클로드가 법률 인용을 환각한 후 아나토믹의 변호사가 사과

최근 developments에서 Anthropic을 대표하는 변호사는 법적 분쟁 중인 음악 출판사들과의 현재 진행 중인 소송에서 회사의 Claude AI 채팅봇이 생성한 잘못된 인용문을 사용했음을 인정했다. 이 인정은 목요일 북부 캘리포니아 법원에서 이루어진 법원 제출 문서를 통해 나왔다.

Bloomberg이 최초로 보도한 이 제출 문서에서 Anthropic은 Claude가 제목과 저자 정보가 모두 잘못된 인용문을 만들어냈다고 밝혔다. 회사의 변호인들은 이 오류뿐만 아니라 Claude의 "환각"으로 인해 발생한 여러 다른 부정확성도 일상적인 인용문 검증 절차에서 감지되지 못했다고 인정했다.

실수에 대해 사과한 Anthropic은 이 사건을 "권위를 위조한 것이 아닌 진실된 인용문 실수"라고 묘사했다.

이번 주 초, Universal Music Group과 다른 음악 출판사들의 변호인단은 Anthropic의 전문 증인인 직원 천 올리비아(Olivia Chen)가 자신의 증언에서 fabricated된 기사를 참고했다고 주장하며, 이는 allegedly Claude를 사용했다고 한다. 이에 따라 연방 판사 수잔 반 케울렌(Susan van Keulen)은 Anthropic에게 이러한 주장에 대한 답변을 요청했다.

음악 출판사들이 제기한 소송은 저작권持有人과 기술 회사들 간의 콘텐츠의 alleged misuse로 인해 개발된 생성형 AI 도구에 대한 여러 충돌 중 하나이다.

이는 AI가 법적 절차에서 사용된 결과 예상치 못한 결과를 초래한 또 다른 사례다. 이번 주 초 캘리포니아 판사는 자신의 법정에서 "phony AI-generated research"를 제출한 두 로펌을 비판했다. 1월에는 호주 변호사가 court documents를 작성하는 데 ChatGPT를 사용해 flawed citations이 드러났다.

이러한 사건에도 불구하고, 스타트업들은 여전히 법적 프로세스 자동화에 큰 자금을 유치하고 있다. Harvey는 generative AI 모델을 사용하여 변호사들에게 도움을 주는 것으로 알려져 있으며, valuation이 50억 달러를 초과하며 250백만 달러 이상의 자금을 조달하기 위해 협상을 진행 중이다.

Techcrunch event ### TechCrunch Sessions: AI에 참석하세요

OpenAI, Anthropic, Cohere의 연사들과 함께하는 최고의 AI 산업 행사에 자리잡으세요. 제한된 기간 동안 전문가 강연, 워크숍, 그리고 가치 있는 네트워킹 기회를 포함한 하루짜리 행사 티켓은 단 $292입니다.

TechCrunch Sessions: AI에서 전시하세요

TC Sessions: AI에서 자리잡고 1,200명 이상의 의사 결정자를 대상으로 혁신을 선보이세요. 예산을 깨지 않고 참여 가능하며, 5월 9일까지 또는 자리가 소진될 때까지 진행됩니다.

버클리, 캘리포니아 | 6월 5일 등록하세요