클로드가 법률 인용을 환각한 후 아나토믹의 변호사가 사과

최근 Anthropic을 대표하는 변호사가 음악 퍼블리셔와 진행 중인 법적 분쟁에서 회사의 Claude AI 챗봇이 잘못된 인용문을 사용했음을 인정했습니다. 이러한 인정은 목요일 캘리포니아 북부 법정에 제출한 서류를 통해 이루어졌습니다.
블룸버그가 처음 보도한 이 서류에서 앤트로픽은 클라우드가 잘못된 제목과 저자 정보로 인용문을 조작했다고 밝혔습니다. 회사의 변호사들은 일상적인 인용 검사에서 이 오류를 발견하지 못했으며, 클로드의 "환각"으로 인한 몇 가지 다른 부정확성도 발견하지 못했다고 인정했습니다.
이러한 감독 소홀에 대해 사과하면서 Anthropic은 이 사건을 "정직한 인용 실수이지 권위를 조작한 것이 아니다"라고 설명했습니다.
이번 주 초, 유니버설 뮤직 그룹과 다른 음악 퍼블리셔의 변호사들은 Anthropic의 전문 증인인 직원 올리비아 첸이 증언에서 조작된 기사를 언급하며 클라우드를 이용했다고 주장하며 고발했습니다. 이에 따라 수잔 반 큘렌 연방 판사는 이러한 주장에 대해 Anthropic에 답변을 요청했습니다.
음악 퍼블리셔가 제기한 이번 소송은 저작권 소유자와 기술 회사가 생성형 AI 도구 개발을 위해 콘텐츠를 오용했다는 의혹을 둘러싼 여러 갈등의 일환입니다.
이는 법적 소송에서 AI의 사용이 의도하지 않은 결과를 초래한 또 다른 사례입니다. 이번 주 초, 캘리포니아의 한 판사는 두 로펌이 자신의 법정에 '가짜 AI 생성 연구'를 제출했다고 비판했습니다. 1월에는 호주의 한 변호사가 법원 문서 초안 작성에 ChatGPT를 활용하여 잘못된 인용을 초래한 사실이 드러나기도 했습니다.
이러한 사건에도 불구하고 스타트업은 법률 프로세스를 자동화하기 위해 계속해서 상당한 자금을 유치하고 있습니다. 변호사를 지원하기 위해 생성형 AI 모델을 사용하는 Harvey는 50억 달러가 넘는 가치로 2억 5천만 달러 이상의 자금을 확보하기 위해 논의 중인 것으로 알려졌습니다.
테크크런치 이벤트 ### 테크크런치 세션에 참여하세요: AI
OpenAI, Anthropic, Cohere의 연사가 참여하는 최고의 AI 업계 이벤트에 자리를 예약하세요. 한정된 기간 동안 전문가 프레젠테이션, 워크샵, 귀중한 네트워킹 기회를 하루 종일 즐길 수 있는 티켓 가격이 단 $292에 판매됩니다.
테크크런치 세션에 참가하세요: AI
TC 세션에서 전시 부스를 예약하세요: AI에서 전시 부스를 예약하고 1,200명 이상의 의사결정권자에게 큰 비용 부담 없이 혁신을 선보이세요. 5월 9일까지 또는 자리가 소진되는 동안 이용 가능합니다.
캘리포니아 버클리 | 6월 5일 지금 등록하기
관련 기사
앤트로픽, 구글 및 브로드롬과 컴퓨팅 파트너십 확대
AI 연구소 앤트로픽(Anthropic)은 월요일, 자사의 클로드(Claude) AI 모델의 처리 및 연산 능력을 대폭 강화하기 위해 구글 및 브로드컴과 새로운 협약을 체결했다고 발표했다. 이러한 컴퓨팅 파트너십 재편은 앤트로픽의 AI 서비스에 대한 수요가 급속히 증가하는 가운데 이루어졌다.이번 협약을 통해 앤트로픽은 구글 클라우드의 텐서 처리 장치(TPU
사용자들이 이탈하면서 클로드가 ChatGPT를 추격하고 있다
챗GPT와 모회사인 오픈AI를 둘러싼 일련의 논란이 이어지면서, 점점 더 많은 사용자가 클로드로 이동하고 있다.전환점은 클로드의 개발사인 앤트로픽(Anthropic)이 자사의 AI 모델을 광범위한 국내 감시나 완전 자율 무기 개발에 활용하겠다는 미 국방부의 요청을 거절한 이후 발생했다. 이에 대한 보복으로 트럼프 대통령은 모든 연방 기관에 앤트로픽 제품 사
앤트로픽과 미 국방부의 대립이 국가 안보에 미치는 의미
지난 2주간은 군의 AI 기술 도입을 둘러싸고 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO와 피트 헤그셋(Pete Hegseth) 국방장관 간의 공개적 대립이 주를 이뤘다.앤트로픽은 자사의 AI 모델이 미국 시민에 대한 대량 감시나 인간의 승인 없이 공격을 개시하는 완전 자율 무기 시스템에 사용되는 것을 금지하는 정책을 수
관련 특별 주제 추천
의견 (2)
0/500
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

최근 Anthropic을 대표하는 변호사가 음악 퍼블리셔와 진행 중인 법적 분쟁에서 회사의 Claude AI 챗봇이 잘못된 인용문을 사용했음을 인정했습니다. 이러한 인정은 목요일 캘리포니아 북부 법정에 제출한 서류를 통해 이루어졌습니다.
블룸버그가 처음 보도한 이 서류에서 앤트로픽은 클라우드가 잘못된 제목과 저자 정보로 인용문을 조작했다고 밝혔습니다. 회사의 변호사들은 일상적인 인용 검사에서 이 오류를 발견하지 못했으며, 클로드의 "환각"으로 인한 몇 가지 다른 부정확성도 발견하지 못했다고 인정했습니다.
이러한 감독 소홀에 대해 사과하면서 Anthropic은 이 사건을 "정직한 인용 실수이지 권위를 조작한 것이 아니다"라고 설명했습니다.
이번 주 초, 유니버설 뮤직 그룹과 다른 음악 퍼블리셔의 변호사들은 Anthropic의 전문 증인인 직원 올리비아 첸이 증언에서 조작된 기사를 언급하며 클라우드를 이용했다고 주장하며 고발했습니다. 이에 따라 수잔 반 큘렌 연방 판사는 이러한 주장에 대해 Anthropic에 답변을 요청했습니다.
음악 퍼블리셔가 제기한 이번 소송은 저작권 소유자와 기술 회사가 생성형 AI 도구 개발을 위해 콘텐츠를 오용했다는 의혹을 둘러싼 여러 갈등의 일환입니다.
이는 법적 소송에서 AI의 사용이 의도하지 않은 결과를 초래한 또 다른 사례입니다. 이번 주 초, 캘리포니아의 한 판사는 두 로펌이 자신의 법정에 '가짜 AI 생성 연구'를 제출했다고 비판했습니다. 1월에는 호주의 한 변호사가 법원 문서 초안 작성에 ChatGPT를 활용하여 잘못된 인용을 초래한 사실이 드러나기도 했습니다.
이러한 사건에도 불구하고 스타트업은 법률 프로세스를 자동화하기 위해 계속해서 상당한 자금을 유치하고 있습니다. 변호사를 지원하기 위해 생성형 AI 모델을 사용하는 Harvey는 50억 달러가 넘는 가치로 2억 5천만 달러 이상의 자금을 확보하기 위해 논의 중인 것으로 알려졌습니다.
테크크런치 이벤트 ### 테크크런치 세션에 참여하세요: AI
OpenAI, Anthropic, Cohere의 연사가 참여하는 최고의 AI 업계 이벤트에 자리를 예약하세요. 한정된 기간 동안 전문가 프레젠테이션, 워크샵, 귀중한 네트워킹 기회를 하루 종일 즐길 수 있는 티켓 가격이 단 $292에 판매됩니다.
테크크런치 세션에 참가하세요: AI
TC 세션에서 전시 부스를 예약하세요: AI에서 전시 부스를 예약하고 1,200명 이상의 의사결정권자에게 큰 비용 부담 없이 혁신을 선보이세요. 5월 9일까지 또는 자리가 소진되는 동안 이용 가능합니다.
캘리포니아 버클리 | 6월 5일 지금 등록하기
앤트로픽, 구글 및 브로드롬과 컴퓨팅 파트너십 확대
AI 연구소 앤트로픽(Anthropic)은 월요일, 자사의 클로드(Claude) AI 모델의 처리 및 연산 능력을 대폭 강화하기 위해 구글 및 브로드컴과 새로운 협약을 체결했다고 발표했다. 이러한 컴퓨팅 파트너십 재편은 앤트로픽의 AI 서비스에 대한 수요가 급속히 증가하는 가운데 이루어졌다.이번 협약을 통해 앤트로픽은 구글 클라우드의 텐서 처리 장치(TPU
사용자들이 이탈하면서 클로드가 ChatGPT를 추격하고 있다
챗GPT와 모회사인 오픈AI를 둘러싼 일련의 논란이 이어지면서, 점점 더 많은 사용자가 클로드로 이동하고 있다.전환점은 클로드의 개발사인 앤트로픽(Anthropic)이 자사의 AI 모델을 광범위한 국내 감시나 완전 자율 무기 개발에 활용하겠다는 미 국방부의 요청을 거절한 이후 발생했다. 이에 대한 보복으로 트럼프 대통령은 모든 연방 기관에 앤트로픽 제품 사
앤트로픽과 미 국방부의 대립이 국가 안보에 미치는 의미
지난 2주간은 군의 AI 기술 도입을 둘러싸고 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei) CEO와 피트 헤그셋(Pete Hegseth) 국방장관 간의 공개적 대립이 주를 이뤘다.앤트로픽은 자사의 AI 모델이 미국 시민에 대한 대량 감시나 인간의 승인 없이 공격을 개시하는 완전 자율 무기 시스템에 사용되는 것을 금지하는 정책을 수
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





집






