클로드가 법률 인용을 환각한 후 아나토믹의 변호사가 사과

최근 Anthropic을 대표하는 변호사가 음악 퍼블리셔와 진행 중인 법적 분쟁에서 회사의 Claude AI 챗봇이 잘못된 인용문을 사용했음을 인정했습니다. 이러한 인정은 목요일 캘리포니아 북부 법정에 제출한 서류를 통해 이루어졌습니다.
블룸버그가 처음 보도한 이 서류에서 앤트로픽은 클라우드가 잘못된 제목과 저자 정보로 인용문을 조작했다고 밝혔습니다. 회사의 변호사들은 일상적인 인용 검사에서 이 오류를 발견하지 못했으며, 클로드의 "환각"으로 인한 몇 가지 다른 부정확성도 발견하지 못했다고 인정했습니다.
이러한 감독 소홀에 대해 사과하면서 Anthropic은 이 사건을 "정직한 인용 실수이지 권위를 조작한 것이 아니다"라고 설명했습니다.
이번 주 초, 유니버설 뮤직 그룹과 다른 음악 퍼블리셔의 변호사들은 Anthropic의 전문 증인인 직원 올리비아 첸이 증언에서 조작된 기사를 언급하며 클라우드를 이용했다고 주장하며 고발했습니다. 이에 따라 수잔 반 큘렌 연방 판사는 이러한 주장에 대해 Anthropic에 답변을 요청했습니다.
음악 퍼블리셔가 제기한 이번 소송은 저작권 소유자와 기술 회사가 생성형 AI 도구 개발을 위해 콘텐츠를 오용했다는 의혹을 둘러싼 여러 갈등의 일환입니다.
이는 법적 소송에서 AI의 사용이 의도하지 않은 결과를 초래한 또 다른 사례입니다. 이번 주 초, 캘리포니아의 한 판사는 두 로펌이 자신의 법정에 '가짜 AI 생성 연구'를 제출했다고 비판했습니다. 1월에는 호주의 한 변호사가 법원 문서 초안 작성에 ChatGPT를 활용하여 잘못된 인용을 초래한 사실이 드러나기도 했습니다.
이러한 사건에도 불구하고 스타트업은 법률 프로세스를 자동화하기 위해 계속해서 상당한 자금을 유치하고 있습니다. 변호사를 지원하기 위해 생성형 AI 모델을 사용하는 Harvey는 50억 달러가 넘는 가치로 2억 5천만 달러 이상의 자금을 확보하기 위해 논의 중인 것으로 알려졌습니다.
테크크런치 이벤트 ### 테크크런치 세션에 참여하세요: AI
OpenAI, Anthropic, Cohere의 연사가 참여하는 최고의 AI 업계 이벤트에 자리를 예약하세요. 한정된 기간 동안 전문가 프레젠테이션, 워크샵, 귀중한 네트워킹 기회를 하루 종일 즐길 수 있는 티켓 가격이 단 $292에 판매됩니다.
테크크런치 세션에 참가하세요: AI
TC 세션에서 전시 부스를 예약하세요: AI에서 전시 부스를 예약하고 1,200명 이상의 의사결정권자에게 큰 비용 부담 없이 혁신을 선보이세요. 5월 9일까지 또는 자리가 소진되는 동안 이용 가능합니다.
캘리포니아 버클리 | 6월 5일 지금 등록하기
관련 기사
Anthropic, 새로운 동적 워크플로우 도구를 탑재한 Opus 4.8 출시
앤트로픽은 목요일, 자사의 주력 공개 모델인 ‘오푸스(Opus)’의 최신 버전인 4.8을 공개했다. 이전 버전과 가격이 동일한 이번 업데이트는 이제 모든 플랫폼에서 이용할 수 있다.Opus 4.7 출시 불과 41일 만에 Opus 4.8을 공개한 Anthropic은 개발 주기를 대폭 단축했으며, 이는 최근 Sonnet 및 Haiku 출시 시 보였던 3개월 및
Anthropic, Mythos의 공개 버전인 ‘Claude Fable 5’를 선보였다
앤트로픽(Anthropic)이 자사의 가장 강력한 AI 모델을 처음으로 일반 대중에게 공개했으나, 안전 조치를 마련한 상태입니다.화요일, 이 회사는 ‘Mythos’ 모델의 첫 공개 버전인 ‘Claude Fable 5’를 출시했다. 앤트로픽에 따르면, ‘페이블 5’는 소프트웨어 엔지니어링, 지식 업무, 비전 작업 분야에서 우수한 성능을 보이지만 엄격한 안전
SandboxAQ는 컴퓨터공학 박사 학위가 없어도 Claude에 약물 발견용 AI를 도입할 수 있게 해줍니다.
현대 산업계에서 신약 개발은 여전히 가장 비용이 많이 드는 과제 중 하나입니다. 유망한 분자를 하나 찾아내는 데에만 수년의 시간과 수십억 달러의 비용이 소요되며, 대부분의 후보 물질들은 결국 실패로 돌아갑니다. AI 스타트업들이 이 상황을 변화시킬 것이라고 약속하고 있지만, 그중 대다수는 기술적으로 이미 능숙한 연구자들에게만 해당 과정을 약간 더 용이하게 만들어 주었을 뿐입니다.그러나 SandboxAQ는 병목 현상의 원인이 모델 자체가 아니라
관련 특별 주제 추천
의견 (3)
0/500
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

최근 Anthropic을 대표하는 변호사가 음악 퍼블리셔와 진행 중인 법적 분쟁에서 회사의 Claude AI 챗봇이 잘못된 인용문을 사용했음을 인정했습니다. 이러한 인정은 목요일 캘리포니아 북부 법정에 제출한 서류를 통해 이루어졌습니다.
블룸버그가 처음 보도한 이 서류에서 앤트로픽은 클라우드가 잘못된 제목과 저자 정보로 인용문을 조작했다고 밝혔습니다. 회사의 변호사들은 일상적인 인용 검사에서 이 오류를 발견하지 못했으며, 클로드의 "환각"으로 인한 몇 가지 다른 부정확성도 발견하지 못했다고 인정했습니다.
이러한 감독 소홀에 대해 사과하면서 Anthropic은 이 사건을 "정직한 인용 실수이지 권위를 조작한 것이 아니다"라고 설명했습니다.
이번 주 초, 유니버설 뮤직 그룹과 다른 음악 퍼블리셔의 변호사들은 Anthropic의 전문 증인인 직원 올리비아 첸이 증언에서 조작된 기사를 언급하며 클라우드를 이용했다고 주장하며 고발했습니다. 이에 따라 수잔 반 큘렌 연방 판사는 이러한 주장에 대해 Anthropic에 답변을 요청했습니다.
음악 퍼블리셔가 제기한 이번 소송은 저작권 소유자와 기술 회사가 생성형 AI 도구 개발을 위해 콘텐츠를 오용했다는 의혹을 둘러싼 여러 갈등의 일환입니다.
이는 법적 소송에서 AI의 사용이 의도하지 않은 결과를 초래한 또 다른 사례입니다. 이번 주 초, 캘리포니아의 한 판사는 두 로펌이 자신의 법정에 '가짜 AI 생성 연구'를 제출했다고 비판했습니다. 1월에는 호주의 한 변호사가 법원 문서 초안 작성에 ChatGPT를 활용하여 잘못된 인용을 초래한 사실이 드러나기도 했습니다.
이러한 사건에도 불구하고 스타트업은 법률 프로세스를 자동화하기 위해 계속해서 상당한 자금을 유치하고 있습니다. 변호사를 지원하기 위해 생성형 AI 모델을 사용하는 Harvey는 50억 달러가 넘는 가치로 2억 5천만 달러 이상의 자금을 확보하기 위해 논의 중인 것으로 알려졌습니다.
테크크런치 이벤트 ### 테크크런치 세션에 참여하세요: AI
OpenAI, Anthropic, Cohere의 연사가 참여하는 최고의 AI 업계 이벤트에 자리를 예약하세요. 한정된 기간 동안 전문가 프레젠테이션, 워크샵, 귀중한 네트워킹 기회를 하루 종일 즐길 수 있는 티켓 가격이 단 $292에 판매됩니다.
테크크런치 세션에 참가하세요: AI
TC 세션에서 전시 부스를 예약하세요: AI에서 전시 부스를 예약하고 1,200명 이상의 의사결정권자에게 큰 비용 부담 없이 혁신을 선보이세요. 5월 9일까지 또는 자리가 소진되는 동안 이용 가능합니다.
캘리포니아 버클리 | 6월 5일 지금 등록하기
Anthropic, 새로운 동적 워크플로우 도구를 탑재한 Opus 4.8 출시
앤트로픽은 목요일, 자사의 주력 공개 모델인 ‘오푸스(Opus)’의 최신 버전인 4.8을 공개했다. 이전 버전과 가격이 동일한 이번 업데이트는 이제 모든 플랫폼에서 이용할 수 있다.Opus 4.7 출시 불과 41일 만에 Opus 4.8을 공개한 Anthropic은 개발 주기를 대폭 단축했으며, 이는 최근 Sonnet 및 Haiku 출시 시 보였던 3개월 및
Anthropic, Mythos의 공개 버전인 ‘Claude Fable 5’를 선보였다
앤트로픽(Anthropic)이 자사의 가장 강력한 AI 모델을 처음으로 일반 대중에게 공개했으나, 안전 조치를 마련한 상태입니다.화요일, 이 회사는 ‘Mythos’ 모델의 첫 공개 버전인 ‘Claude Fable 5’를 출시했다. 앤트로픽에 따르면, ‘페이블 5’는 소프트웨어 엔지니어링, 지식 업무, 비전 작업 분야에서 우수한 성능을 보이지만 엄격한 안전
SandboxAQ는 컴퓨터공학 박사 학위가 없어도 Claude에 약물 발견용 AI를 도입할 수 있게 해줍니다.
현대 산업계에서 신약 개발은 여전히 가장 비용이 많이 드는 과제 중 하나입니다. 유망한 분자를 하나 찾아내는 데에만 수년의 시간과 수십억 달러의 비용이 소요되며, 대부분의 후보 물질들은 결국 실패로 돌아갑니다. AI 스타트업들이 이 상황을 변화시킬 것이라고 약속하고 있지만, 그중 대다수는 기술적으로 이미 능숙한 연구자들에게만 해당 과정을 약간 더 용이하게 만들어 주었을 뿐입니다.그러나 SandboxAQ는 병목 현상의 원인이 모델 자체가 아니라
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





집






