앤트로픽, 법적 소송에서 클로드 AI 오류 인정, 당황스럽고 의도치 않은 실수

음악 퍼블리셔와 진행 중인 법적 분쟁에서 AI가 생성한 소스에 대한 비난이 제기된 가운데, Anthropic은 이 사건을 자사의 Claude 챗봇이 저지른 '의도치 않은 인용 오류'로 규정하고 해명했습니다.
논란이 된 인용은 4월 30일 Anthropic의 데이터 과학자 올리비아 첸이 제출한 법적 서류에 나타난 것으로, Claude가 저작권이 있는 노래 가사를 사용하여 학습되었다는 주장에 대한 회사의 방어의 일환입니다. 법정 소송 과정에서 유니버설 뮤직 그룹과 다른 퍼블리셔를 대표하는 법률 고문은 인용된 출처가 조작되었을 가능성이 있다고 지적하며 Anthropic의 AI 시스템에 의해 만들어졌을 수 있다고 주장했습니다.
최근 제출한 답변서에서 Anthropic의 변호사인 Ivana Dukanovic은 인용된 자료가 진짜인 것은 맞지만, 문서에서 법적 인용의 형식을 갖추기 위해 Claude가 사용되었다고 해명했습니다. 회사는 자동화된 검사가 AI가 생성한 부정확한 분량과 페이지 번호를 발견하고 수정했지만, 수동 검토 과정에서 특정 문구의 부정확성이 발견되지 않았다는 점을 인정했습니다.
두카노비치는 "시스템이 출판물 이름, 연도, 접근 가능한 링크는 정확하게 식별했지만 잘못된 기사 제목과 저자 정보를 잘못 포함시켰다"며 이는 고의적인 허위 진술이 아닌 정직한 실수였다고 강조했습니다. Anthropic은 "안타깝지만 의도하지 않은 실수"라고 설명하며 혼란을 야기한 데 대해 유감을 표명했습니다.
이 사건은 AI 보조 인용으로 인해 복잡한 문제가 발생한 법적 소송의 목록에 추가되었습니다. 최근 캘리포니아의 한 판사는 존재하지 않는 법적 참고 문헌이 포함된 서면을 작성할 때 AI의 역할을 공개하지 않은 변호사를 질책했습니다. 이 문제는 지난 12월 한 잘못된 정보 연구자가 자신의 법적 제출물 중 하나에서 ChatGPT가 인용을 발명했다고 인정하면서 더욱 주목을 받았습니다.
관련 기사
구글 포토, AI로 영화 ‘클루리스’의 상징적인 옷장을 재현하다
구글 포토는 수요일, 곧 출시될 새로운 AI 기반 기능을 발표했습니다. 이 기능은 사용자의 옷 사진을 디지털 옷장으로 변환해 주어, 새로운 코디를 구성하고 가상으로 입어볼 수도 있게 해줍니다. 이 개념은 영화 ‘클루리스’에서 셰어가 입을 옷을 고르며 수많은 의상들을 둘러보던 그 상징적인 가상 옷장에서 영감을 받은 것이 분명합니다.구글은 이 기능이 AI 기술
Notion, 워크스페이스를 AI 에이전트의 허브로 탈바꿈하다
생산성 소프트웨어 기업 노션(Notion)이 ‘에이전트(agents)’ 시대에 진입하고 있다.수요일 진행된 라이브 스트리밍 제품 발표회에서, 협업형 노트 작성 앱으로 잘 알려진 노션은 자체 AI 에이전트의 기능을 확장하고 외부 에이전트와 연동하며, 팀이 어떤 데이터베이스에서든 데이터를 가져올 수 있는 자동화된 다단계 워크플로를 구축할 수 있게 해주는 새로운
ElevenLabs, 블랙록·제이미 폭스·에바 롱고리아를 신규 투자자로 선정
음성 AI 기업 일레븐랩스(ElevenLabs)는 지난 2월에 처음 발표했던 5억 달러 규모의 시리즈 D 투자 라운드에 참여한 추가 투자자들을 공개했다. 이번 투자자 명단에는 블랙록(BlackRock), 웰링턴(Wellington), D.E. 쇼(D.E. Shaw), 슈로더(Schroders)와 같은 기관 투자자들과 엔비디아(NVIDIA), 세일즈포스(Sa
관련 특별 주제 추천
의견 (3)
0/500
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

음악 퍼블리셔와 진행 중인 법적 분쟁에서 AI가 생성한 소스에 대한 비난이 제기된 가운데, Anthropic은 이 사건을 자사의 Claude 챗봇이 저지른 '의도치 않은 인용 오류'로 규정하고 해명했습니다.
논란이 된 인용은 4월 30일 Anthropic의 데이터 과학자 올리비아 첸이 제출한 법적 서류에 나타난 것으로, Claude가 저작권이 있는 노래 가사를 사용하여 학습되었다는 주장에 대한 회사의 방어의 일환입니다. 법정 소송 과정에서 유니버설 뮤직 그룹과 다른 퍼블리셔를 대표하는 법률 고문은 인용된 출처가 조작되었을 가능성이 있다고 지적하며 Anthropic의 AI 시스템에 의해 만들어졌을 수 있다고 주장했습니다.
최근 제출한 답변서에서 Anthropic의 변호사인 Ivana Dukanovic은 인용된 자료가 진짜인 것은 맞지만, 문서에서 법적 인용의 형식을 갖추기 위해 Claude가 사용되었다고 해명했습니다. 회사는 자동화된 검사가 AI가 생성한 부정확한 분량과 페이지 번호를 발견하고 수정했지만, 수동 검토 과정에서 특정 문구의 부정확성이 발견되지 않았다는 점을 인정했습니다.
두카노비치는 "시스템이 출판물 이름, 연도, 접근 가능한 링크는 정확하게 식별했지만 잘못된 기사 제목과 저자 정보를 잘못 포함시켰다"며 이는 고의적인 허위 진술이 아닌 정직한 실수였다고 강조했습니다. Anthropic은 "안타깝지만 의도하지 않은 실수"라고 설명하며 혼란을 야기한 데 대해 유감을 표명했습니다.
이 사건은 AI 보조 인용으로 인해 복잡한 문제가 발생한 법적 소송의 목록에 추가되었습니다. 최근 캘리포니아의 한 판사는 존재하지 않는 법적 참고 문헌이 포함된 서면을 작성할 때 AI의 역할을 공개하지 않은 변호사를 질책했습니다. 이 문제는 지난 12월 한 잘못된 정보 연구자가 자신의 법적 제출물 중 하나에서 ChatGPT가 인용을 발명했다고 인정하면서 더욱 주목을 받았습니다.
구글 포토, AI로 영화 ‘클루리스’의 상징적인 옷장을 재현하다
구글 포토는 수요일, 곧 출시될 새로운 AI 기반 기능을 발표했습니다. 이 기능은 사용자의 옷 사진을 디지털 옷장으로 변환해 주어, 새로운 코디를 구성하고 가상으로 입어볼 수도 있게 해줍니다. 이 개념은 영화 ‘클루리스’에서 셰어가 입을 옷을 고르며 수많은 의상들을 둘러보던 그 상징적인 가상 옷장에서 영감을 받은 것이 분명합니다.구글은 이 기능이 AI 기술
Notion, 워크스페이스를 AI 에이전트의 허브로 탈바꿈하다
생산성 소프트웨어 기업 노션(Notion)이 ‘에이전트(agents)’ 시대에 진입하고 있다.수요일 진행된 라이브 스트리밍 제품 발표회에서, 협업형 노트 작성 앱으로 잘 알려진 노션은 자체 AI 에이전트의 기능을 확장하고 외부 에이전트와 연동하며, 팀이 어떤 데이터베이스에서든 데이터를 가져올 수 있는 자동화된 다단계 워크플로를 구축할 수 있게 해주는 새로운
ElevenLabs, 블랙록·제이미 폭스·에바 롱고리아를 신규 투자자로 선정
음성 AI 기업 일레븐랩스(ElevenLabs)는 지난 2월에 처음 발표했던 5억 달러 규모의 시리즈 D 투자 라운드에 참여한 추가 투자자들을 공개했다. 이번 투자자 명단에는 블랙록(BlackRock), 웰링턴(Wellington), D.E. 쇼(D.E. Shaw), 슈로더(Schroders)와 같은 기관 투자자들과 엔비디아(NVIDIA), 세일즈포스(Sa
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!





집






