인공 지능 사용자는 선택해야 합니다: 교육을 위한 AI 채팅 공유 또는 옵트아웃

Anthropic은 사용자 데이터 정책에 대한 주요 변경 사항을 시행하고 있으며, 모든 Claude 사용자는 9월 28일까지 자신의 대화가 AI 모델 학습에 사용되는 데 동의할지 여부를 결정해야 합니다. 그 이유에 대한 질문이 있을 때 정책 업데이트에 대한 블로그 게시물을 언급했지만, 저희는 나름대로 해석을 해보았습니다.

먼저 변경된 내용을 살펴보겠습니다: 이전에는 모델 학습에 소비자 채팅 데이터를 활용하지 않았습니다. 이제는 사용자 대화와 코딩 세션을 통해 AI 시스템을 학습시키고, 옵트아웃하지 않는 사용자에 대해서는 데이터 보존 기간을 5년으로 연장할 계획입니다.

이는 중요한 변화입니다. 이 업데이트 이전에는 법적 또는 정책 요구사항에 따라 더 오래 보관해야 하거나 콘텐츠가 정책을 위반하는 경우를 제외하고는 사용자의 프롬프트와 대화 내용이 30일 이내에 Anthropic 시스템에서 자동으로 삭제되며, 이 경우 입력과 출력은 최대 2년 동안 저장될 수 있다는 알림을 받았습니다.

이러한 새로운 정책은 Claude Code를 사용하는 사용자를 포함하여 Claude Free, Pro, Max 사용자에게 적용됩니다. 클루드 정부, 클루드 업무용, 클루드 교육용 또는 API 액세스를 사용하는 비즈니스 고객은 영향을 받지 않으며, 이는 OpenAI가 기업 고객을 데이터 교육 정책으로부터 보호하는 방식과 유사합니다.

그렇다면 이러한 변화의 원동력은 무엇일까요? 발표에서 Anthropic은 이번 업데이트가 사용자의 선택에 따른 것이라고 설명하며, 사용자가 옵트아웃하지 않음으로써 "모델 안전성을 개선하고 유해 콘텐츠를 탐지하는 시스템을 더욱 정확하게 만들고 오탐을 줄이는 데 도움이 될 것"이라고 제안합니다. 또한 사용자는 "코딩, 분석, 추론 등의 영역에서 향후 클로드 모델의 기능을 향상시키는 데 기여하여 궁극적으로 모든 사용자에게 혜택을 줄 수 있습니다."

본질적으로: 우리를 도와주세요. 그러나 전체적인 그림은 다소 이타적이지 않을 수 있습니다.

다른 주요 언어 모델 회사와 마찬가지로 Anthropic도 브랜드 인지도에 대한 우려보다 데이터에 대한 필요성이 더 큽니다. AI 모델을 훈련하려면 엄청난 양의 고품질 대화 데이터가 필요하며, 수백만 건의 클로드 상호 작용에 대한 액세스는 OpenAI 및 Google과 같은 라이벌에 맞서 Anthropic의 경쟁력을 강화할 수 있는 실제 콘텐츠 유형을 정확하게 제공합니다.

기술 및 벤처캐피털 업계의 거물들이 Disrupt 2025 아젠다에 동참합니다.

넷플릭스, 일레븐랩스, 웨이브, 세쿼이아 캐피탈, 엘라드 길 등 영향력 있는 리더들이 Disrupt 2025 아젠다에 참여합니다. 이들은 스타트업의 성장을 촉진하고 경쟁 우위를 강화하는 인사이트를 공유하기 위해 이 자리에 모였습니다. 테크크런치 디스럽트 20주년과 기술 업계의 주요 인사들로부터 배울 수 있는 이 기회를 놓치지 마세요. 지금 티켓을 확보하고 가격이 인상되기 전에 최대 600달러 이상 절약하세요.

기술 및 벤처캐피털 업계의 거물들이 Disrupt 2025 의제에 참여합니다.

넷플릭스, 일레븐랩스, 웨이브, 세쿼이아 캐피털 등 저명한 인사들이 Disrupt 2025 아젠다에 참여합니다. 이들은 스타트업의 성장을 촉진하고 경쟁력을 강화할 수 있는 인사이트를 제공하기 위해 이 자리에 모였습니다. 테크크런치 디스럽트 20주년과 최고의 기술 전문가로부터 배울 수 있는 기회를 놓치지 마세요. 지금 티켓을 구매하면 가격이 인상되기 전에 최대 675달러까지 할인받을 수 있습니다.

이러한 변화는 AI 개발의 경쟁적 압박 외에도 Anthropic 및 OpenAI와 같은 기업이 데이터 보존 관행에 대한 면밀한 조사에 직면하면서 데이터 정책의 광범위한 업계 변화를 반영합니다. 예를 들어, OpenAI는 현재 뉴욕타임즈와 다른 퍼블리셔들이 제기한 소송으로 인해 삭제된 채팅을 포함한 모든 소비자 ChatGPT 대화를 무기한 보관하라는 법원 명령에 이의를 제기하고 있습니다.

지난 6월, OpenAI COO 브래드 라이트캡은 이를 "광범위하고 불필요한 요구"라고 설명하며 "사용자들에게 약속한 개인정보 보호 약속과 근본적으로 상충되는 것"이라고 말했습니다. 법원 명령은 ChatGPT 무료, 플러스, 프로, 팀 사용자에게 영향을 미치지만, 기업 고객과 제로 데이터 보존 계약을 맺은 사용자는 계속 보호됩니다.

우려되는 점은 이러한 변화하는 사용 정책으로 인해 사용자들 사이에서 상당한 혼란이 야기되고 있으며, 그 중 상당수는 여전히 이러한 정책을 인지하지 못하고 있다는 점입니다.

물론 기술 분야가 빠르게 발전하고 있기 때문에 개인정보 보호정책도 기술 발전에 따라 필연적으로 변화할 수밖에 없습니다. 그러나 이러한 변경 사항 중 상당수는 상당히 중요한 내용이지만 다른 회사 발표에서 간략하게 언급될 뿐입니다. (Anthropic의 언론 페이지에 게재된 내용을 보면 화요일의 사용자 정책 변경이 특별히 중요하다고 생각하지 않을 것입니다.)

많은 사용자들이 동의한 가이드라인이 변경되었다는 사실을 인지하지 못하는 이유는 인터페이스 디자인이 사실상 이를 보장하기 때문입니다. 대부분의 ChatGPT 사용자는 기술적으로 아무것도 제거하지 않는 '삭제' 옵션을 계속 클릭합니다. 한편, Anthropic의 새 정책 시행은 익숙한 접근 방식을 따릅니다.

어떻게? 신규 사용자는 등록 시 기본 설정을 선택하지만, 기존 사용자는 눈에 잘 띄는 검은색 "동의" 버튼과 함께 큰 글씨로 "소비자 약관 및 정책 업데이트"라는 팝업이 표시되고, 훨씬 작은 교육 권한 토글은 아래에 "켜기"로 미리 설정된 작은 글씨로 표시됩니다.

더버지는 이러한 디자인으로 인해 사용자가 데이터 공유에 동의한다는 사실을 인지하지 못한 채 성급하게 '동의'를 클릭할 수 있다는 우려를 제기했습니다.

한편, 사용자 인식의 중요성은 그 어느 때보다 커졌습니다. 개인정보 보호 전문가들은 AI의 복잡성 때문에 진정한 사용자 동의를 얻기가 어렵다고 오랫동안 경고해 왔습니다. 바이든 행정부 하에서 연방거래위원회도 개입하여 AI 기업이 "서비스 약관이나 개인정보 보호정책을 몰래 수정하거나 하이퍼링크, 법률 전문 용어 또는 작은 글씨 뒤에 공개를 숨기는 행위"를 할 경우 집행 조치를 받을 위험이 있다고 경고했습니다.

현재 5명의 위원 중 3명으로만 운영되는 위원회가 이러한 관행을 지속적으로 모니터링할지 여부는 아직 불확실하며, 이에 대한 질문은 FTC에 직접 제기한 바 있습니다.