OpenAI, 법원 명령에 따라 ChatGPT 데이터 보유, 알트만 CEO, 'AI 특권' 제안

이 글의 작성자를 포함한 많은 일반 ChatGPT 사용자들은 '임시 채팅' 기능을 사용해 보셨을 것입니다. OpenAI의 인기 챗봇에서 제공하는 이 옵션은 세션이 종료되는 즉시 세션 중에 교환된 모든 정보를 자동으로 삭제하도록 설계되었습니다.

또한 사용자는 웹, 데스크톱, 모바일 애플리케이션의 사이드바에서 과거 ChatGPT 대화를 수동으로 삭제할 수 있습니다. 이 작업은 원하는 채팅을 마우스 왼쪽 버튼으로 클릭하거나 컨트롤 클릭 또는 길게 누르면 됩니다.

하지만 이번 주에 OpenAI는 사용자들이 믿었던 것처럼 채팅 로그를 삭제하지 않았다는 사실이 드러나면서 사용자들의 비판에 직면했습니다.

"제가 삭제한 ChatGPT 채팅이 실제로 삭제된 것이 아니라 판사의 조사를 위해 저장되고 있다는 건가요?" 사용자 @ns123abc가 올린 댓글은 백만 회 이상의 조회수를 기록했습니다.

또 다른 사용자 @kepano는 "ChatGPT 채팅을 '삭제'할 수는 있지만 법적 의무로 인해 모든 채팅은 보관되어야 하는 건가요?"라고 덧붙였습니다.

AI 전문가이자 소프트웨어 엔지니어인 사이먼 윌리슨은 자신의 블로그에서 다음과 같이 언급했습니다: "[OpenAI] API의 유료 고객은 이 법원 명령에 저촉되지 않는 보존 정책을 제공할 수 있는 다른 제공업체로 전환하는 결정을 내릴 수 있습니다!"

OpenAI는 2025년 5월 중순부터 연방 법원 명령에 따라 삭제된 사용자 채팅과 임시 사용자 채팅을 보존하고 있다고 확인했습니다. 회사는 6월 5일까지 사용자에게 이러한 보존 사실을 알리지 않았습니다.

2025년 5월 13일 미국 치안 판사 오나 T. 왕이 발부한 이 명령은 "향후 삭제될 모든 출력 로그 데이터를 보존하고 분리"하도록 OpenAI에 지시하고 있습니다. 여기에는 사용자가 삭제를 요청한 채팅이나 개인정보 보호를 위해 자동으로 지워진 채팅이 포함됩니다.

이 지침은 1년 반 이상 진행 중인 저작권 소송인 뉴욕타임스(NYT) 대 OpenAI 및 Microsoft 소송에서 비롯된 것입니다. NYT의 변호사들은 OpenAI의 언어 모델이 저작권이 있는 뉴스 콘텐츠를 그대로 복제할 수 있다고 주장합니다. 또한 사용자가 삭제한 로그를 포함한 로그에 저작권을 침해한 결과물에 대한 관련 증거가 포함될 수 있다고 주장합니다.

OpenAI는 즉시 명령을 준수했지만, 영향을 받은 사용자에게 공개적으로 알리기까지 3주 이상 기다렸습니다. 이후 이 회사는 법적 명령과 영향을 받은 사용자에 대해 자세히 설명하는 블로그 게시물과 FAQ를 게시했습니다.

OpenAI는 보존 요구가 "근거가 없다"고 생각한다며 이번 조치의 책임을 NYT와 판사의 명령에 돌렸습니다.

OpenAI는 법원의 ChatGPT 사용자 로그 보존 명령을 명확히 하고 영향을 받은 채팅을 자세히 설명합니다.

최근 블로그 게시물에서 OpenAI COO 브래드 라이트캡은 지나치게 광범위한 사법부의 명령에 맞서 사용자 프라이버시를 옹호하고 있다고 밝히며 회사의 입장을 옹호했습니다. 그는 이렇게 썼습니다:

"뉴욕 타임즈와 다른 원고들은 근거 없는 소송을 통해 소비자 ChatGPT 및 API 고객 데이터를 무기한 보관하라는 포괄적이고 불필요한 요구를 했습니다. 이는 근본적으로 우리가 사용자에게 약속한 개인정보 보호 약속과 상충됩니다."

이 게시물은 데이터 보존 제로(ZDR) 계약이 없는 API 고객과 함께 ChatGPT 무료, 플러스, 프로, 팀 사용자가 보존 명령의 적용 대상임을 명확히 했습니다. 이러한 사용자의 경우 삭제된 채팅이나 임시 채팅 세션의 채팅도 가까운 미래에 저장됩니다.

그러나 ChatGPT Enterprise 및 Edu 요금제 가입자와 ZDR 엔드포인트를 사용하는 API 클라이언트는 영향을 받지 않습니다. 이들의 채팅은 지침에 따라 계속 삭제됩니다.

보존된 데이터는 법적 보류에 따라 제한된 수의 법률 및 보안 담당자만 접근할 수 있는 안전한 별도의 시스템에 저장됩니다.

"이 데이터는 뉴욕타임스나 다른 누구와도 자동으로 공유되지 않습니다."라고 라이트캡은 강조합니다.

샘 알트먼, 사용자-모델 간 기밀 대화를 위한 'AI 특권' 제안

OpenAI의 CEO이자 공동 설립자인 샘 알트먼(Sam Altman)도 X에 올린 글에서 이 문제를 공개적으로 언급했습니다:

"최근 NYT는 법원에 사용자 대화를 삭제하지 말 것을 요청했다"며 "이는 나쁜 선례를 남기는 부적절한 요청이라고 생각한다"며 "우리는 이 결정에 항소할 것이며, 사용자의 프라이버시를 침해하는 어떠한 요구에도 맞서 싸울 것이며 이는 핵심 원칙이다"고 말했습니다.

그는 AI 개인정보 보호를 위한 보다 광범위한 법적, 윤리적 프레임워크가 필요할 수 있다고 제안했습니다:

"우리는 최근 'AI 특권'과 같은 것의 필요성에 대해 생각해 왔으며, 이는 실제로 대화를 나눌 필요성을 가속화합니다."

"AI와 대화하는 것은 변호사나 의사와 대화하는 것과 같아야 한다고 생각합니다."

"사회가 이 문제를 빨리 해결했으면 좋겠어요."

'AI 특권'이라는 개념은 변호사-고객 또는 의사-환자 특권과 같은 기존의 기밀 유지 기준과 유사합니다.

이러한 프레임워크가 법률 또는 정책 분야에서 주목을 받을지는 불확실하지만, 알트먼의 발언은 OpenAI가 이러한 유형의 변화를 추진할 수 있음을 시사합니다.

OpenAI와 임시 또는 삭제된 채팅의 다음 단계는 무엇인가요?

OpenAI는 법원의 명령에 공식적으로 이의를 제기하며 명령의 취소를 요청했습니다.

법원에 제출한 서류에서 회사는 이러한 요구가 사실적 근거가 부족하며 수십억 개의 데이터 포인트를 추가로 보존하는 것은 불필요하고 불균형적이라고 주장했습니다.

왕 판사는 5월 27일 심리에서 이 명령이 일시적이라고 밝혔습니다. 그녀는 양측에 삭제된 사용자 데이터가 보존된 로그와 실질적으로 다른지 여부를 테스트하기 위한 샘플링 계획을 개발하도록 지시했습니다. OpenAI는 6월 6일까지 해당 제안서를 제출하라는 명령을 받았지만, 아직 제출 서류는 공개되지 않았습니다.

기업 및 기업 AI 의사 결정권자를 위한 시사점

이 명령은 ZDR 엔드포인트를 사용하는 ChatGPT 엔터프라이즈 및 API 고객에게는 면제되지만, AI 배포를 관리하는 전문가에게는 광범위한 법적 및 평판 관련 영향이 있습니다.

대규모 언어 모델(LLM)의 수명 주기를 감독하는 사람들은 데이터 거버넌스 가정을 재평가해야 합니다. 사용자 대면 LLM 구성 요소가 법적 보존 명령의 대상이 될 수 있다면, 보안 엔드포인트를 떠난 데이터 흐름과 고위험 상호작용을 격리 또는 익명화하는 방법에 대해 중요한 질문이 생깁니다.

OpenAI API를 사용하는 모든 플랫폼은 사용 중인 엔드포인트(ZDR과 비ZDR)를 확인하고 데이터 처리 정책이 사용자 계약, 감사 로그 및 내부 문서에 명확하게 반영되어 있는지 확인해야 합니다.

ZDR 엔드포인트를 사용하더라도 조직은 데이터 수명 주기 정책을 검토하여 다운스트림 시스템(분석, 로깅, 백업)이 일시적인 것으로 추정되는 상호 작용을 실수로 유지하지 않는지 확인해야 합니다.

보안 담당자는 이제 위협 모델링을 확장하여 잠재적 위험 벡터로 법적 검색을 포함시켜야 합니다. 팀은 OpenAI의 백엔드 보존 관행이 내부 통제와 일치하는지 확인하고, 타사 위험을 평가하고, 사용자가 법적 보류 상태에서 예상대로 작동하지 않을 수 있는 '임시 채팅'과 같은 기능에 의존하고 있는지 확인해야 합니다.

AI에서 사용자 개인정보 보호와 보안을 위한 중요한 순간

이 상황은 단순한 법적 분쟁을 넘어 AI 개인정보 보호 및 데이터 권리를 둘러싼 진화하는 논쟁에서 중요한 순간입니다. OpenAI는 'AI 특권'이라는 개념을 도입함으로써 지능형 시스템이 사용자의 기밀 정보를 처리하는 방식에 대한 새로운 사회적 계약을 제안하고 있습니다.

법원이나 의원들이 이 프레임을 받아들일지는 아직 알 수 없습니다. 현재 OpenAI는 법률 준수, 기업 보증, 사용자 신뢰 사이에서 복잡한 균형을 찾아가고 있으며, AI와 상호 작용할 때 궁극적으로 데이터를 누가 통제하는지에 대한 조사가 점점 더 심해지고 있습니다.