샘 알트먼, 법적 개인 정보 보호 없이 치료에 ChatGPT를 사용하지 말 것을 경고하다

정서적 지원이나 치료를 위해 AI 비서를 사용하기 전에 다시 생각해 볼 필요가 있습니다. OpenAI의 CEO인 샘 알트먼은 업계가 아직 민감한 논의 중에 사용자 개인정보 보호에 대한 안전장치를 마련하지 않았다고 지적합니다. 치료사가 알고리즘일 때는 의사-환자 간 기밀 유지가 불가능합니다.

알트먼은 최근 테오 본의 팟캐스트 "지난 주말 테오 본과 함께"의 에피소드에서 이러한 인사이트를 공유했습니다.

알트만은 AI와 법률 시스템의 상호작용에 대한 질문에 답하면서, 법적 프레임워크가 확립되지 않은 상태에서 AI와의 대화는 법적 기밀 보호가 부족하다고 지적했습니다.

"사용자들은 ChatGPT를 통해 자신의 삶에 대한 매우 내밀한 정보를 공유합니다."라고 알트만은 설명합니다. "특히 젊은 사용자들은 관계에 대해 토론하고 조언을 구하는 등 치료사나 인생 코치로서 채팅GPT를 활용합니다. 인간 전문가와의 대화는 법적 특권과 기밀성을 보장받지만, AI와의 대화에서는 이 문제가 해결되지 않았습니다."

알트먼은 이로 인해 법적 소송 과정에서 OpenAI가 사용자 대화를 공개하도록 강요받을 수 있기 때문에 프라이버시 위험이 발생할 수 있다고 덧붙였습니다.

"이 상황은 이상적이지 않습니다. 우리는 치료 세션에 적용하는 것과 동일한 개인정보 보호 표준을 AI 대화에도 적용해야 하는데, 이는 최근까지 아무도 고려하지 않았던 개념입니다."라고 Altman은 말합니다.

회사는 개인정보 보호 문제가 더 광범위한 채택을 방해할 수 있음을 인식하고 있습니다. 방대한 학습 데이터를 필요로 하는 AI 시스템 외에도 법적 소송에서 사용자 채팅 기록을 제공하라는 요청이 점점 더 많아지고 있습니다. OpenAI는 현재 기업 고객을 제외한 수억 명의 전 세계 사용자의 채팅 기록을 보존하도록 의무화하는 뉴욕타임스와의 소송에서 법원 명령에 이의를 제기하고 있습니다.

기술 및 벤처캐피털의 거물들이 Disrupt 2025 의제에 동참하다

넷플릭스, 일레븐랩스, 웨이브, 세쿼이아 캐피탈 등 업계 선두주자들이 Disrupt 2025 라인업에 합류합니다. 이들은 스타트업의 성장을 가속화하고 경쟁 우위를 강화하기 위한 중요한 인사이트를 공유할 것입니다. 테크크런치 디스럽트 20주년을 기념하고 기술 업계 최고 전문가들의 의견을 들어보세요. 지금 티켓을 확보하고 가격이 인상되기 전에 최대 $675까지 할인된 가격으로 구매하세요.

기술 및 벤처캐피털 업계의 거물들이 Disrupt 2025 아젠다에 동참합니다.

넷플릭스, 일레븐랩스, 웨이브, 세쿼이아 캐피탈 등 업계 선두주자들이 Disrupt 2025 라인업에 합류합니다. 이들은 스타트업의 성장을 가속화하고 경쟁 우위를 강화하기 위한 중요한 인사이트를 공유할 것입니다. 테크크런치 디스럽트 20주년을 기념하고 기술 업계 최고 전문가들의 의견을 들어보세요. 지금 티켓을 확보하고 가격이 인상되기 전에 최대 $675까지 할인된 가격으로 구매하세요.

OpenAI는 웹사이트를 통해 법원 명령의 "지나친 범위"에 항소한다고 밝혔습니다. 법원이 회사의 데이터 프라이버시 결정을 무효화할 수 있다면, OpenAI는 확대된 법적 증거 개시 요청과 법 집행 기관의 요구에 노출될 수 있습니다. 기술 기업은 형사 사건에서 사용자 데이터에 대한 소환장을 정기적으로 받지만, 최근 법적 변화로 인해 디지털 정보 액세스에 대한 새로운 우려가 제기되고 있습니다.

예를 들어, 대법원이 로 대 웨이드 판결을 뒤집은 후 많은 사용자가 보다 안전한 기간 추적 애플리케이션과 암호화된 기록 보관을 위한 Apple Health로 마이그레이션했습니다.

알트먼은 또한 개인정보 보호 문제로 인해 AI 챗봇과의 소통이 제한되었다는 폰의 인정에 주목하면서 호스트의 ChatGPT 사용에 대해서도 질문했습니다.

"ChatGPT를 완전히 수용하기 전에 명확한 개인정보 보호와 법적 보호를 원하는 것은 전적으로 합리적입니다."라고 알트먼은 인정했습니다.