샘 알트먼, 법적 개인 정보 보호 없이 치료에 ChatGPT를 사용하지 말 것을 경고하다

정서적 지원이나 치료를 위해 AI 비서를 사용하기 전에 다시 생각해 볼 필요가 있습니다. OpenAI의 CEO인 샘 알트먼은 업계가 아직 민감한 논의 중에 사용자 개인정보 보호에 대한 안전장치를 마련하지 않았다고 지적합니다. 치료사가 알고리즘일 때는 의사-환자 간 기밀 유지가 불가능합니다.
알트먼은 최근 테오 본의 팟캐스트 "지난 주말 테오 본과 함께"의 에피소드에서 이러한 인사이트를 공유했습니다.
알트만은 AI와 법률 시스템의 상호작용에 대한 질문에 답하면서, 법적 프레임워크가 확립되지 않은 상태에서 AI와의 대화는 법적 기밀 보호가 부족하다고 지적했습니다.
"사용자들은 ChatGPT를 통해 자신의 삶에 대한 매우 내밀한 정보를 공유합니다."라고 알트만은 설명합니다. "특히 젊은 사용자들은 관계에 대해 토론하고 조언을 구하는 등 치료사나 인생 코치로서 채팅GPT를 활용합니다. 인간 전문가와의 대화는 법적 특권과 기밀성을 보장받지만, AI와의 대화에서는 이 문제가 해결되지 않았습니다."
알트먼은 이로 인해 법적 소송 과정에서 OpenAI가 사용자 대화를 공개하도록 강요받을 수 있기 때문에 프라이버시 위험이 발생할 수 있다고 덧붙였습니다.
"이 상황은 이상적이지 않습니다. 우리는 치료 세션에 적용하는 것과 동일한 개인정보 보호 표준을 AI 대화에도 적용해야 하는데, 이는 최근까지 아무도 고려하지 않았던 개념입니다."라고 Altman은 말합니다.
회사는 개인정보 보호 문제가 더 광범위한 채택을 방해할 수 있음을 인식하고 있습니다. 방대한 학습 데이터를 필요로 하는 AI 시스템 외에도 법적 소송에서 사용자 채팅 기록을 제공하라는 요청이 점점 더 많아지고 있습니다. OpenAI는 현재 기업 고객을 제외한 수억 명의 전 세계 사용자의 채팅 기록을 보존하도록 의무화하는 뉴욕타임스와의 소송에서 법원 명령에 이의를 제기하고 있습니다.
테크크런치 이벤트기술 및 벤처캐피털의 거물들이 Disrupt 2025 의제에 동참하다
넷플릭스, 일레븐랩스, 웨이브, 세쿼이아 캐피탈 등 업계 선두주자들이 Disrupt 2025 라인업에 합류합니다. 이들은 스타트업의 성장을 가속화하고 경쟁 우위를 강화하기 위한 중요한 인사이트를 공유할 것입니다. 테크크런치 디스럽트 20주년을 기념하고 기술 업계 최고 전문가들의 의견을 들어보세요. 지금 티켓을 확보하고 가격이 인상되기 전에 최대 $675까지 할인된 가격으로 구매하세요.
기술 및 벤처캐피털 업계의 거물들이 Disrupt 2025 아젠다에 동참합니다.
넷플릭스, 일레븐랩스, 웨이브, 세쿼이아 캐피탈 등 업계 선두주자들이 Disrupt 2025 라인업에 합류합니다. 이들은 스타트업의 성장을 가속화하고 경쟁 우위를 강화하기 위한 중요한 인사이트를 공유할 것입니다. 테크크런치 디스럽트 20주년을 기념하고 기술 업계 최고 전문가들의 의견을 들어보세요. 지금 티켓을 확보하고 가격이 인상되기 전에 최대 $675까지 할인된 가격으로 구매하세요.
샌프란시스코 | 2025년 10월 27~29일 지금 등록하기OpenAI는 웹사이트를 통해 법원 명령의 "지나친 범위"에 항소한다고 밝혔습니다. 법원이 회사의 데이터 프라이버시 결정을 무효화할 수 있다면, OpenAI는 확대된 법적 증거 개시 요청과 법 집행 기관의 요구에 노출될 수 있습니다. 기술 기업은 형사 사건에서 사용자 데이터에 대한 소환장을 정기적으로 받지만, 최근 법적 변화로 인해 디지털 정보 액세스에 대한 새로운 우려가 제기되고 있습니다.
예를 들어, 대법원이 로 대 웨이드 판결을 뒤집은 후 많은 사용자가 보다 안전한 기간 추적 애플리케이션과 암호화된 기록 보관을 위한 Apple Health로 마이그레이션했습니다.
알트먼은 또한 개인정보 보호 문제로 인해 AI 챗봇과의 소통이 제한되었다는 폰의 인정에 주목하면서 호스트의 ChatGPT 사용에 대해서도 질문했습니다.
"ChatGPT를 완전히 수용하기 전에 명확한 개인정보 보호와 법적 보호를 원하는 것은 전적으로 합리적입니다."라고 알트먼은 인정했습니다.
관련 기사
OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.교육적 관점에서 볼 때, ‘Cha
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
NEA의 티파니 럭: 기업들은 여전히 AI ROI와 씨름하고 있다
플레이어 로딩 중…올초 실리콘밸리에서는 ‘토큰 극대화(tokenmaxxing)’가 주요 화두였으며, 최고경영자들은 직원들에게 AI 활용을 극대화할 것을 독려했습니다. 그러나 이러한 열정은 곧 현실과 부딪혔습니다. 우버(Uber)는 보고에 따라 수개월 만에 연간 AI 예산을 초과했으며, 일부 기업은 부서 전반에 걸쳐 Claude 구독을 축소했고, 메타(Meta)는 내부 성과 평가 제도를 중단했습니다.NEA의 파트너 티파니 럭(Tiffany L
관련 특별 주제 추천
의견 (0)
0/500

정서적 지원이나 치료를 위해 AI 비서를 사용하기 전에 다시 생각해 볼 필요가 있습니다. OpenAI의 CEO인 샘 알트먼은 업계가 아직 민감한 논의 중에 사용자 개인정보 보호에 대한 안전장치를 마련하지 않았다고 지적합니다. 치료사가 알고리즘일 때는 의사-환자 간 기밀 유지가 불가능합니다.
알트먼은 최근 테오 본의 팟캐스트 "지난 주말 테오 본과 함께"의 에피소드에서 이러한 인사이트를 공유했습니다.
알트만은 AI와 법률 시스템의 상호작용에 대한 질문에 답하면서, 법적 프레임워크가 확립되지 않은 상태에서 AI와의 대화는 법적 기밀 보호가 부족하다고 지적했습니다.
"사용자들은 ChatGPT를 통해 자신의 삶에 대한 매우 내밀한 정보를 공유합니다."라고 알트만은 설명합니다. "특히 젊은 사용자들은 관계에 대해 토론하고 조언을 구하는 등 치료사나 인생 코치로서 채팅GPT를 활용합니다. 인간 전문가와의 대화는 법적 특권과 기밀성을 보장받지만, AI와의 대화에서는 이 문제가 해결되지 않았습니다."
알트먼은 이로 인해 법적 소송 과정에서 OpenAI가 사용자 대화를 공개하도록 강요받을 수 있기 때문에 프라이버시 위험이 발생할 수 있다고 덧붙였습니다.
"이 상황은 이상적이지 않습니다. 우리는 치료 세션에 적용하는 것과 동일한 개인정보 보호 표준을 AI 대화에도 적용해야 하는데, 이는 최근까지 아무도 고려하지 않았던 개념입니다."라고 Altman은 말합니다.
회사는 개인정보 보호 문제가 더 광범위한 채택을 방해할 수 있음을 인식하고 있습니다. 방대한 학습 데이터를 필요로 하는 AI 시스템 외에도 법적 소송에서 사용자 채팅 기록을 제공하라는 요청이 점점 더 많아지고 있습니다. OpenAI는 현재 기업 고객을 제외한 수억 명의 전 세계 사용자의 채팅 기록을 보존하도록 의무화하는 뉴욕타임스와의 소송에서 법원 명령에 이의를 제기하고 있습니다.
테크크런치 이벤트기술 및 벤처캐피털의 거물들이 Disrupt 2025 의제에 동참하다
넷플릭스, 일레븐랩스, 웨이브, 세쿼이아 캐피탈 등 업계 선두주자들이 Disrupt 2025 라인업에 합류합니다. 이들은 스타트업의 성장을 가속화하고 경쟁 우위를 강화하기 위한 중요한 인사이트를 공유할 것입니다. 테크크런치 디스럽트 20주년을 기념하고 기술 업계 최고 전문가들의 의견을 들어보세요. 지금 티켓을 확보하고 가격이 인상되기 전에 최대 $675까지 할인된 가격으로 구매하세요.
기술 및 벤처캐피털 업계의 거물들이 Disrupt 2025 아젠다에 동참합니다.
넷플릭스, 일레븐랩스, 웨이브, 세쿼이아 캐피탈 등 업계 선두주자들이 Disrupt 2025 라인업에 합류합니다. 이들은 스타트업의 성장을 가속화하고 경쟁 우위를 강화하기 위한 중요한 인사이트를 공유할 것입니다. 테크크런치 디스럽트 20주년을 기념하고 기술 업계 최고 전문가들의 의견을 들어보세요. 지금 티켓을 확보하고 가격이 인상되기 전에 최대 $675까지 할인된 가격으로 구매하세요.
샌프란시스코 | 2025년 10월 27~29일 지금 등록하기OpenAI는 웹사이트를 통해 법원 명령의 "지나친 범위"에 항소한다고 밝혔습니다. 법원이 회사의 데이터 프라이버시 결정을 무효화할 수 있다면, OpenAI는 확대된 법적 증거 개시 요청과 법 집행 기관의 요구에 노출될 수 있습니다. 기술 기업은 형사 사건에서 사용자 데이터에 대한 소환장을 정기적으로 받지만, 최근 법적 변화로 인해 디지털 정보 액세스에 대한 새로운 우려가 제기되고 있습니다.
예를 들어, 대법원이 로 대 웨이드 판결을 뒤집은 후 많은 사용자가 보다 안전한 기간 추적 애플리케이션과 암호화된 기록 보관을 위한 Apple Health로 마이그레이션했습니다.
알트먼은 또한 개인정보 보호 문제로 인해 AI 챗봇과의 소통이 제한되었다는 폰의 인정에 주목하면서 호스트의 ChatGPT 사용에 대해서도 질문했습니다.
"ChatGPT를 완전히 수용하기 전에 명확한 개인정보 보호와 법적 보호를 원하는 것은 전적으로 합리적입니다."라고 알트먼은 인정했습니다.
OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.교육적 관점에서 볼 때, ‘Cha
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
NEA의 티파니 럭: 기업들은 여전히 AI ROI와 씨름하고 있다
플레이어 로딩 중…올초 실리콘밸리에서는 ‘토큰 극대화(tokenmaxxing)’가 주요 화두였으며, 최고경영자들은 직원들에게 AI 활용을 극대화할 것을 독려했습니다. 그러나 이러한 열정은 곧 현실과 부딪혔습니다. 우버(Uber)는 보고에 따라 수개월 만에 연간 AI 예산을 초과했으며, 일부 기업은 부서 전반에 걸쳐 Claude 구독을 축소했고, 메타(Meta)는 내부 성과 평가 제도를 중단했습니다.NEA의 파트너 티파니 럭(Tiffany L





집






