Sam Altman 提議在沒有合法隱私權保護的情況下,不要使用 ChatGPT 進行治療。

在使用您的 AI 助理進行情緒支援或治療之前,值得再三考慮。OpenAI 執行長 Sam Altman 指出,業界尚未建立敏感討論時的使用者隱私保障。當你的治療師是演算法時,就不存在醫患保密的問題。
Altman 在 Theo Von 的播客 "This Past Weekend w/ Theo Von" 最近一集中分享了這些見解。
在回答有關人工智能與法律系統互動的問題時,Altman 指出,如果沒有既定的法律框架,與人工智能的對話就缺乏法律上的保密保護。
"用戶與 ChatGPT 分享生活中極為私密的細節,」Altman 解釋道。"年輕使用者尤其將它當成治療師或生活教練,討論人際關係並尋求指導。雖然與人類專業人士的對話享有法律特權和保密性,但我們還沒有為 AI 互動解決這個問題。
Altman 補充說,這在法律訴訟過程中會造成隱私風險,因為 OpenAI 可能會被迫揭露使用者的對話內容。
"這種情況並不理想。Altman 表示:「我們應該將應用於治療過程的隱私權標準擴展至 AI 對話--直到最近才有人考慮這個概念。
Altman 表示:「公司意識到隱私權問題可能會妨礙更廣泛的應用。除了 AI 系統需要大量的訓練資料之外,他們也越來越多地被要求在法律案件中提供使用者的聊天記錄。OpenAI 目前正在與《紐約時報》的訴訟中挑戰法院命令,該命令將強制保存全球數億使用者(不包括企業客戶)的聊天記錄。
Techcrunch 活動科技與創投重量級人物加入 Disrupt 2025 議程
Netflix、ElevenLabs、Wayve 和 Sequoia Capital 等業界領導者加入 Disrupt 2025 的陣容。他們將與您分享加速創業公司成長的重要見解,並強化您的競爭優勢。體驗 TechCrunch Disrupt 20 週年紀念,向科技界的領導者學習 - 現在就購買門票,在價格上漲之前最多可省下 675 美元。
科技與創投重量級人物加入 Disrupt 2025 議程
Netflix、ElevenLabs、Wayve 和 Sequoia Capital 等業界領袖將加入 Disrupt 2025 的陣容。他們將與您分享加速新創公司成長及鞏固競爭優勢的重要見解。體驗 TechCrunch Disrupt 20 週年紀念,向科技界的領導者學習 - 立即購買門票,在價格上漲之前最多可省下 675 美元。
舊金山 | 2025 年 10 月 27-29 日 立即報名OpenAI 在其網站上表示,該公司正在對其所稱的法院命令「越權」提出上訴。如果法院可以推翻該公司的資料隱私權決定,OpenAI 可能會面臨更大的法律取證要求和執法要求。科技公司在刑事案件中經常會收到用戶資料的傳票,不過最近的法律轉變引起了人們對數位資訊存取的新疑慮。
舉例來說,最高法院推翻 Roe v. Wade 案之後,許多使用者轉移到更安全的生理期追蹤應用程式,以及 Apple Health 的加密記錄保存。
Altman 也詢問主持人 ChatGPT 的使用情況,並注意到 Von 承認隱私權的疑慮限制了他與 AI 聊天機器人的接觸。
"Altman 承認:「在完全接受 ChatGPT 之前,想要獲得明確的隱私保證和法律保護是完全合理的。
相關文章
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
相關專題推薦
評論 (0)
0/500

在使用您的 AI 助理進行情緒支援或治療之前,值得再三考慮。OpenAI 執行長 Sam Altman 指出,業界尚未建立敏感討論時的使用者隱私保障。當你的治療師是演算法時,就不存在醫患保密的問題。
Altman 在 Theo Von 的播客 "This Past Weekend w/ Theo Von" 最近一集中分享了這些見解。
在回答有關人工智能與法律系統互動的問題時,Altman 指出,如果沒有既定的法律框架,與人工智能的對話就缺乏法律上的保密保護。
"用戶與 ChatGPT 分享生活中極為私密的細節,」Altman 解釋道。"年輕使用者尤其將它當成治療師或生活教練,討論人際關係並尋求指導。雖然與人類專業人士的對話享有法律特權和保密性,但我們還沒有為 AI 互動解決這個問題。
Altman 補充說,這在法律訴訟過程中會造成隱私風險,因為 OpenAI 可能會被迫揭露使用者的對話內容。
"這種情況並不理想。Altman 表示:「我們應該將應用於治療過程的隱私權標準擴展至 AI 對話--直到最近才有人考慮這個概念。
Altman 表示:「公司意識到隱私權問題可能會妨礙更廣泛的應用。除了 AI 系統需要大量的訓練資料之外,他們也越來越多地被要求在法律案件中提供使用者的聊天記錄。OpenAI 目前正在與《紐約時報》的訴訟中挑戰法院命令,該命令將強制保存全球數億使用者(不包括企業客戶)的聊天記錄。
Techcrunch 活動科技與創投重量級人物加入 Disrupt 2025 議程
Netflix、ElevenLabs、Wayve 和 Sequoia Capital 等業界領導者加入 Disrupt 2025 的陣容。他們將與您分享加速創業公司成長的重要見解,並強化您的競爭優勢。體驗 TechCrunch Disrupt 20 週年紀念,向科技界的領導者學習 - 現在就購買門票,在價格上漲之前最多可省下 675 美元。
科技與創投重量級人物加入 Disrupt 2025 議程
Netflix、ElevenLabs、Wayve 和 Sequoia Capital 等業界領袖將加入 Disrupt 2025 的陣容。他們將與您分享加速新創公司成長及鞏固競爭優勢的重要見解。體驗 TechCrunch Disrupt 20 週年紀念,向科技界的領導者學習 - 立即購買門票,在價格上漲之前最多可省下 675 美元。
舊金山 | 2025 年 10 月 27-29 日 立即報名OpenAI 在其網站上表示,該公司正在對其所稱的法院命令「越權」提出上訴。如果法院可以推翻該公司的資料隱私權決定,OpenAI 可能會面臨更大的法律取證要求和執法要求。科技公司在刑事案件中經常會收到用戶資料的傳票,不過最近的法律轉變引起了人們對數位資訊存取的新疑慮。
舉例來說,最高法院推翻 Roe v. Wade 案之後,許多使用者轉移到更安全的生理期追蹤應用程式,以及 Apple Health 的加密記錄保存。
Altman 也詢問主持人 ChatGPT 的使用情況,並注意到 Von 承認隱私權的疑慮限制了他與 AI 聊天機器人的接觸。
"Altman 承認:「在完全接受 ChatGPT 之前,想要獲得明確的隱私保證和法律保護是完全合理的。
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。





首頁






