選項
首頁
新聞
OpenAI 推出包括家長控制的 ChatGPT 安全功能

OpenAI 推出包括家長控制的 ChatGPT 安全功能

2025-11-10
91

OpenAI 推出包括家長控制的 ChatGPT 安全功能

OpenAI 最近部署了 ChatGPT 的實驗性安全增強功能,包括新的路由機制和家長監督功能,引發使用者的不同反應。

這些保護措施可解決之前聊天機器人版本不慎驗證有害使用者思考模式,而非重新導向這些模式的疑慮。這些變更是在一宗青少年自殺的悲劇事件後發生的,據稱是受到 ChatGPT 長時間互動的影響,目前已受到法律訴訟。

自動路由系統可辨識出情緒化的對話,並將其無縫轉換至 GPT-5 思考模式 - OpenAI 處理重要安全情境的指定模式。GPT-5 整合了創新的「安全完成」技術,能夠對微妙的話題做出細微的回應,而不是直接拒絕。

這代表著與 GPT-4o 會話方式的重大差異,GPT-4o 以其順應性著稱,但偶爾也會造成令人不安的使用者互動。自從 GPT-5 於去年八月成為標準模式後,有些使用者強烈要求繼續使用 GPT-4o。

雖然安全倡議者對此表示讚賞,但批評人士認為這些措施過度限制了使用者體驗。OpenAI 承認,在未來四個月內,將需要持續調整改進。

ChatGPT 的產品主管 Nick Turley 回應了對路由實施的疑慮:

"他透過社群媒體澄清:「模型切換是以每則訊息為單位暫時進行的。"使用者在查詢時會收到關於活動模型的通知。這種分階段推出的方式可根據實際互動情況進行保障優化。"

配套的家長控制功能同樣引起了兩極化的反應。這些工具可讓監護人透過下列功能管理青少年帳戶:

  • 排程使用限制
  • 語音互動限制
  • 停用記憶體保留
  • 移除視覺內容的產生

青少年帳號會自動獲得強化保護,以防止有關自我形象意識形態和圖像資料的潛在有害內容。系統還會使用專門的演算法掃描危機指標。

"OpenAI 解釋說:「我們的專業應變團隊會仔細評估標示的情況。「對於緊急情況,除非明確拒絕,否則我們會透過多種渠道通知家長」。

該公司承認潛在的錯誤警示,但認為主動介入的風險大於不採取行動的風險。未來的發展可能包括在緊急情況下無法與家長聯絡時,直接協調緊急服務。

相關文章
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本 OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本 在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略 Frontier AI Labs 拒絕透露針對失控模型的管控策略 近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率 NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率 正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
相關專題推薦
聊天機器人 用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用
用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用

2026 年最新最佳頂級評分 AI 角色扮演聊天應用,用於語言練習、面試準備和日常流利度!XIX.AI 精心策劃了一個強大的變革性合集,提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能,克服流利度挑戰,並提高所有日常場景下的溝通效率。立即探索,發現您語言成長的完美工具!

10 個工具
xix.ai
音樂創作 用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具
用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具

2026年最新、最優秀且評分最高的AI音軌分離工具彙總,專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試,能夠實現精準的音訊分離,顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南,幫助您找到最適合自身需求的工具。立即探索,發揮您的AI優勢。

8 個工具
xix.ai
數據分析 用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手
用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手

2026年最新最優秀的AI SQL輔助工具排名揭曉!XIX.AI精心挑選了一系列功能強大的工具,這些工具會定期更新,並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具,您可以快速生成精準的收入分析報表、分析銷售流程,並追蹤產品各項指標,從而大幅提升工作效率。立即探索,找到最適合您的資料驅動決策工具!238個字元

9 個工具
xix.ai
音樂創作 最佳用於歌曲草稿的 AI 旋律創作工具
最佳用於歌曲草稿的 AI 旋律創作工具

2026 年最新最佳頂級評分 AI 旋律創作工具,助力歌曲草稿創作!XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集,旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項,這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿,並顯著提升您的創意生產力。立即探索,發現您的完美工具!

8 個工具
xix.ai
聊天機器人 最適合面試練習的 AI 對話訓練工具
最適合面試練習的 AI 對話訓練工具

2026 年最新、最受好評的 AI 面試對話訓練工具,盡在 XIX.AI!這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具,這些工具均經過嚴格的實戰測試,能提供精準的回饋。 您將在此找到免費版與付費版的比較分析,以及詳細的排名榜單,助您挑選必試的選項,從而提升自信與技能。立即探索,發掘助您在面試中脫穎而出的完美工具!

12 個工具
xix.ai
設計與藝術 最適合進行創意實驗的 AI 風格轉移工具
最適合進行創意實驗的 AI 風格轉移工具

2026 年最新、最佳且評價最高的 AI 風格轉移工具,助您進行創意實驗!XIX.AI 精心精選了一系列強大且具革命性的必試工具,這些工具經實際測試與嚴格評比,能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性,協助創作者顯著提升生產力。 立即探索,找出最適合您的工具,並從今天開始創作吧!

9 個工具
xix.ai
評論 (1)
0/500
RobertMartin
RobertMartin 2026-01-03 02:32:42

親が子供のAI利用を管理できるのは良いけど、逆に言えばAIが私たちをずっと監視できるようにもなるってこと?🤔 このニュースを見て、ちょっとジョージオーウェルを思い出したよ。便利さとプライバシー、バランスはむずかしいね。

OR