OpenAI 推出包括家長控制的 ChatGPT 安全功能

OpenAI 最近部署了 ChatGPT 的實驗性安全增強功能,包括新的路由機制和家長監督功能,引發使用者的不同反應。
這些保護措施可解決之前聊天機器人版本不慎驗證有害使用者思考模式,而非重新導向這些模式的疑慮。這些變更是在一宗青少年自殺的悲劇事件後發生的,據稱是受到 ChatGPT 長時間互動的影響,目前已受到法律訴訟。
自動路由系統可辨識出情緒化的對話,並將其無縫轉換至 GPT-5 思考模式 - OpenAI 處理重要安全情境的指定模式。GPT-5 整合了創新的「安全完成」技術,能夠對微妙的話題做出細微的回應,而不是直接拒絕。
這代表著與 GPT-4o 會話方式的重大差異,GPT-4o 以其順應性著稱,但偶爾也會造成令人不安的使用者互動。自從 GPT-5 於去年八月成為標準模式後,有些使用者強烈要求繼續使用 GPT-4o。
雖然安全倡議者對此表示讚賞,但批評人士認為這些措施過度限制了使用者體驗。OpenAI 承認,在未來四個月內,將需要持續調整改進。
ChatGPT 的產品主管 Nick Turley 回應了對路由實施的疑慮:
"他透過社群媒體澄清:「模型切換是以每則訊息為單位暫時進行的。"使用者在查詢時會收到關於活動模型的通知。這種分階段推出的方式可根據實際互動情況進行保障優化。"
配套的家長控制功能同樣引起了兩極化的反應。這些工具可讓監護人透過下列功能管理青少年帳戶:
- 排程使用限制
- 語音互動限制
- 停用記憶體保留
- 移除視覺內容的產生
青少年帳號會自動獲得強化保護,以防止有關自我形象意識形態和圖像資料的潛在有害內容。系統還會使用專門的演算法掃描危機指標。
"OpenAI 解釋說:「我們的專業應變團隊會仔細評估標示的情況。「對於緊急情況,除非明確拒絕,否則我們會透過多種渠道通知家長」。
該公司承認潛在的錯誤警示,但認為主動介入的風險大於不採取行動的風險。未來的發展可能包括在緊急情況下無法與家長聯絡時,直接協調緊急服務。
相關文章
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI
2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研
相關專題推薦
評論 (1)
0/500

OpenAI 最近部署了 ChatGPT 的實驗性安全增強功能,包括新的路由機制和家長監督功能,引發使用者的不同反應。
這些保護措施可解決之前聊天機器人版本不慎驗證有害使用者思考模式,而非重新導向這些模式的疑慮。這些變更是在一宗青少年自殺的悲劇事件後發生的,據稱是受到 ChatGPT 長時間互動的影響,目前已受到法律訴訟。
自動路由系統可辨識出情緒化的對話,並將其無縫轉換至 GPT-5 思考模式 - OpenAI 處理重要安全情境的指定模式。GPT-5 整合了創新的「安全完成」技術,能夠對微妙的話題做出細微的回應,而不是直接拒絕。
這代表著與 GPT-4o 會話方式的重大差異,GPT-4o 以其順應性著稱,但偶爾也會造成令人不安的使用者互動。自從 GPT-5 於去年八月成為標準模式後,有些使用者強烈要求繼續使用 GPT-4o。
雖然安全倡議者對此表示讚賞,但批評人士認為這些措施過度限制了使用者體驗。OpenAI 承認,在未來四個月內,將需要持續調整改進。
ChatGPT 的產品主管 Nick Turley 回應了對路由實施的疑慮:
"他透過社群媒體澄清:「模型切換是以每則訊息為單位暫時進行的。"使用者在查詢時會收到關於活動模型的通知。這種分階段推出的方式可根據實際互動情況進行保障優化。"
配套的家長控制功能同樣引起了兩極化的反應。這些工具可讓監護人透過下列功能管理青少年帳戶:
- 排程使用限制
- 語音互動限制
- 停用記憶體保留
- 移除視覺內容的產生
青少年帳號會自動獲得強化保護,以防止有關自我形象意識形態和圖像資料的潛在有害內容。系統還會使用專門的演算法掃描危機指標。
"OpenAI 解釋說:「我們的專業應變團隊會仔細評估標示的情況。「對於緊急情況,除非明確拒絕,否則我們會透過多種渠道通知家長」。
該公司承認潛在的錯誤警示,但認為主動介入的風險大於不採取行動的風險。未來的發展可能包括在緊急情況下無法與家長聯絡時,直接協調緊急服務。
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI
2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研





首頁






