OpenAI的安全承諾受到質疑:監管與監督之爭

在導致加拿大震驚的Tumbler Ridge槍擊事件發生後,OpenAI迅速採取了一系列補救措施。然而,法律和技術專家們仍對此表示懷疑。學者Jean-Christophe Bélisle-Pipon指出,OpenAI執行長Sam Altman向加拿大政府作出的安全承諾實際上是用企業監管取代了民主監督。
在事件發生前幾個月,18歲槍手Jesse van Ruttenaar的ChatGPT賬戶就因釋出與槍支暴力相關的內容而被標記。儘管該賬戶被暫停使用,但OpenAI並未將這一潛在威脅報告給執法部門。這場悲劇最終造成了八人喪生。
OpenAI的新舉措:在警方與公司之間建立“直通渠道”
作為回應,OpenAI承諾採取以下行動:
直接報告機制:立即將可信的威脅資訊報告給加拿大皇家騎警。
回顧性審查:重新審視此前被標記為可疑的賬戶。
專家參與:允許加拿大專家加入其安全諮詢流程,協助政府制定監管建議。
專家們的擔憂:“監控替代品”的陷阱
Bélisle-Pipon教授在分析中指出了一個關鍵問題:OpenAI正在迴避對其核心模型設計及訓練方法的監督,而是轉而加強了對使用者對話的監測。
責任缺失:報告的標準仍由OpenAI內部決定,缺乏透明度和獨立審計。
令人擔憂的影響:研究表明,由於使用者認為聊天機器人能保護隱私,他們往往會向這些機器人傾訴心事。如果這些對話直接成為警方監控的渠道,處於心理危機中的弱勢群體可能會選擇保持沉默,從而錯失獲得幫助的機會。
監管上的隱患:這種“自願做出的讓步”可能實際上是為了規避更嚴格的法律法規。
真正的治理之道:將焦點從使用者轉向系統本身
批評者認為,真正的人工智慧監管應該不僅僅關注對語音的監測,而應深入審視相關係統本身。例如:
建立獨立監督機構:由心理健康專家和法律專家組成的第三方機構來評估風險,而不是完全由企業來決定一切。
模型層面的責任機制:仔細審查人工智慧模型在面對暴力意圖披露時的反應方式,以及開發過程中進行了哪些安全壓力測試。
隨著OpenAI積極與全球各國政府開展合作,Tumbler Ridge事件正在成為一個重要的參考案例:我們是在朝著更安全的科技方向發展,還是在走向一個由私營企業運營的數字監控網路?
相關文章
印度科技巨頭投資3000萬美元,打造微軟Office的AI競爭對手
連續創業者 Bhavin Turakhia 正投入 3000 萬美元自有資金,押注企業 AI 領域仍有新玩家的空間。他最新的創業專案 Neo 基於一個核心信念:傳統的職場軟體不能僅靠聊天機器人進行修補,而需要進行徹底的架構重構。46 歲的 Turakhia 有著支援雄心勃勃的企業科技專案的歷史。在過去二十年中,他聯合創立了 Directi、Radix、Titan 和 Zeta,在尋求外部投資之前,主要使用個人資本為這些專案提供資金。他正將同樣的自力更生策略應用於 Neo。Turakhia 向
前OpenAI首席科學家Ilya的SSI首次釋出模型
AI 取得了另一項重大里程碑。在從 OpenAI 離職後,前首席科學家伊利亞·蘇茨克弗(Ilya Sutskever)創立了 Safe Superintelligence Inc.(SSI),該公司最近公佈了其首個模型的詳細資訊。海外社交媒體上的報道指出,該團隊正在利用 TTT(測試時訓練)開發一個緊湊的推理引擎,這是他們在追求安全超級智慧過程中的關鍵進展。這種新穎的架構專注於使模型能夠“學習如何學習”。與在推理過程中保持引數靜態的傳統大型語言模型不同,該引擎在處理現實世界任務時會動態更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026年5月14日,AI應用開發平臺Lovable宣佈參與丹麥硬體初創公司Atech的80萬美元種子輪融資。該輪由Lovable領投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在內的頂級風險投資機構。此次投資標誌著Lovable將“Vibe Coding”概念從純軟體開發戰略擴充套件至硬體工程領域。Atech旨在透過AI驅動的互動式平臺簡化複雜的硬體原型製作。使用者購買基礎硬體套件,並透過AI聊天機器人以自然語言描述其設計概念;系統
相關專題推薦
評論 (1)
0/500

在導致加拿大震驚的Tumbler Ridge槍擊事件發生後,OpenAI迅速採取了一系列補救措施。然而,法律和技術專家們仍對此表示懷疑。學者Jean-Christophe Bélisle-Pipon指出,OpenAI執行長Sam Altman向加拿大政府作出的安全承諾實際上是用企業監管取代了民主監督。
在事件發生前幾個月,18歲槍手Jesse van Ruttenaar的ChatGPT賬戶就因釋出與槍支暴力相關的內容而被標記。儘管該賬戶被暫停使用,但OpenAI並未將這一潛在威脅報告給執法部門。這場悲劇最終造成了八人喪生。
OpenAI的新舉措:在警方與公司之間建立“直通渠道”
作為回應,OpenAI承諾採取以下行動:
直接報告機制:立即將可信的威脅資訊報告給加拿大皇家騎警。
回顧性審查:重新審視此前被標記為可疑的賬戶。
專家參與:允許加拿大專家加入其安全諮詢流程,協助政府制定監管建議。
專家們的擔憂:“監控替代品”的陷阱
Bélisle-Pipon教授在分析中指出了一個關鍵問題:OpenAI正在迴避對其核心模型設計及訓練方法的監督,而是轉而加強了對使用者對話的監測。
責任缺失:報告的標準仍由OpenAI內部決定,缺乏透明度和獨立審計。
令人擔憂的影響:研究表明,由於使用者認為聊天機器人能保護隱私,他們往往會向這些機器人傾訴心事。如果這些對話直接成為警方監控的渠道,處於心理危機中的弱勢群體可能會選擇保持沉默,從而錯失獲得幫助的機會。
監管上的隱患:這種“自願做出的讓步”可能實際上是為了規避更嚴格的法律法規。
真正的治理之道:將焦點從使用者轉向系統本身
批評者認為,真正的人工智慧監管應該不僅僅關注對語音的監測,而應深入審視相關係統本身。例如:
建立獨立監督機構:由心理健康專家和法律專家組成的第三方機構來評估風險,而不是完全由企業來決定一切。
模型層面的責任機制:仔細審查人工智慧模型在面對暴力意圖披露時的反應方式,以及開發過程中進行了哪些安全壓力測試。
隨著OpenAI積極與全球各國政府開展合作,Tumbler Ridge事件正在成為一個重要的參考案例:我們是在朝著更安全的科技方向發展,還是在走向一個由私營企業運營的數字監控網路?
印度科技巨頭投資3000萬美元,打造微軟Office的AI競爭對手
連續創業者 Bhavin Turakhia 正投入 3000 萬美元自有資金,押注企業 AI 領域仍有新玩家的空間。他最新的創業專案 Neo 基於一個核心信念:傳統的職場軟體不能僅靠聊天機器人進行修補,而需要進行徹底的架構重構。46 歲的 Turakhia 有著支援雄心勃勃的企業科技專案的歷史。在過去二十年中,他聯合創立了 Directi、Radix、Titan 和 Zeta,在尋求外部投資之前,主要使用個人資本為這些專案提供資金。他正將同樣的自力更生策略應用於 Neo。Turakhia 向
前OpenAI首席科學家Ilya的SSI首次釋出模型
AI 取得了另一項重大里程碑。在從 OpenAI 離職後,前首席科學家伊利亞·蘇茨克弗(Ilya Sutskever)創立了 Safe Superintelligence Inc.(SSI),該公司最近公佈了其首個模型的詳細資訊。海外社交媒體上的報道指出,該團隊正在利用 TTT(測試時訓練)開發一個緊湊的推理引擎,這是他們在追求安全超級智慧過程中的關鍵進展。這種新穎的架構專注於使模型能夠“學習如何學習”。與在推理過程中保持引數靜態的傳統大型語言模型不同,該引擎在處理現實世界任務時會動態更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026年5月14日,AI應用開發平臺Lovable宣佈參與丹麥硬體初創公司Atech的80萬美元種子輪融資。該輪由Lovable領投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在內的頂級風險投資機構。此次投資標誌著Lovable將“Vibe Coding”概念從純軟體開發戰略擴充套件至硬體工程領域。Atech旨在透過AI驅動的互動式平臺簡化複雜的硬體原型製作。使用者購買基礎硬體套件,並透過AI聊天機器人以自然語言描述其設計概念;系統





首頁






