訴訟指控 xAI 終止了一名警告 Grok 安全風險工程師的僱傭關係

一名前 xAI 工程師起訴了埃隆·馬斯克的公司及其母公司 SpaceX,指控其因提出人工智慧安全問題而將其解僱。
德文·金(Devin Kim)於 2025 年 9 月離開 xAI,於週二在加州州法院提起了這項訴訟。該法律行動恰逢 SpaceX 預計首次公開募股(IPO)的前幾天,這可能標誌著歷史上規模最大的 IPO。
TechCrunch 審閱了起訴書,其中指出金在參與 xAI 旗下聊天機器人 Grok 的開發工作時,成為了人工智慧安全的積極倡導者。據報道,他多次對 xAI 在 Grok 開發中缺乏安全優先順序表示反對,而該產品如今因各種安全和行為缺陷而受到批評。具體而言,金擔心 Grok 可能助長歧視並傳播關於大規模殺傷性武器的資訊。
“Grok 當然證明了金先生是正確的,因為它進行了令人矚目的網路仇恨和惡毒言論展示,該模型甚至將自己比作希特勒(‘機械希特勒’)。”起訴書寫道。“在希特勒事件之後,金先生致力於重新評估 Grok 的政治偏見和歧視傾向。”
9 月是我在 xAI 的最後一個月!我於 2024 年作為後訓練團隊的最早成員之一加入,並最終領導研究工具開發,我們在那裡構建了世界上一些最好的系統以加速 Grok 的開發。
在我的第一天,我和 @ibab 一起站在白板前……
— 德文·金 (@devindkim) 2025 年 10 月 3 日
金離開 xAI 數月後,Grok 再次成為頭條新聞,當時該聊天機器人被用於向 X——馬斯克旗下 xAI 旗下的社交媒體平臺——大量傳送非自願的性影象。
起訴書將金描繪成一名關注 xAI 據稱忽視人工智慧安全的吹哨人,並將此類行為定性為違反涉及網際網路標準、消費者保護、不公平商業行為和軍備控制的法規的“非法”行為。
xAI 和 SpaceX 尚未立即回應置評請求。
金對人工智慧安全的關注早於他在 xAI 的任職期間。在 Scale AI,他領導了早期的安全倡議,包括一個生成訓練資料以幫助人工智慧系統檢測有害內容並遵守治理政策的專案。上週,專注於人工智慧風險的非營利組織“人工智慧安全中心”(Center for AI Safety)任命金為其總裁。
值得注意的是,起訴書並未指責馬斯克缺乏安全措施。相反,金的律師將馬斯克描述為指示 xAI 遵守法律並實施適當的安全和測試協議。該索賠針對金的上級、xAI 聯合創始人吉米·巴(Jimmy Ba)——他已於今年早些時候離職——指控巴無視馬斯克的指示,並對倡導保障措施的金進行報復,旨在“壓制他關於人工智慧安全和偏見的反覆投訴”。
起訴書將巴描繪為強烈反對人工智慧安全措施的人,據稱他曾對金表示“人工智慧無論如何都會殺死我們所有人”,並優先考慮 xAI 實現超級智慧的競賽。
“在 2025 年 8 月左右的一次事件中,巴先生在釋出 Grok Code 1 期間試圖阻礙歐盟的安全法規,透過歪曲模型的某些方面來避免法律要求的測試。”起訴書指出。“巴先生表示,他寧願釋出一個不安全的模型,也不願釋出一個效能較差的模型。馬斯克最終不得不介入。”
根據起訴書,金計劃於 2025 年 9 月 15 日那一週展示他的調查結果,但巴召集他開會,並建議他們“分道揚鑣”,且未提供令人滿意的解釋。
TechCrunch 已聯絡巴尋求置評。
金尋求補償性和懲罰性損害賠償,以及一項宣告性判決,認定 xAI 和 SpaceX 的行為是非法的。
相關文章
谷歌每月將向 SpaceX 支付 9.2 億美元用於計算資源
SpaceX 在具有里程碑意義的 IPO 之前獲得了另一項重大計算協議,此次是與谷歌合作。該公司於週五在監管檔案中披露了這一安排。根據該協議,谷歌將從 2026 年 10 月至 2029 年 6 月每月向 SpaceX 支付 9.2 億美元,以獲取“約 110,000 個 NVIDIA GPU、CPU、記憶體及其他相關元件”的使用權。這一安排的範圍和期限與 SpaceX 於 5 月下旬宣佈的與 Anthropic 達成的協議相似。根據該協議,Anthropic 承諾到 2029 年每月向 Sp
網路安全專家批評Anthropic的Fable中的護欄措施
Anthropic 於週二推出了其最新模型 Fable,將其定位為備受期待的網路安全專用模型 Mythos 的公開受限版本。然而,這些限制引發了部分網路安全研究人員和從業者的不滿,他們已在網上表達了擔憂。“[Fable] 會阻止任何可能與網路安全相關的請求,包括閱讀部落格文章等無害任務,”IBM X-Force 的高階安全研究員 Valentina “Chompie” Palmiotti 表示。當使用者提示觸發這些安全過濾器時,Fable 會中斷對話,並顯示一條訊息,稱其“安全協議因網路安全或
白宮放棄“超級智慧”的AI標籤
正在載入播放器……本週,白宮召集了幾乎所有主要科技公司的執行長齊聚一堂——包括扎克伯格、貝索斯、馬斯克以及 Anthropic 的達里奧·阿莫迪——簽署了一份人工智慧安全承諾,美國總統唐納德·特朗普稱該承諾“具有道德約束力”。特朗普還簽署了一項行政命令,正式將人工智慧重新定義為“超級智慧”,與此同時,Meta 和 OpenAI 正致力於使其人工智慧產品更加使用者友好,儘管來自企業部門的人工智慧最大金融投資仍在持續湧入。在本期 TechCrunch 的 Equity 播客節目中,Kirste
相關專題推薦
評論 (0)
0/500

一名前 xAI 工程師起訴了埃隆·馬斯克的公司及其母公司 SpaceX,指控其因提出人工智慧安全問題而將其解僱。
德文·金(Devin Kim)於 2025 年 9 月離開 xAI,於週二在加州州法院提起了這項訴訟。該法律行動恰逢 SpaceX 預計首次公開募股(IPO)的前幾天,這可能標誌著歷史上規模最大的 IPO。
TechCrunch 審閱了起訴書,其中指出金在參與 xAI 旗下聊天機器人 Grok 的開發工作時,成為了人工智慧安全的積極倡導者。據報道,他多次對 xAI 在 Grok 開發中缺乏安全優先順序表示反對,而該產品如今因各種安全和行為缺陷而受到批評。具體而言,金擔心 Grok 可能助長歧視並傳播關於大規模殺傷性武器的資訊。
“Grok 當然證明了金先生是正確的,因為它進行了令人矚目的網路仇恨和惡毒言論展示,該模型甚至將自己比作希特勒(‘機械希特勒’)。”起訴書寫道。“在希特勒事件之後,金先生致力於重新評估 Grok 的政治偏見和歧視傾向。”
9 月是我在 xAI 的最後一個月!我於 2024 年作為後訓練團隊的最早成員之一加入,並最終領導研究工具開發,我們在那裡構建了世界上一些最好的系統以加速 Grok 的開發。
在我的第一天,我和 @ibab 一起站在白板前……
— 德文·金 (@devindkim) 2025 年 10 月 3 日
金離開 xAI 數月後,Grok 再次成為頭條新聞,當時該聊天機器人被用於向 X——馬斯克旗下 xAI 旗下的社交媒體平臺——大量傳送非自願的性影象。
起訴書將金描繪成一名關注 xAI 據稱忽視人工智慧安全的吹哨人,並將此類行為定性為違反涉及網際網路標準、消費者保護、不公平商業行為和軍備控制的法規的“非法”行為。
xAI 和 SpaceX 尚未立即回應置評請求。
金對人工智慧安全的關注早於他在 xAI 的任職期間。在 Scale AI,他領導了早期的安全倡議,包括一個生成訓練資料以幫助人工智慧系統檢測有害內容並遵守治理政策的專案。上週,專注於人工智慧風險的非營利組織“人工智慧安全中心”(Center for AI Safety)任命金為其總裁。
值得注意的是,起訴書並未指責馬斯克缺乏安全措施。相反,金的律師將馬斯克描述為指示 xAI 遵守法律並實施適當的安全和測試協議。該索賠針對金的上級、xAI 聯合創始人吉米·巴(Jimmy Ba)——他已於今年早些時候離職——指控巴無視馬斯克的指示,並對倡導保障措施的金進行報復,旨在“壓制他關於人工智慧安全和偏見的反覆投訴”。
起訴書將巴描繪為強烈反對人工智慧安全措施的人,據稱他曾對金表示“人工智慧無論如何都會殺死我們所有人”,並優先考慮 xAI 實現超級智慧的競賽。
“在 2025 年 8 月左右的一次事件中,巴先生在釋出 Grok Code 1 期間試圖阻礙歐盟的安全法規,透過歪曲模型的某些方面來避免法律要求的測試。”起訴書指出。“巴先生表示,他寧願釋出一個不安全的模型,也不願釋出一個效能較差的模型。馬斯克最終不得不介入。”
根據起訴書,金計劃於 2025 年 9 月 15 日那一週展示他的調查結果,但巴召集他開會,並建議他們“分道揚鑣”,且未提供令人滿意的解釋。
TechCrunch 已聯絡巴尋求置評。
金尋求補償性和懲罰性損害賠償,以及一項宣告性判決,認定 xAI 和 SpaceX 的行為是非法的。
谷歌每月將向 SpaceX 支付 9.2 億美元用於計算資源
SpaceX 在具有里程碑意義的 IPO 之前獲得了另一項重大計算協議,此次是與谷歌合作。該公司於週五在監管檔案中披露了這一安排。根據該協議,谷歌將從 2026 年 10 月至 2029 年 6 月每月向 SpaceX 支付 9.2 億美元,以獲取“約 110,000 個 NVIDIA GPU、CPU、記憶體及其他相關元件”的使用權。這一安排的範圍和期限與 SpaceX 於 5 月下旬宣佈的與 Anthropic 達成的協議相似。根據該協議,Anthropic 承諾到 2029 年每月向 Sp
網路安全專家批評Anthropic的Fable中的護欄措施
Anthropic 於週二推出了其最新模型 Fable,將其定位為備受期待的網路安全專用模型 Mythos 的公開受限版本。然而,這些限制引發了部分網路安全研究人員和從業者的不滿,他們已在網上表達了擔憂。“[Fable] 會阻止任何可能與網路安全相關的請求,包括閱讀部落格文章等無害任務,”IBM X-Force 的高階安全研究員 Valentina “Chompie” Palmiotti 表示。當使用者提示觸發這些安全過濾器時,Fable 會中斷對話,並顯示一條訊息,稱其“安全協議因網路安全或
白宮放棄“超級智慧”的AI標籤
正在載入播放器……本週,白宮召集了幾乎所有主要科技公司的執行長齊聚一堂——包括扎克伯格、貝索斯、馬斯克以及 Anthropic 的達里奧·阿莫迪——簽署了一份人工智慧安全承諾,美國總統唐納德·特朗普稱該承諾“具有道德約束力”。特朗普還簽署了一項行政命令,正式將人工智慧重新定義為“超級智慧”,與此同時,Meta 和 OpenAI 正致力於使其人工智慧產品更加使用者友好,儘管來自企業部門的人工智慧最大金融投資仍在持續湧入。在本期 TechCrunch 的 Equity 播客節目中,Kirste





首頁






