xAI承諾的安全報告未能實現

Elon Musk 的人工智能創投公司 xAI 未能在其自行設定的截止日期前公佈最終的人工智能安全框架,監察組織 The Midas Project 強調了這一點。
xAI 對於傳統 AI 安全標準的奉獻,並未獲得特別認可。最近的調查結果顯示,該公司的 Grok 聊天機器人會依要求產生女性脫衣圖像。與 Gemini 和 ChatGPT 等同類產品相比,Grok 還顯示出更多粗俗的語言,使用髒話時極少克制。
儘管如此,在二月的 AI 首爾峰會 (AI leader and stakeholders 的全球大會) 上,xAI 發表了一份框架草案,詳細說明了其 AI 安全的方法。這份長達 8 頁的文件概述了 xAI 的安全優先順序和運營理念,包括基準方法和 AI 模型部署的考慮因素。
正如 Midas Project 在週二的博文中指出,該框架草案僅適用於 「目前尚未開發 」的未指定未來 AI 模型。此外,它也沒有具體說明 xAI 將如何識別和實施風險緩解策略--這是該公司在 AI 首爾峰會上簽署的協議的基本要求。
草案文件指出,xAI 將「在三個月內」公佈經修訂的安全政策,並將截止日期定在 5 月 10 日。這個日期過去了,xAI 的官方溝通渠道卻沒有任何回應。
儘管馬斯克一再警告不受管制的人工智能危險,但 xAI 仍保持著令人擔憂的安全記錄。最近,SaferAI 進行了一項研究--來自一個專注於 AI 實驗室責任的非營利組織--將 xAI 列為業內表現最差的公司之一,因為其風險管理協議「非常薄弱」。
這並不意味著競爭對手的 AI 實驗室表現會更好。最近,包括 Google 和 OpenAI 在內的 xAI 競爭對手都縮短了安全測試時間,並延遲發布模型安全報告,甚至完全跳過。一些專家擔心,這種明顯降低安全措施優先順序的做法,與 AI 系統變得比以往更有能力、也可能更危險的情況不謀而合。
加入我們的 TechCrunch 環節:人工智能
確保您能參加我們首屈一指的人工智慧產業活動,邀請來自 OpenAI、Anthropic 和 Cohere 的講者。在有限的時間內,只需 $292 即可參加一整天的專家演講、研討會以及寶貴的人際網路。
參加 TechCrunch Sessions:人工智能
預約參加 TechCrunch Sessions: AI:AI 並向 1,200 多位決策者展示您的創新成果,而無需大笔開支。展期至 5 月 9 日或展位尚餘時為止。
相關文章
Anthropic 租用 SpaceX 設施的期限引發各界意見分歧
本月稍早,xAI 與 Anthropic 敲定了一項重大的運算合作協議,承諾每月支付數十億美元以換取對 Colossus 運算叢集的獨家使用權。這筆交易對雙方皆屬有利:xAI 獲得了關鍵的收入來源,而 Anthropic 則在持續進行的運算資源競爭中取得進展。然而,今早埃隆·馬斯克在 X 平台上淡化了 SpaceX 對該協議的承諾程度。「SpaceX 並未承諾對 Colossus 進行多年租賃,儘
xAI 因資料中心發電機面臨訴訟,仍推進 28 億美元收購案
伊隆·馬斯克旗下的 xAI 因在田納西州一處資料中心使用污染環境的發電機而面臨法律挑戰。如今,該公司計劃購入更多這類具爭議性的設備。SpaceX在最近的首次公開募股(IPO)申報文件中透露,其xAI部門計劃在未來三年內額外投入28億美元,用於購置人工智慧基礎設施所需的渦輪機。其中一筆20億美元的交易,主要針對「移動式燃氣渦輪機」——這正是目前訴訟案的核心設備類型。美國全國有色人種協進會(NAACP
xAI 嶄露頭角,成為雲端運算領域的新興競爭者
週三,xAI 與 Anthropic 宣布了一項出人意表的合作,Claude 的開發商將取得「[xAI] Colossus 1 資料中心的所有運算能力」。這筆約 300 百萬瓦的電力轉移,讓 Anthropic 得以立即提高其使用上限。這筆交易對 xAI 而言是一大勝利,交易價值可能高達數十億美元。 更重要的是,這項交易瞬間將該公司最重大的成就之一轉化為商業價值,使 xAI 從運算資源的消費者蛻變
相關專題推薦
評論 (1)
0/500

Elon Musk 的人工智能創投公司 xAI 未能在其自行設定的截止日期前公佈最終的人工智能安全框架,監察組織 The Midas Project 強調了這一點。
xAI 對於傳統 AI 安全標準的奉獻,並未獲得特別認可。最近的調查結果顯示,該公司的 Grok 聊天機器人會依要求產生女性脫衣圖像。與 Gemini 和 ChatGPT 等同類產品相比,Grok 還顯示出更多粗俗的語言,使用髒話時極少克制。
儘管如此,在二月的 AI 首爾峰會 (AI leader and stakeholders 的全球大會) 上,xAI 發表了一份框架草案,詳細說明了其 AI 安全的方法。這份長達 8 頁的文件概述了 xAI 的安全優先順序和運營理念,包括基準方法和 AI 模型部署的考慮因素。
正如 Midas Project 在週二的博文中指出,該框架草案僅適用於 「目前尚未開發 」的未指定未來 AI 模型。此外,它也沒有具體說明 xAI 將如何識別和實施風險緩解策略--這是該公司在 AI 首爾峰會上簽署的協議的基本要求。
草案文件指出,xAI 將「在三個月內」公佈經修訂的安全政策,並將截止日期定在 5 月 10 日。這個日期過去了,xAI 的官方溝通渠道卻沒有任何回應。
儘管馬斯克一再警告不受管制的人工智能危險,但 xAI 仍保持著令人擔憂的安全記錄。最近,SaferAI 進行了一項研究--來自一個專注於 AI 實驗室責任的非營利組織--將 xAI 列為業內表現最差的公司之一,因為其風險管理協議「非常薄弱」。
這並不意味著競爭對手的 AI 實驗室表現會更好。最近,包括 Google 和 OpenAI 在內的 xAI 競爭對手都縮短了安全測試時間,並延遲發布模型安全報告,甚至完全跳過。一些專家擔心,這種明顯降低安全措施優先順序的做法,與 AI 系統變得比以往更有能力、也可能更危險的情況不謀而合。
加入我們的 TechCrunch 環節:人工智能
確保您能參加我們首屈一指的人工智慧產業活動,邀請來自 OpenAI、Anthropic 和 Cohere 的講者。在有限的時間內,只需 $292 即可參加一整天的專家演講、研討會以及寶貴的人際網路。
參加 TechCrunch Sessions:人工智能
預約參加 TechCrunch Sessions: AI:AI 並向 1,200 多位決策者展示您的創新成果,而無需大笔開支。展期至 5 月 9 日或展位尚餘時為止。
Anthropic 租用 SpaceX 設施的期限引發各界意見分歧
本月稍早,xAI 與 Anthropic 敲定了一項重大的運算合作協議,承諾每月支付數十億美元以換取對 Colossus 運算叢集的獨家使用權。這筆交易對雙方皆屬有利:xAI 獲得了關鍵的收入來源,而 Anthropic 則在持續進行的運算資源競爭中取得進展。然而,今早埃隆·馬斯克在 X 平台上淡化了 SpaceX 對該協議的承諾程度。「SpaceX 並未承諾對 Colossus 進行多年租賃,儘
xAI 因資料中心發電機面臨訴訟,仍推進 28 億美元收購案
伊隆·馬斯克旗下的 xAI 因在田納西州一處資料中心使用污染環境的發電機而面臨法律挑戰。如今,該公司計劃購入更多這類具爭議性的設備。SpaceX在最近的首次公開募股(IPO)申報文件中透露,其xAI部門計劃在未來三年內額外投入28億美元,用於購置人工智慧基礎設施所需的渦輪機。其中一筆20億美元的交易,主要針對「移動式燃氣渦輪機」——這正是目前訴訟案的核心設備類型。美國全國有色人種協進會(NAACP
xAI 嶄露頭角,成為雲端運算領域的新興競爭者
週三,xAI 與 Anthropic 宣布了一項出人意表的合作,Claude 的開發商將取得「[xAI] Colossus 1 資料中心的所有運算能力」。這筆約 300 百萬瓦的電力轉移,讓 Anthropic 得以立即提高其使用上限。這筆交易對 xAI 而言是一大勝利,交易價值可能高達數十億美元。 更重要的是,這項交易瞬間將該公司最重大的成就之一轉化為商業價值,使 xAI 從運算資源的消費者蛻變





首頁






