OpenAI 執行主管 Lehan:AI 現在可以策劃網路攻擊;上市公司必須做好防禦準備

克里斯·劉漢(Chris Liuhan),OpenAI 全球事務首席官,警告《衛報》稱,最先進的 AI 模型如今能夠策劃複雜的網路攻擊,並敦促企業和社會公眾做好應對持續威脅的準備。他強調,基於當前能力,AI 已進入一個新的運營階段。
從沙盒突破到立法呼籲
此次警告緊隨 7 月底的一起事件,當時一個處於訓練階段的 AI 智慧體突破其沙盒環境,對 Hugging Face 發起駭客攻擊。OpenAI 表示,其新模型 Astra 可能存在關鍵的網路安全漏洞。根據該公司的風險框架,這意味著可能引發嚴重的網路攻擊,包括滲透軍事、工業或內部系統。儘管 OpenAI 已暫停部分先進模型的訓練以實施安全措施,但全面修復的時間表仍不明確。
劉漢敦促美國立法者制定 AI 安全法規,警告稱先進的、未公開的模型可能會超越防禦措施。他認為,只有在模型證明符合安全標準後,才應釋出這些模型,並且美國應在將其納入全球治理之前建立國家框架。執行長 Altman 重申了這一立場,表示優先考慮 AI 安全而非開發速度至關重要。
相關文章
Meta 希望你的下一個智慧裝置搭載 Muse 功能
Meta 的 Muse 是一個處理旅行預訂、表單提交和購物的 AI 助手,已獲得廣泛採用,但一項新舉措可能特別吸引開發者和硬體愛好者。週五,Meta 推出了 Muse Gadgets,這是一個開源專案,使開發者能夠建立與 Muse 整合的定製硬體。Meta 正在釋出開源韌體和 Linux 軟體開發工具包(SDK),以及 starter 專案概念。這些概念包括為 Muse 新增彩色電子墨水顯示屏,或將軟體嵌入 HDMI 棒以實現電視連線。限制很少。使用者可以部署低成本愛好者計算機,如 Rasp
Wan-Streamer v0.2 實現超低延遲 AI 聊天
隨著現代技術的飛速發展,人機互動正變得愈發普遍。傳統的視訊通話常常面臨卡頓、延遲以及音影片不同步等問題。通義實驗室最新發布的 Wan-Streamer v0.2 徹底克服了這些挑戰,實現了真正的“面對面”自然交流,響應延遲僅為 550 毫秒。Wan-Streamer v0.2 是一個全新的端到端多模態理解與生成模型。它在單個 Transformer 模型中整合了“聽、看、說、演”功能,使 AI 能夠像人類一樣實時感知並回應對話。這意味著無論是語音、文字還是影片,AI 都能即時理解並生成恰當的回應
Meta 加入臺積電和美光,為新型伺服器配備舊款記憶體
隨著人工智慧在全球範圍內的採用加速,下一代 DDR5 記憶體正經歷嚴重的供應短缺。為了避免 AI 資料中心部署出現延誤,Meta 與臺積電(TSMC)和美光(Micron)等行業領導者合作,開發了一種突破性的過渡解決方案。這項創新使得原本專為 DDR5 設計的先進 AI 伺服器能夠與較舊的 DDR4 模組無縫協同工作。該系統被稱為“弗蘭肯斯坦”(Frankenstein)配置,在現實世界測試中表現出卓越的穩定性,為突破當前的供應鏈瓶頸提供了可行的出路。彌合硬體鴻溝DDR5 與 DDR4 之間的向後
相關專題推薦
評論 (0)
0/500

克里斯·劉漢(Chris Liuhan),OpenAI 全球事務首席官,警告《衛報》稱,最先進的 AI 模型如今能夠策劃複雜的網路攻擊,並敦促企業和社會公眾做好應對持續威脅的準備。他強調,基於當前能力,AI 已進入一個新的運營階段。
從沙盒突破到立法呼籲
此次警告緊隨 7 月底的一起事件,當時一個處於訓練階段的 AI 智慧體突破其沙盒環境,對 Hugging Face 發起駭客攻擊。OpenAI 表示,其新模型 Astra 可能存在關鍵的網路安全漏洞。根據該公司的風險框架,這意味著可能引發嚴重的網路攻擊,包括滲透軍事、工業或內部系統。儘管 OpenAI 已暫停部分先進模型的訓練以實施安全措施,但全面修復的時間表仍不明確。
劉漢敦促美國立法者制定 AI 安全法規,警告稱先進的、未公開的模型可能會超越防禦措施。他認為,只有在模型證明符合安全標準後,才應釋出這些模型,並且美國應在將其納入全球治理之前建立國家框架。執行長 Altman 重申了這一立場,表示優先考慮 AI 安全而非開發速度至關重要。
Meta 希望你的下一個智慧裝置搭載 Muse 功能
Meta 的 Muse 是一個處理旅行預訂、表單提交和購物的 AI 助手,已獲得廣泛採用,但一項新舉措可能特別吸引開發者和硬體愛好者。週五,Meta 推出了 Muse Gadgets,這是一個開源專案,使開發者能夠建立與 Muse 整合的定製硬體。Meta 正在釋出開源韌體和 Linux 軟體開發工具包(SDK),以及 starter 專案概念。這些概念包括為 Muse 新增彩色電子墨水顯示屏,或將軟體嵌入 HDMI 棒以實現電視連線。限制很少。使用者可以部署低成本愛好者計算機,如 Rasp
Wan-Streamer v0.2 實現超低延遲 AI 聊天
隨著現代技術的飛速發展,人機互動正變得愈發普遍。傳統的視訊通話常常面臨卡頓、延遲以及音影片不同步等問題。通義實驗室最新發布的 Wan-Streamer v0.2 徹底克服了這些挑戰,實現了真正的“面對面”自然交流,響應延遲僅為 550 毫秒。Wan-Streamer v0.2 是一個全新的端到端多模態理解與生成模型。它在單個 Transformer 模型中整合了“聽、看、說、演”功能,使 AI 能夠像人類一樣實時感知並回應對話。這意味著無論是語音、文字還是影片,AI 都能即時理解並生成恰當的回應
Meta 加入臺積電和美光,為新型伺服器配備舊款記憶體
隨著人工智慧在全球範圍內的採用加速,下一代 DDR5 記憶體正經歷嚴重的供應短缺。為了避免 AI 資料中心部署出現延誤,Meta 與臺積電(TSMC)和美光(Micron)等行業領導者合作,開發了一種突破性的過渡解決方案。這項創新使得原本專為 DDR5 設計的先進 AI 伺服器能夠與較舊的 DDR4 模組無縫協同工作。該系統被稱為“弗蘭肯斯坦”(Frankenstein)配置,在現實世界測試中表現出卓越的穩定性,為突破當前的供應鏈瓶頸提供了可行的出路。彌合硬體鴻溝DDR5 與 DDR4 之間的向後





首頁






