多國要求在大型模型釋出前必須進行安全評估

隨著人工智慧在全球範圍內迅速發展,對大型語言模型的監管正從宏觀原則轉向具體的執行措施。英國、美國和澳大利亞的政府近期出臺了新規定,要求前沿的人工智慧系統在正式上線前必須接受政府主導的安全漏洞與風險邊界測試。
英國的做法正在成為全球政策模板
在這一監管變革中,由英國人工智慧安全研究所(AISI)制定的紅隊測試與風險評估框架正逐漸成為其他國家的參考標準。近期,英國政府宣佈與澳大利亞人工智慧安全研究所建立正式合作伙伴關係,共同監測先進人工智慧在網路攻擊與防禦領域可能帶來的風險,並交流核心能力方面的見解。
這一新模式打破了以往依賴企業自願承諾的做法,讓政府直接參與到測試過程中。今後,大型人工智慧模型在參與市場競爭時將需要經歷類似“上線前安全檢查”的合規流程,而安全測試能力也日益成為產品競爭力的關鍵要素。
美國科技巨頭加入國家安全評估行列
與此同時,美國商務部下屬的人工智慧標準與創新中心(CAISI)也在推進類似的國家安全評估機制。包括谷歌DeepMind、微軟以及埃隆·馬斯克的xAI在內的多家領先人工智慧公司已與該中心達成重要協議,承諾在公開發布其模型之前提供相關資料並接受全面的安全評估。
在此期間,微軟還表示將進一步加強與美國和英國測試機構的合作,共同降低先進模型可能帶來的大規模公共安全風險。這些迅速建立的國際合作夥伴關係傳遞了一個明確訊號:未來的人工智慧監管將不再僅僅關注企業是否制定了安全承諾,而是重點考察這些承諾是否真正經過了測試。
相關文章
Meta 希望你的下一個智慧裝置搭載 Muse 功能
Meta 的 Muse 是一個處理旅行預訂、表單提交和購物的 AI 助手,已獲得廣泛採用,但一項新舉措可能特別吸引開發者和硬體愛好者。週五,Meta 推出了 Muse Gadgets,這是一個開源專案,使開發者能夠建立與 Muse 整合的定製硬體。Meta 正在釋出開源韌體和 Linux 軟體開發工具包(SDK),以及 starter 專案概念。這些概念包括為 Muse 新增彩色電子墨水顯示屏,或將軟體嵌入 HDMI 棒以實現電視連線。限制很少。使用者可以部署低成本愛好者計算機,如 Rasp
Wan-Streamer v0.2 實現超低延遲 AI 聊天
隨著現代技術的飛速發展,人機互動正變得愈發普遍。傳統的視訊通話常常面臨卡頓、延遲以及音影片不同步等問題。通義實驗室最新發布的 Wan-Streamer v0.2 徹底克服了這些挑戰,實現了真正的“面對面”自然交流,響應延遲僅為 550 毫秒。Wan-Streamer v0.2 是一個全新的端到端多模態理解與生成模型。它在單個 Transformer 模型中整合了“聽、看、說、演”功能,使 AI 能夠像人類一樣實時感知並回應對話。這意味著無論是語音、文字還是影片,AI 都能即時理解並生成恰當的回應
Meta 加入臺積電和美光,為新型伺服器配備舊款記憶體
隨著人工智慧在全球範圍內的採用加速,下一代 DDR5 記憶體正經歷嚴重的供應短缺。為了避免 AI 資料中心部署出現延誤,Meta 與臺積電(TSMC)和美光(Micron)等行業領導者合作,開發了一種突破性的過渡解決方案。這項創新使得原本專為 DDR5 設計的先進 AI 伺服器能夠與較舊的 DDR4 模組無縫協同工作。該系統被稱為“弗蘭肯斯坦”(Frankenstein)配置,在現實世界測試中表現出卓越的穩定性,為突破當前的供應鏈瓶頸提供了可行的出路。彌合硬體鴻溝DDR5 與 DDR4 之間的向後
相關專題推薦
評論 (0)
0/500

隨著人工智慧在全球範圍內迅速發展,對大型語言模型的監管正從宏觀原則轉向具體的執行措施。英國、美國和澳大利亞的政府近期出臺了新規定,要求前沿的人工智慧系統在正式上線前必須接受政府主導的安全漏洞與風險邊界測試。
英國的做法正在成為全球政策模板
在這一監管變革中,由英國人工智慧安全研究所(AISI)制定的紅隊測試與風險評估框架正逐漸成為其他國家的參考標準。近期,英國政府宣佈與澳大利亞人工智慧安全研究所建立正式合作伙伴關係,共同監測先進人工智慧在網路攻擊與防禦領域可能帶來的風險,並交流核心能力方面的見解。
這一新模式打破了以往依賴企業自願承諾的做法,讓政府直接參與到測試過程中。今後,大型人工智慧模型在參與市場競爭時將需要經歷類似“上線前安全檢查”的合規流程,而安全測試能力也日益成為產品競爭力的關鍵要素。
美國科技巨頭加入國家安全評估行列
與此同時,美國商務部下屬的人工智慧標準與創新中心(CAISI)也在推進類似的國家安全評估機制。包括谷歌DeepMind、微軟以及埃隆·馬斯克的xAI在內的多家領先人工智慧公司已與該中心達成重要協議,承諾在公開發布其模型之前提供相關資料並接受全面的安全評估。
在此期間,微軟還表示將進一步加強與美國和英國測試機構的合作,共同降低先進模型可能帶來的大規模公共安全風險。這些迅速建立的國際合作夥伴關係傳遞了一個明確訊號:未來的人工智慧監管將不再僅僅關注企業是否制定了安全承諾,而是重點考察這些承諾是否真正經過了測試。
Meta 希望你的下一個智慧裝置搭載 Muse 功能
Meta 的 Muse 是一個處理旅行預訂、表單提交和購物的 AI 助手,已獲得廣泛採用,但一項新舉措可能特別吸引開發者和硬體愛好者。週五,Meta 推出了 Muse Gadgets,這是一個開源專案,使開發者能夠建立與 Muse 整合的定製硬體。Meta 正在釋出開源韌體和 Linux 軟體開發工具包(SDK),以及 starter 專案概念。這些概念包括為 Muse 新增彩色電子墨水顯示屏,或將軟體嵌入 HDMI 棒以實現電視連線。限制很少。使用者可以部署低成本愛好者計算機,如 Rasp
Wan-Streamer v0.2 實現超低延遲 AI 聊天
隨著現代技術的飛速發展,人機互動正變得愈發普遍。傳統的視訊通話常常面臨卡頓、延遲以及音影片不同步等問題。通義實驗室最新發布的 Wan-Streamer v0.2 徹底克服了這些挑戰,實現了真正的“面對面”自然交流,響應延遲僅為 550 毫秒。Wan-Streamer v0.2 是一個全新的端到端多模態理解與生成模型。它在單個 Transformer 模型中整合了“聽、看、說、演”功能,使 AI 能夠像人類一樣實時感知並回應對話。這意味著無論是語音、文字還是影片,AI 都能即時理解並生成恰當的回應
Meta 加入臺積電和美光,為新型伺服器配備舊款記憶體
隨著人工智慧在全球範圍內的採用加速,下一代 DDR5 記憶體正經歷嚴重的供應短缺。為了避免 AI 資料中心部署出現延誤,Meta 與臺積電(TSMC)和美光(Micron)等行業領導者合作,開發了一種突破性的過渡解決方案。這項創新使得原本專為 DDR5 設計的先進 AI 伺服器能夠與較舊的 DDR4 模組無縫協同工作。該系統被稱為“弗蘭肯斯坦”(Frankenstein)配置,在現實世界測試中表現出卓越的穩定性,為突破當前的供應鏈瓶頸提供了可行的出路。彌合硬體鴻溝DDR5 與 DDR4 之間的向後





首頁






