阿里巴巴與上海人工智慧實驗室發布人工智慧安全白皮書

隨著全球人工智慧技術從對話介面迅速演進至自主「代理」,安全與責任已成為業界必須共同恪守的關鍵要務。
在近期舉行的上海浦江人工智慧學術年會上,阿里巴巴與 上海人工智慧實驗室 共同發布了題為《自律與共享:智能時代的責任科技》的人工智慧白皮書。該文件深入分析了人工智慧代理廣泛應用所衍生的安全風險,並提出了一套植根於中國視角的治理框架。
從「對話」到「行動」:風險浮上檯面
白皮書指出,全球人工智慧產業正從基礎的語言互動,轉向複雜任務的執行。隨著智慧代理滲透至各行各業,相關的安全挑戰也日益顯現。
自律治理:強調企業必須嚴格遵守安全標準、強化內部監督,並確保技術發展始終在倫理邊界內進行。
共享效益:倡導優先考量社會福祉的技術應用,致力解決現實世界問題,而非製造新問題。
協作:呼籲業界打破部門壁壘,透過統一的安全框架共同應對共同挑戰。
安全:社會信任的基石
根據阿里巴巴(中國)網絡技術有限公司 與上海人工智慧實驗室有限公司 的觀點,安全問題無法由單一實體獨力解決。該白皮書分享了緩解智能代理相關風險的最新策略,提議業界建立共識以促進互利,並共同打造一個負責任的技術生態系統,以應對智能時代的倫理與技術挑戰。
產業觀點:在先進模型時代,「安全」是入場券
在上海市人工智慧創新中心 等頂尖研究機構的參與下,中國人工智慧產業正從狹隘地關注模型規模,轉向優先考量安全與可控性。本白皮書的發布,標誌著以阿里巴巴 為代表的主要科技企業,正在這場轉型中扮演領導角色。
相關文章
免費開源 AI 國際象棋引擎 Maia 3 正式發布,旨在提升人類的棋藝表現
Maia Chess 團隊已發布一款新的開源國際象棋引擎「Maia 3」,該引擎是透過 2.5 億盤真實人類對弈數據進行訓練的。其 Elo 評分約為 1800,比前一版本高出近 300 分。 最棒的是,它完全免費且開源,支援本地部署,這代表著讓 AI 國際象棋引擎普及大眾邁出了重要一步。獨特方法:模擬人類決策過程與 AlphaZero 和 Stockfish 等頂尖引擎不同,後者旨在追求 Elo
人工智慧創投熱潮推動單季營收突破一兆元,掀起新一波創新浪潮
全球人工智慧領域的風險投資正呈現激增態勢。今年第一季,近600輪與人工智慧相關的融資案完成,總金額超過1,100億元人民幣,較去年同期增長185.4%。主要資金集中於三大關鍵領域5月,國內領先的大型模型公司如Moonshot和Step Star取得進一步進展,募資超過300億元。與此同時,具身智能領域也吸引了大量投資,新興企業VITA Dynamics和Luming Robotics在短短一週內各
OpenAI 停用 o3 和 GPT-4.5 大型模型
作為人工智慧領域的領頭羊,OpenAI 的每項技術舉措都會在業界掀起巨大波瀾。近日,該公司發布了一項重大聲明:將從其 ChatGPT 平台退役兩款經典模型——o3 和 GPT-4.5。 常被稱為「人文天才」的 GPT-4.5 將於 6 月 27 日下線,而以強大推理能力著稱的 o3 則將於 8 月 26 日隨之退役。經典模型的退役引發懷舊之情這則突如其來的消息讓許多付費長期用戶難以接受,社群平台與
相關專題推薦
評論 (0)
0/500

隨著全球人工智慧技術從對話介面迅速演進至自主「代理」,安全與責任已成為業界必須共同恪守的關鍵要務。
在近期舉行的上海浦江人工智慧學術年會上
從「對話」到「行動」:風險浮上檯面
白皮書指出,全球人工智慧產業正從基礎的語言互動,轉向複雜任務的執行。隨著智慧代理滲透至各行各業,相關的安全挑戰也日益顯現。
自律治理:強調企業必須嚴格遵守安全標準、強化內部監督,並確保技術發展始終在倫理邊界內進行。
共享效益:倡導優先考量社會福祉的技術應用,致力解決現實世界問題,而非製造新問題。
協作:呼籲業界打破部門壁壘,透過統一的安全框架共同應對共同挑戰。
安全:社會信任的基石
根據
產業觀點:在先進模型時代,「安全」是入場券
在
人工智慧創投熱潮推動單季營收突破一兆元,掀起新一波創新浪潮
全球人工智慧領域的風險投資正呈現激增態勢。今年第一季,近600輪與人工智慧相關的融資案完成,總金額超過1,100億元人民幣,較去年同期增長185.4%。主要資金集中於三大關鍵領域5月,國內領先的大型模型公司如Moonshot和Step Star取得進一步進展,募資超過300億元。與此同時,具身智能領域也吸引了大量投資,新興企業VITA Dynamics和Luming Robotics在短短一週內各
OpenAI 停用 o3 和 GPT-4.5 大型模型
作為人工智慧領域的領頭羊,OpenAI 的每項技術舉措都會在業界掀起巨大波瀾。近日,該公司發布了一項重大聲明:將從其 ChatGPT 平台退役兩款經典模型——o3 和 GPT-4.5。 常被稱為「人文天才」的 GPT-4.5 將於 6 月 27 日下線,而以強大推理能力著稱的 o3 則將於 8 月 26 日隨之退役。經典模型的退役引發懷舊之情這則突如其來的消息讓許多付費長期用戶難以接受,社群平台與





首頁






