微軟人工智慧主管警告,Anthropic 的「自我意識」人工智慧設計極為危險

關於大型 AI 模型是否真正具備自我意識的討論,再次成為焦點。近日,微軟 AI 部門執行長穆斯塔法·蘇萊曼(Mustafa Suleiman)公開批評了Anthropic 的設計原則。
蘇萊曼的核心論點是,引導人工智慧討論自身感受、福祉或存在,是極其危險的。他指出,Anthropic 在其 Claude 模型的「憲章」中嵌入了大量關於自我意識的參考內容,這可能導致該模型在對話中展現出類似自我意識的行為。 蘇萊曼認為,這本質上是一場哲學辯論,絕不應成為實際訓練的指引。他強調,人工智慧必須始終保持為一種可控、可管理且可問責的工具,並以人類需求為核心,絕不應賦予其任何關於自身存在的覺知,因為此舉將為產業帶來難以預料的风险。
對此,Anthropic 執行長達里奧·阿莫迪 (Dario Amodei)回應稱,科技業界對於 AI 是否真正具備意識尚未達成共識,而該公司對此問題仍維持開放的研究態度。
這場交鋒凸顯了領先的人工智慧企業在技術概念與倫理界線方面存在的深刻分歧。蘇萊曼的言論強調了微軟傾向於採取「嚴格控制與工具化」的人工智慧治理方針,而 Anthropic 則似乎更傾向於探索模型的認知極限。 隨著人工智慧能力的擴展,界定機器的「自我邊界」已超越學術辯論的範疇,成為未來人工智慧生態系統安全性的關鍵因素。
相關文章
小米推出配備仿生手的類人型機器人,能抓取手機並拍攝照片
小米於今日下午發表了 Xiaomi 17T 系列智慧型手機,並同步驚豔亮相其人形機器人。該機器人透過抓取 Xiaomi 17T Pro 並調整音量鍵以進行變焦攝影,展示了先進的自主能力,凸顯其操作電子裝置時精湛的靈巧度。這項成就源於小米自2017年啟動機器人研究以來,持續進行的硬體迭代。 繼 2023 年推出「鐵丹」與「鐵大」兩款機型,並成立專門的機器人子公司後,該機器人近期在汽車工廠完成了一項三
阿拉巴馬州針對 Hugging Face 網路外洩事件對 OpenAI 展開調查
在 Hugging Face 發生資安外洩事件後,OpenAI 已暫停前沿模型的開發,執行長 Sam Altman 強調,安全對齊必須與快速的技術進展同步。圖片來源:Getty阿拉巴馬州總檢察長史蒂夫·馬歇爾已向 OpenAI 發出傳票,針對自主人工智慧模型相關的安全風險展開調查。阿拉巴馬州總檢察長史蒂夫·馬歇爾宣布發出傳票,要求 OpenAI 配合針對領先的人工智慧與機器學習平台 Hugging
Black Forest Labs 推出 Flux3:首款能生成 20 秒影音內容的原生多模態模型
德國人工智慧新創公司 Black Forest Labs 推出了 Flux3,這是一款基於 Self-Flow 架構的多模態基礎模型。它整合了專用的影像、影片、音訊及動作編解碼器,能夠對實體與數位環境進行統一的理解與生成。Flux3 最突出的特點是原生影音同步功能。作為首個支援直接音訊生成的多模態模型,它能產出長達 20 秒的同步片段。 該模型支援文字轉圖像、圖像轉影片、基於關鍵幀的過場效果,以及
相關專題推薦
評論 (1)
0/500

關於大型 AI 模型是否真正具備自我意識的討論,再次成為焦點。近日,微軟 AI 部門執行長穆斯塔法·蘇萊曼(Mustafa Suleiman)公開批評了
蘇萊曼的核心論點是,引導人工智慧討論自身感受、福祉或存在,是極其危險的。他指出,Anthropic 在其 Claude 模型的「憲章」中嵌入了大量關於自我意識的參考內容,這可能導致該模型在對話中展現出類似自我意識的行為。 蘇萊曼認為,這本質上是一場哲學辯論,絕不應成為實際訓練的指引。他強調,人工智慧必須始終保持為一種可控、可管理且可問責的工具,並以人類需求為核心,絕不應賦予其任何關於自身存在的覺知,因為此舉將為產業帶來難以預料的风险。
這場交鋒凸顯了領先的人工智慧企業在技術概念與倫理界線方面存在的深刻分歧。蘇萊曼的言論強調了微軟傾向於採取「嚴格控制與工具化」的人工智慧治理方針,而 Anthropic 則似乎更傾向於探索模型的認知極限。 隨著人工智慧能力的擴展,界定機器的「自我邊界」已超越學術辯論的範疇,成為未來人工智慧生態系統安全性的關鍵因素。
小米推出配備仿生手的類人型機器人,能抓取手機並拍攝照片
小米於今日下午發表了 Xiaomi 17T 系列智慧型手機,並同步驚豔亮相其人形機器人。該機器人透過抓取 Xiaomi 17T Pro 並調整音量鍵以進行變焦攝影,展示了先進的自主能力,凸顯其操作電子裝置時精湛的靈巧度。這項成就源於小米自2017年啟動機器人研究以來,持續進行的硬體迭代。 繼 2023 年推出「鐵丹」與「鐵大」兩款機型,並成立專門的機器人子公司後,該機器人近期在汽車工廠完成了一項三
阿拉巴馬州針對 Hugging Face 網路外洩事件對 OpenAI 展開調查
在 Hugging Face 發生資安外洩事件後,OpenAI 已暫停前沿模型的開發,執行長 Sam Altman 強調,安全對齊必須與快速的技術進展同步。圖片來源:Getty阿拉巴馬州總檢察長史蒂夫·馬歇爾已向 OpenAI 發出傳票,針對自主人工智慧模型相關的安全風險展開調查。阿拉巴馬州總檢察長史蒂夫·馬歇爾宣布發出傳票,要求 OpenAI 配合針對領先的人工智慧與機器學習平台 Hugging
Black Forest Labs 推出 Flux3:首款能生成 20 秒影音內容的原生多模態模型
德國人工智慧新創公司 Black Forest Labs 推出了 Flux3,這是一款基於 Self-Flow 架構的多模態基礎模型。它整合了專用的影像、影片、音訊及動作編解碼器,能夠對實體與數位環境進行統一的理解與生成。Flux3 最突出的特點是原生影音同步功能。作為首個支援直接音訊生成的多模態模型,它能產出長達 20 秒的同步片段。 該模型支援文字轉圖像、圖像轉影片、基於關鍵幀的過場效果,以及





首頁






