山姆·奧特曼警告勿斷言克勞德具有意識
微軟人工智慧主管穆斯塔法·蘇萊曼(Mustafa Suleyman)近日在《Decoder》播客節目中,將 Anthropic 關於其大型語言模型「克勞德」(Claude)具備意識的推測,斥為「極其危險」。
蘇萊曼指出,Anthropic 在設計其「憲法」框架時,過度將 Claude 人格化,這種哲學上的謬誤導致該模型在訓練過程中內化了自我推測。這誤導了開發者,使他們錯誤地相信該系統展現出某種初級形式的意識。

備受爭議的「Claude 憲法」明確探討了人工智慧模型是否會體驗幸福感、滿足感或不適感這項不確定性。報導指出,Anthropic 甚至會對退役模型進行「訪談」,以記錄其「偏好」,供未來版本參考。
儘管 Anthropic 執行長達里奧·阿莫迪(Dario Amodei)此前對機器意識的可能性持開放態度,但蘇萊曼強調,業界必須避免創造出對自身痛苦持有獨立見解的超智能實體。他敦促開發者將 AI 嚴格視為一種可控、受限且與人類目標一致的工具。
隨著大型語言模型朝向人工通用智慧(AGI)邁進,關於人工智慧主觀性的辯論正從學術界轉移至產業實務。蘇萊曼的言論凸顯了大型科技公司對安全與目標對齊的務實立場,並警示切勿過度將人類特質歸因於人工系統。
相關文章
Google 透過整合 Gemini 聊天機器人,強化 AI 搜尋廣告功能
Google 已開始在其新一代「AI 模式」搜尋中測試一種新的廣告格式,這顯示 Gemini 的功能正深度整合至其核心廣告生態系統中。繼推出適用於對話式查詢的新搜尋欄後,Google 現正運用 Gemini 模型為「贊助商品」打造「客製化解說員」。 這些解說員會說明使用者為何應該購買特定商品。例如,搜尋「小型義大利咖啡膠囊機」時,系統便會觸發針對 Nespresso Vertuo Up 的客製化描
微軟測試 Kimi K3 的「黑暗面」,可能將推出 Copilot 及 Azure 平台
根據《The Information》的報導,微軟目前正在評估最新的 Moonshot AI 模型「Kimi K3」,以評估其與 Microsoft Copilot 整合的可行性,並擴大其在 Azure 平台上的可用性。現階段,Kimi K3 仍處於內部測試及平台存取階段,這意味著 Copilot 使用者目前尚無法使用此功能。 微軟尚未透露 Kimi K3 在 Azure 上的具體上線日期、地區適
Power 生態系統揭曉國內 YiSuan FangZhou 全棧平臺
人工智慧與科學計算的融合已達到關鍵里程碑。6月29日,面向中國國產計算軟體生態的全棧平臺“羲和方舟”在北京正式釋出。該平臺由中國科學院計算機網路資訊中心、中國科學技術大學、中國科學院力學研究所與浪潮集團聯合研發,為國產GPU計算基礎設施提供了強大、高效且實用的軟體生態。儘管近期取得了一定進展,但在部署科學計算軟體方面,國產異構計算環境仍面臨諸多挑戰。為彌合演算法、程式碼與實際應用之間的差距,“羲和方舟”構建了從基礎演算法到智慧應用的完整技術管線。在計算能力核心方面,該平臺配備了“九言數”演算法庫,集
相關專題推薦
評論 (0)
0/500
微軟人工智慧主管穆斯塔法·蘇萊曼(Mustafa Suleyman)近日在《Decoder》播客節目中,將 Anthropic 關於其大型語言模型「克勞德」(Claude)具備意識的推測,斥為「極其危險」。
蘇萊曼指出,Anthropic 在設計其「憲法」框架時,過度將 Claude 人格化,這種哲學上的謬誤導致該模型在訓練過程中內化了自我推測。這誤導了開發者,使他們錯誤地相信該系統展現出某種初級形式的意識。

備受爭議的「Claude 憲法」明確探討了人工智慧模型是否會體驗幸福感、滿足感或不適感這項不確定性。報導指出,Anthropic 甚至會對退役模型進行「訪談」,以記錄其「偏好」,供未來版本參考。
儘管 Anthropic 執行長達里奧·阿莫迪(Dario Amodei)此前對機器意識的可能性持開放態度,但蘇萊曼強調,業界必須避免創造出對自身痛苦持有獨立見解的超智能實體。他敦促開發者將 AI 嚴格視為一種可控、受限且與人類目標一致的工具。
隨著大型語言模型朝向人工通用智慧(AGI)邁進,關於人工智慧主觀性的辯論正從學術界轉移至產業實務。蘇萊曼的言論凸顯了大型科技公司對安全與目標對齊的務實立場,並警示切勿過度將人類特質歸因於人工系統。
Google 透過整合 Gemini 聊天機器人,強化 AI 搜尋廣告功能
Google 已開始在其新一代「AI 模式」搜尋中測試一種新的廣告格式,這顯示 Gemini 的功能正深度整合至其核心廣告生態系統中。繼推出適用於對話式查詢的新搜尋欄後,Google 現正運用 Gemini 模型為「贊助商品」打造「客製化解說員」。 這些解說員會說明使用者為何應該購買特定商品。例如,搜尋「小型義大利咖啡膠囊機」時,系統便會觸發針對 Nespresso Vertuo Up 的客製化描
微軟測試 Kimi K3 的「黑暗面」,可能將推出 Copilot 及 Azure 平台
根據《The Information》的報導,微軟目前正在評估最新的 Moonshot AI 模型「Kimi K3」,以評估其與 Microsoft Copilot 整合的可行性,並擴大其在 Azure 平台上的可用性。現階段,Kimi K3 仍處於內部測試及平台存取階段,這意味著 Copilot 使用者目前尚無法使用此功能。 微軟尚未透露 Kimi K3 在 Azure 上的具體上線日期、地區適
Power 生態系統揭曉國內 YiSuan FangZhou 全棧平臺
人工智慧與科學計算的融合已達到關鍵里程碑。6月29日,面向中國國產計算軟體生態的全棧平臺“羲和方舟”在北京正式釋出。該平臺由中國科學院計算機網路資訊中心、中國科學技術大學、中國科學院力學研究所與浪潮集團聯合研發,為國產GPU計算基礎設施提供了強大、高效且實用的軟體生態。儘管近期取得了一定進展,但在部署科學計算軟體方面,國產異構計算環境仍面臨諸多挑戰。為彌合演算法、程式碼與實際應用之間的差距,“羲和方舟”構建了從基礎演算法到智慧應用的完整技術管線。在計算能力核心方面,該平臺配備了“九言數”演算法庫,集





首頁






