Anthropic、OpenAI 和 Google 正在秘密洽談,以成立人工智慧安全標準機構
據行業訊息人士稱,在上週六 Anthropic 執行長達里奧·阿莫迪(Dario Amodei)呼籲 AI 公司合作進行技術測試和審計之前,Anthropic、OpenAI 和 Google 已經啟動了關於成立 AI 行業標準機構的討論。
內部人士透露,自七月份以來,這三家公司的代表在執行長級別以下組建了一個工作組,並定期舉行會議。本週早些時候,OpenAI 執行長山姆·阿爾特曼(Sam Altman)在一次全員會議上表示,他支援建立一個獨立的 AI 測試和審計機構,他認為主要實驗室必須在沒有美國政府參與的情況下制定此類標準。儘管他最初傾向於政府支援,但目前行業共識尚不充分,部分公司反對這一舉措。
關於三種監管模式的辯論:聯邦航空管理局、金融監管局還是行業自律
上週六,阿莫迪發表了一篇題為“我們必須放慢前沿發展的步伐”的部落格文章,呼籲減緩 AI 發展速度並建立獨立的監督機制,其中行業自律是核心組成部分。他建議,在政府起草 AI 法規的同時,企業應首先採用自願安全標準,政府可能會主導或調解行業對話。他還呼籲全球領先企業向外部評估機構(如 METR)開放與內部員工同等水平的技術訪問許可權,並承諾 Anthropic 將是首家這樣做的人。此外,他主張給予有限的反壟斷豁免,以促進安全合作。
最近卸任 Google DeepMind 執行長的德米斯·哈薩比斯(Demis Hassabis)將該提案描述為朝著正確方向邁出的一步,但他指出某些細節“仍需完善”。今年七月,他曾建議建立一個類似於美國金融業監管局(FINRA)的 AI 自律組織。SpaceX 執行長埃隆·馬斯克也表示支援。據《The Information》之前的報道,白宮曾分發一份提議建立該監管機構的行政命令草案,但在夏末未能獲得足夠的政府支援,導致相關努力停滯。前白宮 AI 主任戴維·薩克斯(David Sacks)公開反對建立類似 FINRA 的機構。
反彈:批評者稱其為“卡特爾的設計”
該提案在行業內遭到了強烈批評。Cohere 執行長艾登·戈麥斯(Aiden Gomez)表示擔憂,認為大型 AI 公司可能會聯合制定規則以限制較小的競爭對手,他表示:“這個想法聽起來完全像是卡特爾的設計。”薩克斯質疑放緩發展是否純粹出於利他主義,他認為產品責任風險已經提供了防止傷害的經濟激勵。
據內部人士透露,這三家公司關於該行業主導的標準組織的工作組會議仍在繼續,最近一次會議就在上週舉行。Meta 的立場仍不清楚;其首席 AI 官亞歷山大·王(Alexander Wang)在 X 上發帖稱“對齊是構建面向所有人的個人超級智慧的基礎”,並未明確支援或反對阿莫迪更廣泛的提案。
相關文章
OpenAI 成立專項工作組調查 Codex 異常使用情況
OpenAI 在收到使用者關於 Codex 配額使用異常的舉報後,已成立專門的調查團隊。付費 ChatGPT 訂閱使用者報告稱,每週配額出現急劇下降,餘額甚至在使用量極低的時期也迅速從 96% 降至零。Codex 產品經理 Tibo Sottiaux 對此問題作出回應,確認應急團隊已於上週日開始審查後端日誌。為減輕對使用者的影響,OpenAI 執行了第二次全球配額重置。此前於 6 月 27 日進行的重置未能完全解決問題,工程師們目前正在努力查明根本原因。此次配額異常已擾亂了開發人員和付費訂閱
法國興業銀行押注人工智慧,旨在將成本削減高達6億歐元
彭博社報道,法國興業銀行(Société Générale SA)預計,人工智慧日益擴大的作用將顯著推動成本削減舉措。這家總部位於巴黎的機構估計,當前由人工智慧驅動的成本節約潛力在5億歐元至6億歐元之間(約合38.47億至46.16億元人民幣)。到2029年,計劃並實施的措施預計將產生約3.5億歐元(約合26.93億元人民幣)的節約。與Anthropic的戰略合作及分階段整合Claude法國興業銀行強調了其與美國人工智慧領軍企業Anthropic的戰略聯盟,重點在於穩步推進其Claude大
如何建立免費的AI對話虛擬形象
大師級 Roblox 頭像定製:受 Karl Jacobs 啟發的指南簡介提升你的頭像導航頭像編輯器瀏覽流行造型定製你的角色搜尋與篩選工具利用搜尋功能按熱度篩選高階角色皮膚Mr. Beast 皮膚Ninja 皮膚Builder Man 皮膚配飾與細節獨立物品完善 Sapnap 的造型動畫與手勢啟用表情動作KSI 的標誌性動作高階造型與姿勢顏色定製使用姿勢編輯器攝影棚與回憶訪問攝影棚記錄關鍵時刻隨機化與探索隨機物品生成器獨特的背景結論Rob
相關專題推薦
評論 (0)
0/500
據行業訊息人士稱,在上週六 Anthropic 執行長達里奧·阿莫迪(Dario Amodei)呼籲 AI 公司合作進行技術測試和審計之前,Anthropic、OpenAI 和 Google 已經啟動了關於成立 AI 行業標準機構的討論。
內部人士透露,自七月份以來,這三家公司的代表在執行長級別以下組建了一個工作組,並定期舉行會議。本週早些時候,OpenAI 執行長山姆·阿爾特曼(Sam Altman)在一次全員會議上表示,他支援建立一個獨立的 AI 測試和審計機構,他認為主要實驗室必須在沒有美國政府參與的情況下制定此類標準。儘管他最初傾向於政府支援,但目前行業共識尚不充分,部分公司反對這一舉措。
關於三種監管模式的辯論:聯邦航空管理局、金融監管局還是行業自律
上週六,阿莫迪發表了一篇題為“我們必須放慢前沿發展的步伐”的部落格文章,呼籲減緩 AI 發展速度並建立獨立的監督機制,其中行業自律是核心組成部分。他建議,在政府起草 AI 法規的同時,企業應首先採用自願安全標準,政府可能會主導或調解行業對話。他還呼籲全球領先企業向外部評估機構(如 METR)開放與內部員工同等水平的技術訪問許可權,並承諾 Anthropic 將是首家這樣做的人。此外,他主張給予有限的反壟斷豁免,以促進安全合作。
最近卸任 Google DeepMind 執行長的德米斯·哈薩比斯(Demis Hassabis)將該提案描述為朝著正確方向邁出的一步,但他指出某些細節“仍需完善”。今年七月,他曾建議建立一個類似於美國金融業監管局(FINRA)的 AI 自律組織。SpaceX 執行長埃隆·馬斯克也表示支援。據《The Information》之前的報道,白宮曾分發一份提議建立該監管機構的行政命令草案,但在夏末未能獲得足夠的政府支援,導致相關努力停滯。前白宮 AI 主任戴維·薩克斯(David Sacks)公開反對建立類似 FINRA 的機構。
反彈:批評者稱其為“卡特爾的設計”
該提案在行業內遭到了強烈批評。Cohere 執行長艾登·戈麥斯(Aiden Gomez)表示擔憂,認為大型 AI 公司可能會聯合制定規則以限制較小的競爭對手,他表示:“這個想法聽起來完全像是卡特爾的設計。”薩克斯質疑放緩發展是否純粹出於利他主義,他認為產品責任風險已經提供了防止傷害的經濟激勵。
據內部人士透露,這三家公司關於該行業主導的標準組織的工作組會議仍在繼續,最近一次會議就在上週舉行。Meta 的立場仍不清楚;其首席 AI 官亞歷山大·王(Alexander Wang)在 X 上發帖稱“對齊是構建面向所有人的個人超級智慧的基礎”,並未明確支援或反對阿莫迪更廣泛的提案。
OpenAI 成立專項工作組調查 Codex 異常使用情況
OpenAI 在收到使用者關於 Codex 配額使用異常的舉報後,已成立專門的調查團隊。付費 ChatGPT 訂閱使用者報告稱,每週配額出現急劇下降,餘額甚至在使用量極低的時期也迅速從 96% 降至零。Codex 產品經理 Tibo Sottiaux 對此問題作出回應,確認應急團隊已於上週日開始審查後端日誌。為減輕對使用者的影響,OpenAI 執行了第二次全球配額重置。此前於 6 月 27 日進行的重置未能完全解決問題,工程師們目前正在努力查明根本原因。此次配額異常已擾亂了開發人員和付費訂閱
法國興業銀行押注人工智慧,旨在將成本削減高達6億歐元
彭博社報道,法國興業銀行(Société Générale SA)預計,人工智慧日益擴大的作用將顯著推動成本削減舉措。這家總部位於巴黎的機構估計,當前由人工智慧驅動的成本節約潛力在5億歐元至6億歐元之間(約合38.47億至46.16億元人民幣)。到2029年,計劃並實施的措施預計將產生約3.5億歐元(約合26.93億元人民幣)的節約。與Anthropic的戰略合作及分階段整合Claude法國興業銀行強調了其與美國人工智慧領軍企業Anthropic的戰略聯盟,重點在於穩步推進其Claude大
如何建立免費的AI對話虛擬形象
大師級 Roblox 頭像定製:受 Karl Jacobs 啟發的指南簡介提升你的頭像導航頭像編輯器瀏覽流行造型定製你的角色搜尋與篩選工具利用搜尋功能按熱度篩選高階角色皮膚Mr. Beast 皮膚Ninja 皮膚Builder Man 皮膚配飾與細節獨立物品完善 Sapnap 的造型動畫與手勢啟用表情動作KSI 的標誌性動作高階造型與姿勢顏色定製使用姿勢編輯器攝影棚與回憶訪問攝影棚記錄關鍵時刻隨機化與探索隨機物品生成器獨特的背景結論Rob





首頁






