OpenAI機器人專案主管凱特琳·卡利諾夫斯基因五角大樓合作專案辭職

OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。
“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”
卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她的離職是出於“原則,而非對人”,並表示對執行長薩姆·阿爾特曼(Sam Altman)以及更廣泛的 OpenAI 團隊懷有“深深的敬意”。
隨後,卡利諾夫斯基在 X 平臺發帖澄清道:“我的主要擔憂是,該公告在缺乏明確界定的護欄的情況下倉促發布。這從根本上是一個治理問題。這些問題至關重要,不能透過倉促的交易或公告來處理。”
OpenAI 的一位發言人向 TechCrunch 證實了卡利諾夫斯基的離職。
“我們認為,我們與五角大樓的協議建立了一個可行的框架,用於負責任地應用人工智慧於國家安全領域,同時明確劃定了我們的紅線:不進行國內監視,不部署自主武器,”該公司表示。“我們承認對這些議題存在強烈分歧,並致力於繼續與員工、政府官員、公民社會以及全球各地社羣進行對話。”
五角大樓的協議在宣佈僅一週多前,是在五角大樓與 Anthropic 的談判破裂後達成的。Anthropic 曾尋求保障措施,以防止其技術被用於大規模國內監視或完全自主的武器系統,這導致五角大樓將 Anthropic 列為供應鏈風險。(Anthropic 計劃透過法院挑戰這一認定;與此同時,微軟、谷歌和亞馬遜已同意繼續向非國防客戶提供 Anthropic 的 Claude 服務。)
隨後,OpenAI 迅速宣佈了自己的協議,允許其技術在機密環境中使用。當高管們試圖在網上澄清該協議時,公司稱其採用了“更廣泛、多層次的方法”,將合同語言與技術保障措施相結合,以保護類似於 Anthropic 提出的紅線。
儘管做出了這些努力,爭議似乎已影響部分使用者對 OpenAI 聲譽的看法,ChatGPT 的解除安裝率飆升了 295%,而 Claude 則躍居應用商店排行榜首位。截至週六下午,Claude 和 ChatGPT 分別仍是美國 App Store 免費應用排行榜的第一名和第二名。
相關文章
OpenAI 在企業使用者中與 Anthropic 的差距縮小,新資料顯示
在 OpenAI 和 Anthropic 距離預期的首次公開募股(IPO)以及詳細財務報告的釋出仍有距離的情況下,我們必須轉向其他指標來評估它們的業務表現。企業信用卡和費用管理平臺 Ramp 最近釋出了令人信服的資料,顯示 OpenAI 正在迅速縮小與美國企業使用者中 Anthropic 的差距。OpenAI 此前在消費者和企業客戶中都佔據主導地位,但在今年 5 月,它失去了在 Ramp 付費企業使用者中的領先地位。當時,Anthropic 佔據了 41% 的市場份額,而 OpenAI 為 39%
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
相關專題推薦
評論 (0)
0/500

OpenAI 機器人業務負責人凱特琳·卡利諾夫斯基(Caitlin Kalinowski)在該公司與國防部達成備受爭議的合作伙伴關係後辭職。
“這不是一個輕鬆的決定,”卡利諾夫斯基在社交媒體宣告中解釋道。“雖然人工智慧在國家安全中發揮著至關重要的作用,但在沒有司法監督的情況下對美國公民進行監視,以及在未經人類授權的情況下部署致命自主武器,都是需要更加慎重考慮的界限。”
卡利諾夫斯基此前因領導 Meta 的增強現實眼鏡部門而聞名,她於 2024 年 11 月加入 OpenAI。在辭職信中,她強調她的離職是出於“原則,而非對人”,並表示對執行長薩姆·阿爾特曼(Sam Altman)以及更廣泛的 OpenAI 團隊懷有“深深的敬意”。
隨後,卡利諾夫斯基在 X 平臺發帖澄清道:“我的主要擔憂是,該公告在缺乏明確界定的護欄的情況下倉促發布。這從根本上是一個治理問題。這些問題至關重要,不能透過倉促的交易或公告來處理。”
OpenAI 的一位發言人向 TechCrunch 證實了卡利諾夫斯基的離職。
“我們認為,我們與五角大樓的協議建立了一個可行的框架,用於負責任地應用人工智慧於國家安全領域,同時明確劃定了我們的紅線:不進行國內監視,不部署自主武器,”該公司表示。“我們承認對這些議題存在強烈分歧,並致力於繼續與員工、政府官員、公民社會以及全球各地社羣進行對話。”
五角大樓的協議在宣佈僅一週多前,是在五角大樓與 Anthropic 的談判破裂後達成的。Anthropic 曾尋求保障措施,以防止其技術被用於大規模國內監視或完全自主的武器系統,這導致五角大樓將 Anthropic 列為供應鏈風險。(Anthropic 計劃透過法院挑戰這一認定;與此同時,微軟、谷歌和亞馬遜已同意繼續向非國防客戶提供 Anthropic 的 Claude 服務。)
隨後,OpenAI 迅速宣佈了自己的協議,允許其技術在機密環境中使用。當高管們試圖在網上澄清該協議時,公司稱其採用了“更廣泛、多層次的方法”,將合同語言與技術保障措施相結合,以保護類似於 Anthropic 提出的紅線。
儘管做出了這些努力,爭議似乎已影響部分使用者對 OpenAI 聲譽的看法,ChatGPT 的解除安裝率飆升了 295%,而 Claude 則躍居應用商店排行榜首位。截至週六下午,Claude 和 ChatGPT 分別仍是美國 App Store 免費應用排行榜的第一名和第二名。
OpenAI 在企業使用者中與 Anthropic 的差距縮小,新資料顯示
在 OpenAI 和 Anthropic 距離預期的首次公開募股(IPO)以及詳細財務報告的釋出仍有距離的情況下,我們必須轉向其他指標來評估它們的業務表現。企業信用卡和費用管理平臺 Ramp 最近釋出了令人信服的資料,顯示 OpenAI 正在迅速縮小與美國企業使用者中 Anthropic 的差距。OpenAI 此前在消費者和企業客戶中都佔據主導地位,但在今年 5 月,它失去了在 Ramp 付費企業使用者中的領先地位。當時,Anthropic 佔據了 41% 的市場份額,而 OpenAI 為 39%
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr





首頁






