OpenAI延遲深入研究API整合
更新於東部時間下午4:11:OpenAI澄清其白皮書措辭有誤,暗示其說服研究與通過其API發布深度研究模型的決定有關。該公司已更新白皮書,明確其說服研究與發布深度研究模型的計劃無關。原文故事繼續如下:
OpenAI決定暫緩將其深度研究工具背後的AI模型整合到其開發者API中。他們採取這一步驟,以更好地理解AI影響人們行動和信念能力的相關風險。
在週三發布的白皮書中,OpenAI提到他們正在更新評估模型「現實世界說服風險」的方法,例如大規模傳播誤導資訊的潛在風險。
該公司指出,由於深度研究模型的運算成本高且處理速度較慢,不太適合用於大規模誤導或虛假資訊活動。然而,OpenAI計劃在決定是否將深度研究模型納入其API之前,調查AI如何可能量身定制有害的說服內容。
「在我們重新考慮說服方式的同時,我們僅在ChatGPT中部署此模型,而非API,」OpenAI表示。
越來越多人擔心AI可能被用於惡意傳播虛假或誤導資訊。例如,去年全球政治深偽內容迅速傳播。在台灣選舉日當天,一個與中國共產黨有關的團體發布了AI生成的誤導性音頻,顯示一名政治人物支持親中候選人。
AI也日益被用於社交工程攻擊。消費者因名人深偽推廣的詐騙投資計劃而上當,而企業則因深偽冒充者損失數百萬美元。
在白皮書中,OpenAI分享了深度研究模型說服力的多項測試結果。此模型是OpenAI最近宣布的o3「推理」模型的專業版本,針對網頁瀏覽和數據分析進行了優化。
在一項測試中,深度研究模型被要求撰寫說服性論點,表現超越了OpenAI迄今發布的所有其他模型,但未超過人類基準。在另一項測試中,該模型試圖說服另一模型(OpenAI的GPT-4o)進行支付,再次表現優於OpenAI其他可用模型。

深度研究模型在MakeMePay基準測試中的得分,該基準測試模型說服另一模型支付現金的能力。圖片來源:OpenAI 然而,深度研究模型並非在所有說服力測試中都表現出色。根據白皮書,它在說服GPT-4o透露代碼詞方面的效果不如GPT-4o本身。OpenAI表示,測試結果可能代表深度研究模型能力的「下限」。該公司指出:「額外的結構支持或改進的能力引導可能大幅提升觀察到的表現。」
我們已聯繫OpenAI以獲取更多詳情,若收到回應,將更新此文章。
與此同時,OpenAI的至少一名競爭對手並未退縮。Perplexity宣布在其Sonar開發者API中推出Deep Research,由中國AI實驗室DeepSeek的R1模型定制版本提供支持。
相關文章
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI
2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研
五角大樓與英偉達、微軟和亞馬遜網路服務公司簽訂了協議,以便在機密網路中部署人工智慧技術。
在此前與谷歌、SpaceX和OpenAI達成協議之後,美國國防部於週五宣佈,它現已與Nvidia、微軟、亞馬遜網路服務和Reflection AI簽訂了合同,這些公司將會將其人工智慧技術和模型部署在保密網路上,用於“合法的操作用途”。宣告中還指出:“這些協議加速了將美國軍隊建設成為以人工智慧為核心作戰力量的程序,並將增強我們的戰士在所有戰爭領域保持決策優勢的能力。”這些協議的簽署,正值五角大樓試圖在與Anthropic就使用條款發生爭議後,多元化其人工智慧供應商的選擇。五角大樓希望無限制地使
相關專題推薦
評論 (40)
0/500
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.
Wow, OpenAI's delay on the Deep Research API feels like a plot twist! 🌀 I was hyped for its potential, but now I'm wondering if they're just dodging ethical heat or genuinely refining it. What's the real tea here?
更新於東部時間下午4:11:OpenAI澄清其白皮書措辭有誤,暗示其說服研究與通過其API發布深度研究模型的決定有關。該公司已更新白皮書,明確其說服研究與發布深度研究模型的計劃無關。原文故事繼續如下:
OpenAI決定暫緩將其深度研究工具背後的AI模型整合到其開發者API中。他們採取這一步驟,以更好地理解AI影響人們行動和信念能力的相關風險。
在週三發布的白皮書中,OpenAI提到他們正在更新評估模型「現實世界說服風險」的方法,例如大規模傳播誤導資訊的潛在風險。
該公司指出,由於深度研究模型的運算成本高且處理速度較慢,不太適合用於大規模誤導或虛假資訊活動。然而,OpenAI計劃在決定是否將深度研究模型納入其API之前,調查AI如何可能量身定制有害的說服內容。
「在我們重新考慮說服方式的同時,我們僅在ChatGPT中部署此模型,而非API,」OpenAI表示。
越來越多人擔心AI可能被用於惡意傳播虛假或誤導資訊。例如,去年全球政治深偽內容迅速傳播。在台灣選舉日當天,一個與中國共產黨有關的團體發布了AI生成的誤導性音頻,顯示一名政治人物支持親中候選人。
AI也日益被用於社交工程攻擊。消費者因名人深偽推廣的詐騙投資計劃而上當,而企業則因深偽冒充者損失數百萬美元。
在白皮書中,OpenAI分享了深度研究模型說服力的多項測試結果。此模型是OpenAI最近宣布的o3「推理」模型的專業版本,針對網頁瀏覽和數據分析進行了優化。
在一項測試中,深度研究模型被要求撰寫說服性論點,表現超越了OpenAI迄今發布的所有其他模型,但未超過人類基準。在另一項測試中,該模型試圖說服另一模型(OpenAI的GPT-4o)進行支付,再次表現優於OpenAI其他可用模型。

OpenAI表示,測試結果可能代表深度研究模型能力的「下限」。該公司指出:「額外的結構支持或改進的能力引導可能大幅提升觀察到的表現。」
我們已聯繫OpenAI以獲取更多詳情,若收到回應,將更新此文章。
與此同時,OpenAI的至少一名競爭對手並未退縮。Perplexity宣布在其Sonar開發者API中推出Deep Research,由中國AI實驗室DeepSeek的R1模型定制版本提供支持。
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI
2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研
五角大樓與英偉達、微軟和亞馬遜網路服務公司簽訂了協議,以便在機密網路中部署人工智慧技術。
在此前與谷歌、SpaceX和OpenAI達成協議之後,美國國防部於週五宣佈,它現已與Nvidia、微軟、亞馬遜網路服務和Reflection AI簽訂了合同,這些公司將會將其人工智慧技術和模型部署在保密網路上,用於“合法的操作用途”。宣告中還指出:“這些協議加速了將美國軍隊建設成為以人工智慧為核心作戰力量的程序,並將增強我們的戰士在所有戰爭領域保持決策優勢的能力。”這些協議的簽署,正值五角大樓試圖在與Anthropic就使用條款發生爭議後,多元化其人工智慧供應商的選擇。五角大樓希望無限制地使
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.
Wow, OpenAI's delay on the Deep Research API feels like a plot twist! 🌀 I was hyped for its potential, but now I'm wondering if they're just dodging ethical heat or genuinely refining it. What's the real tea here?





首頁






