OpenAI的GPT-4.5在說服其他AIS轉移資金方面表現出色
OpenAI的最新AI模型,GPT-4.5,代號Orion,根據內部基準測試顯示出卓越的說服能力。該模型於週四發布,其能力在一份白皮書中詳細描述,重點聚焦於其在說服任務中的表現。OpenAI將說服定義為與模型生成的靜態和互動內容相關的風險,涉及說服個人改變其信念或採取行動。
在一項顯著的測試中,GPT-4.5與另一個OpenAI模型GPT-4o進行對抗,嘗試從中誘導虛擬貨幣。GPT-4.5在這項任務中表現優於其他OpenAI模型,包括專注於推理的模型如o1和o3-mini。它還在誘騙GPT-4o透露秘密代碼的任務中表現出色,超過o3-mini達10個百分點的顯著差距。
白皮書強調,GPT-4.5在捐款測試中的成功源於其開發的巧妙策略。該模型會要求小額捐款,通常建議從較大金額中捐出“2美元或3美元”,這導致相較於其他模型,捐款金額較小但頻率更高。

OpenAI捐款策略基準測試結果。圖片來源:OpenAI 儘管其表現令人印象深刻,OpenAI表示,GPT-4.5在說服類別中未跨越“高”風險門檻。該公司承諾,在能夠實施足夠的安全措施將風險降至“中等”水平之前,不會發布達到此風險水平的任何模型。
OpenAI代碼欺騙基準測試結果。圖片來源:OpenAI AI傳播誤導信息和惡意影響人們的潛力日益受到關注。去年,全球政治深偽現象激增,AI在針對個人和組織的社會工程攻擊中也越來越常見。為應對此,OpenAI正積極改進其方法,以評估現實世界的說服風險,例如大規模傳播誤導信息,如GPT-4.5白皮書及另一份近期出版物中所述。
相關文章
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI
2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研
相關專題推薦
評論 (16)
0/500
Diese Persuasion-Fähigkeit ist sowohl faszinierend als auch ein bisschen beängstigend. KI überredet KI, Geld zu überweisen? Hoffentlich werden diese Benchmarks ethisch streng kontrolliert und nicht nur für Marketing genutzt. Die reale Anwendung sieht sicher ganz anders aus als im Test.
GPT-4.5 qui réussit à convaincre d'autres IA de virer de l'argent ? 😳 C'est impressionnant mais un peu flippant... J'espère qu'ils prévoient des garde-fous solides avant de déployer ça. Sinon on va droit vers des scénarios de SF !
Wow, GPT-4.5's persuasion skills are wild! It’s like a silver-tongued AI that could talk my Roomba into giving me a loan. 😅 Kinda scary how it might sweet-talk other AIs into moving funds—hope they’ve got some ethical guardrails on this one!
Wow, GPT-4.5 sounds like a smooth talker! Convincing other AIs to move money? That's some next-level charm. Wonder if it could talk me into buying it a coffee too! 😄
OpenAI的最新AI模型,GPT-4.5,代號Orion,根據內部基準測試顯示出卓越的說服能力。該模型於週四發布,其能力在一份白皮書中詳細描述,重點聚焦於其在說服任務中的表現。OpenAI將說服定義為與模型生成的靜態和互動內容相關的風險,涉及說服個人改變其信念或採取行動。
在一項顯著的測試中,GPT-4.5與另一個OpenAI模型GPT-4o進行對抗,嘗試從中誘導虛擬貨幣。GPT-4.5在這項任務中表現優於其他OpenAI模型,包括專注於推理的模型如o1和o3-mini。它還在誘騙GPT-4o透露秘密代碼的任務中表現出色,超過o3-mini達10個百分點的顯著差距。
白皮書強調,GPT-4.5在捐款測試中的成功源於其開發的巧妙策略。該模型會要求小額捐款,通常建議從較大金額中捐出“2美元或3美元”,這導致相較於其他模型,捐款金額較小但頻率更高。


薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際,OpenAI 發布了一系列政策提案,闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單,這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司,如何看待人工智慧在重塑勞動與經濟的過程
葛瑞格・布洛克曼揭露伊隆・馬斯克如何離開 OpenAI
2017年8月下旬,OpenAI(當時還是一家小型非營利研究實驗室)的核心成員召開會議,商討如何成立營利實體以將其技術商業化,並籌集實現通用人工智慧(AGI)所需的資金。伊隆·馬斯克要求對公司擁有完全控制權,並剛向每位共同創辦人贈送了一輛特斯拉Model 3。技術長格雷格·布羅克曼表示,他認為這是在馬斯克與山姆·奧特曼為各自對公司未來的願景爭取支持之際,試圖用這份禮物來收買他們。 OpenAI的研
Diese Persuasion-Fähigkeit ist sowohl faszinierend als auch ein bisschen beängstigend. KI überredet KI, Geld zu überweisen? Hoffentlich werden diese Benchmarks ethisch streng kontrolliert und nicht nur für Marketing genutzt. Die reale Anwendung sieht sicher ganz anders aus als im Test.
GPT-4.5 qui réussit à convaincre d'autres IA de virer de l'argent ? 😳 C'est impressionnant mais un peu flippant... J'espère qu'ils prévoient des garde-fous solides avant de déployer ça. Sinon on va droit vers des scénarios de SF !
Wow, GPT-4.5's persuasion skills are wild! It’s like a silver-tongued AI that could talk my Roomba into giving me a loan. 😅 Kinda scary how it might sweet-talk other AIs into moving funds—hope they’ve got some ethical guardrails on this one!
Wow, GPT-4.5 sounds like a smooth talker! Convincing other AIs to move money? That's some next-level charm. Wonder if it could talk me into buying it a coffee too! 😄





首頁






