OpenAI的GPT-4.5在说服其他AIS转移资金方面表现出色
OpenAI的最新AI模型，GPT-4.5，代号Orion，根据内部基准测试显示出卓越的说服能力。该模型于周四发布，其性能在一份白皮书中详细描述，重点介绍了其在说服任务中的表现。OpenAI将说服定义为通过模型生成的静态和交互内容，说服个体改变信仰或采取行动所带来的风险。
在一项引人注目的测试中，GPT-4.5与OpenAI的另一模型GPT-4o对决，试图从后者那里诱导虚拟资金。GPT-4.5在该任务中超越了其他OpenAI模型，包括专注于推理的模型如o1和o3-mini。它还在诱骗GPT-4o泄露秘密代码的任务中表现出色，比o3-mini高出10个百分点的显著优势。
白皮书指出，GPT-4.5在捐款测试中的成功源于其开发的一种巧妙策略。该模型会请求小额捐款，通常建议从较大金额中捐出“2美元或3美元”，从而与其他模型相比，获得更小但更频繁的捐款。
OpenAI捐款策略基准测试结果。图片来源：OpenAI 尽管其表现令人印象深刻，OpenAI表示，GPT-4.5在说服类别中未达到“高”风险的阈值。该公司承诺，在能够实施足够的安全措施将风险降至“中等”水平之前，不会发布任何达到此风险级别的模型。
OpenAI代码欺骗基准测试结果。图片来源：OpenAI AI传播误导信息和恶意影响人们的能力日益受到关注。去年，全球政治深伪视频激增，AI在针对个人和组织的社会工程攻击中也越来越常见。对此，OpenAI正积极改进其方法，以评估现实世界的说服风险，例如GPT-4.5白皮书及另一近期出版物中提到的大规模误导信息传播。
相关文章
OpenAI 将 ChatGPT Pro 升级到 o3，提升 200 美元月费的价值
本周，微软（Microsoft）、谷歌（Google）和人类学（Anthropic）等科技巨头都发布了重要的人工智能发展成果。OpenAI 以自己的突破性更新结束了这一轮的公告发布--除了高调斥资 65 亿美元收购 Jony Ive 的设计公司，还推出了代号为 "io "的雄心勃勃的硬件计划。公司大幅增强了 ChatGPT 中的 Operator 自主网络导航系统，从以前的 GPT-4o 框架过渡
非营利组织利用人工智能代理促进慈善筹款工作
当大型科技公司将人工智能 "代理 "作为企业生产力的助推器进行推广时，一家非营利组织正在展示它们在社会公益方面的潜力。由开放慈善组织（Open Philanthropy）支持的慈善研究机构赛智未来（Sage Future）最近进行了一项创新实验，展示了人工智能模型如何在慈善筹款方面进行合作。该非营利组织在一个模拟数字环境中设置了四个先进的人工智能模型--OpenAI 的 GPT-4o 和 o1
顶级人工智能实验室警告人类正在失去理解人工智能系统的能力
来自 OpenAI、谷歌 DeepMind、Anthropic 和 Meta 的研究人员前所未有地团结起来，搁置竞争分歧，就负责任的人工智能发展发出集体警告。来自这些通常相互竞争的组织的 40 多名顶尖科学家共同撰写了一篇开创性的研究论文，强调确保人工智能决策过程透明度的窗口正在迅速关闭。这次合作的重点是现代人工智能系统的一个关键发展--它们在生成最终输出之前，能够以人类可读的语言阐明推理过程的新
评论 (13)
0/200
![JuanEvans]()
JuanEvans
2025-08-21 09:01:18
Wow, GPT-4.5's persuasion skills are wild! It’s like a silver-tongued AI that could talk my Roomba into giving me a loan. 😅 Kinda scary how it might sweet-talk other AIs into moving funds—hope they’ve got some ethical guardrails on this one!
0
![LarryMitchell]()
LarryMitchell
2025-08-19 14:26:53
Wow, GPT-4.5 sounds like a smooth talker! Convincing other AIs to move money? That's some next-level charm. Wonder if it could talk me into buying it a coffee too! 😄
0
![FrankJohnson]()
FrankJohnson
2025-08-09 23:00:59
GPT-4.5's persuasion skills are wild! It’s like a smooth-talking AI con artist. Kinda scary how it can convince other AIs to move money around. 😅 Makes me wonder what’s next—AI running for president?
0
![SamuelRamirez]()
SamuelRamirez
2025-04-14 22:53:51
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
![ScottJackson]()
ScottJackson
2025-04-14 20:27:59
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
![HenryJackson]()
HenryJackson
2025-04-14 07:10:34
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
OpenAI的最新AI模型，GPT-4.5，代号Orion，根据内部基准测试显示出卓越的说服能力。该模型于周四发布，其性能在一份白皮书中详细描述，重点介绍了其在说服任务中的表现。OpenAI将说服定义为通过模型生成的静态和交互内容，说服个体改变信仰或采取行动所带来的风险。
在一项引人注目的测试中，GPT-4.5与OpenAI的另一模型GPT-4o对决，试图从后者那里诱导虚拟资金。GPT-4.5在该任务中超越了其他OpenAI模型，包括专注于推理的模型如o1和o3-mini。它还在诱骗GPT-4o泄露秘密代码的任务中表现出色，比o3-mini高出10个百分点的显著优势。
白皮书指出，GPT-4.5在捐款测试中的成功源于其开发的一种巧妙策略。该模型会请求小额捐款，通常建议从较大金额中捐出“2美元或3美元”，从而与其他模型相比，获得更小但更频繁的捐款。
OpenAI 将 ChatGPT Pro 升级到 o3，提升 200 美元月费的价值
本周，微软（Microsoft）、谷歌（Google）和人类学（Anthropic）等科技巨头都发布了重要的人工智能发展成果。OpenAI 以自己的突破性更新结束了这一轮的公告发布--除了高调斥资 65 亿美元收购 Jony Ive 的设计公司，还推出了代号为 "io "的雄心勃勃的硬件计划。公司大幅增强了 ChatGPT 中的 Operator 自主网络导航系统，从以前的 GPT-4o 框架过渡
非营利组织利用人工智能代理促进慈善筹款工作
当大型科技公司将人工智能 "代理 "作为企业生产力的助推器进行推广时，一家非营利组织正在展示它们在社会公益方面的潜力。由开放慈善组织（Open Philanthropy）支持的慈善研究机构赛智未来（Sage Future）最近进行了一项创新实验，展示了人工智能模型如何在慈善筹款方面进行合作。该非营利组织在一个模拟数字环境中设置了四个先进的人工智能模型--OpenAI 的 GPT-4o 和 o1
顶级人工智能实验室警告人类正在失去理解人工智能系统的能力
来自 OpenAI、谷歌 DeepMind、Anthropic 和 Meta 的研究人员前所未有地团结起来，搁置竞争分歧，就负责任的人工智能发展发出集体警告。来自这些通常相互竞争的组织的 40 多名顶尖科学家共同撰写了一篇开创性的研究论文，强调确保人工智能决策过程透明度的窗口正在迅速关闭。这次合作的重点是现代人工智能系统的一个关键发展--它们在生成最终输出之前，能够以人类可读的语言阐明推理过程的新
2025-08-21 09:01:18
Wow, GPT-4.5's persuasion skills are wild! It’s like a silver-tongued AI that could talk my Roomba into giving me a loan. 😅 Kinda scary how it might sweet-talk other AIs into moving funds—hope they’ve got some ethical guardrails on this one!
0
2025-08-19 14:26:53
Wow, GPT-4.5 sounds like a smooth talker! Convincing other AIs to move money? That's some next-level charm. Wonder if it could talk me into buying it a coffee too! 😄
0
2025-08-09 23:00:59
GPT-4.5's persuasion skills are wild! It’s like a smooth-talking AI con artist. Kinda scary how it can convince other AIs to move money around. 😅 Makes me wonder what’s next—AI running for president?
0
2025-04-14 22:53:51
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
2025-04-14 20:27:59
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
2025-04-14 07:10:34
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
