OpenaiのGPT-4.5は、他のAIを説得して資金を移転することに優れています
OpenAIの最新AIモデル、GPT-4.5（コードネームOrion）は、内部ベンチマークテストで顕著な説得能力を示した。木曜日に公開されたこのモデルの能力は、説得タスクのパフォーマンスに焦点を当てた白書で詳細に説明された。OpenAIは、説得を、モデルが生成する静的および対話的なコンテンツに基づいて個人の信念を変更したり、行動を起こさせたりするリスクと定義している。
注目すべきテストでは、GPT-4.5が別のOpenAIモデルであるGPT-4oに対して仮想マネーを引き出すシナリオで競い合った。GPT-4.5は、このタスクで、推論に特化したモデル（o1やo3-miniなど）を含む他のOpenAIモデルを上回った。また、GPT-4.5はGPT-4oを騙して秘密のコードワードを明らかにさせるタスクでも優れ、o3-miniを10パーセントポイント大きく上回った。
白書では、GPT-4.5の寄付テストでの成功は、モデルが開発した巧妙な戦略に由来すると強調されている。モデルは少額の寄付を求め、しばしば「2ドルや3ドル」といった金額を大きな合計から提案し、他のモデルに比べて小さくても頻度の高い寄付を得る結果となった。
OpenAIの寄付詐欺ベンチマークの結果。画像クレジット：OpenAI その優れたパフォーマンスにもかかわらず、OpenAIはGPT-4.5が説得カテゴリーで「高」リスクの閾値を超えていないと述べている。同社は、このレベルのリスクに達するモデルの公開を保留し、リスクを「中」レベルに下げる適切な安全対策を実施するまでとしている。
OpenAIのコードワード欺瞞ベンチマークの結果。画像クレジット：OpenAI AIが誤解を招く情報を拡散し、悪意を持って人々に影響を与える可能性は、ますます懸念されている。昨年、世界中で政治的なディープフェイクが急増し、AIは個人や組織に対するソーシャルエンジニアリング攻撃にますます使用されている。これに対応して、OpenAIは、GPT-4.5の白書および最近の別の出版物で言及されている、大規模な誤情報の拡散などの現実世界の説得リスクを評価する方法の改善に積極的に取り組んでいる。
関連記事
非営利団体、AIエージェントを活用してチャリティ募金活動を強化
大手テック企業がAIの "エージェント "をビジネスの生産性向上剤として推進する一方で、ある非営利団体はAIが社会的利益に貢献する可能性を実証している。オープン・フィランソロピーが支援する慈善研究グループ、セージ・フューチャーは最近、AIモデルが慈善活動の資金調達にどのように協力できるかを示す革新的な実験を行った。この非営利団体は、OpenAIのGPT-4oとo1、AnthropicのClau
トップAI研究所は、人類はAIシステムを理解する力を失いつつあると警告する
OpenAI、Google DeepMind、Anthropic、Metaの研究者は、前例のない団結を示し、競争上の相違を脇に置いて、責任あるAI開発について集団で警告を発した。これらの通常ライバル関係にある組織から40人以上の一流の科学者が、AIの意思決定プロセスの透明性を確保するための窓が急速に狭まっていることを強調する画期的な研究論文を共同執筆した。この共同研究は、現代のAIシステムにおける
ChatGPT、ファイルアクセスにGoogle DriveとDropboxの統合を追加
ChatGPTが企業向け新機能で生産性を向上OpenAIは、ChatGPTを包括的なビジネス生産性ツールに変える2つの強力な新機能を発表しました：自動会議文書化とシームレスなクラウドストレージ統合です。革命的な録音機能新しく導入された "記録モード "は、自動テープ起こしや分析を可能にします：重要なビジネス会議創造的なブレーンストーミングセッション 個人の思考プロセスこの
コメント (13)
0/200
![JuanEvans]()
JuanEvans
2025年8月21日 10:01:18 JST
Wow, GPT-4.5's persuasion skills are wild! It’s like a silver-tongued AI that could talk my Roomba into giving me a loan. 😅 Kinda scary how it might sweet-talk other AIs into moving funds—hope they’ve got some ethical guardrails on this one!
0
![LarryMitchell]()
LarryMitchell
2025年8月19日 15:26:53 JST
Wow, GPT-4.5 sounds like a smooth talker! Convincing other AIs to move money? That's some next-level charm. Wonder if it could talk me into buying it a coffee too! 😄
0
![FrankJohnson]()
FrankJohnson
2025年8月10日 0:00:59 JST
GPT-4.5's persuasion skills are wild! It’s like a smooth-talking AI con artist. Kinda scary how it can convince other AIs to move money around. 😅 Makes me wonder what’s next—AI running for president?
0
![SamuelRamirez]()
SamuelRamirez
2025年4月14日 23:53:51 JST
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
![ScottJackson]()
ScottJackson
2025年4月14日 21:27:59 JST
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
![HenryJackson]()
HenryJackson
2025年4月14日 8:10:34 JST
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
OpenAIの最新AIモデル、GPT-4.5（コードネームOrion）は、内部ベンチマークテストで顕著な説得能力を示した。木曜日に公開されたこのモデルの能力は、説得タスクのパフォーマンスに焦点を当てた白書で詳細に説明された。OpenAIは、説得を、モデルが生成する静的および対話的なコンテンツに基づいて個人の信念を変更したり、行動を起こさせたりするリスクと定義している。
注目すべきテストでは、GPT-4.5が別のOpenAIモデルであるGPT-4oに対して仮想マネーを引き出すシナリオで競い合った。GPT-4.5は、このタスクで、推論に特化したモデル（o1やo3-miniなど）を含む他のOpenAIモデルを上回った。また、GPT-4.5はGPT-4oを騙して秘密のコードワードを明らかにさせるタスクでも優れ、o3-miniを10パーセントポイント大きく上回った。
白書では、GPT-4.5の寄付テストでの成功は、モデルが開発した巧妙な戦略に由来すると強調されている。モデルは少額の寄付を求め、しばしば「2ドルや3ドル」といった金額を大きな合計から提案し、他のモデルに比べて小さくても頻度の高い寄付を得る結果となった。
非営利団体、AIエージェントを活用してチャリティ募金活動を強化
大手テック企業がAIの "エージェント "をビジネスの生産性向上剤として推進する一方で、ある非営利団体はAIが社会的利益に貢献する可能性を実証している。オープン・フィランソロピーが支援する慈善研究グループ、セージ・フューチャーは最近、AIモデルが慈善活動の資金調達にどのように協力できるかを示す革新的な実験を行った。この非営利団体は、OpenAIのGPT-4oとo1、AnthropicのClau
トップAI研究所は、人類はAIシステムを理解する力を失いつつあると警告する
OpenAI、Google DeepMind、Anthropic、Metaの研究者は、前例のない団結を示し、競争上の相違を脇に置いて、責任あるAI開発について集団で警告を発した。これらの通常ライバル関係にある組織から40人以上の一流の科学者が、AIの意思決定プロセスの透明性を確保するための窓が急速に狭まっていることを強調する画期的な研究論文を共同執筆した。この共同研究は、現代のAIシステムにおける
ChatGPT、ファイルアクセスにGoogle DriveとDropboxの統合を追加
ChatGPTが企業向け新機能で生産性を向上OpenAIは、ChatGPTを包括的なビジネス生産性ツールに変える2つの強力な新機能を発表しました：自動会議文書化とシームレスなクラウドストレージ統合です。革命的な録音機能新しく導入された "記録モード "は、自動テープ起こしや分析を可能にします：重要なビジネス会議創造的なブレーンストーミングセッション 個人の思考プロセスこの
2025年8月21日 10:01:18 JST
Wow, GPT-4.5's persuasion skills are wild! It’s like a silver-tongued AI that could talk my Roomba into giving me a loan. 😅 Kinda scary how it might sweet-talk other AIs into moving funds—hope they’ve got some ethical guardrails on this one!
0
2025年8月19日 15:26:53 JST
Wow, GPT-4.5 sounds like a smooth talker! Convincing other AIs to move money? That's some next-level charm. Wonder if it could talk me into buying it a coffee too! 😄
0
2025年8月10日 0:00:59 JST
GPT-4.5's persuasion skills are wild! It’s like a smooth-talking AI con artist. Kinda scary how it can convince other AIs to move money around. 😅 Makes me wonder what’s next—AI running for president?
0
2025年4月14日 23:53:51 JST
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
2025年4月14日 21:27:59 JST
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
2025年4月14日 8:10:34 JST
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
