OpenaiのGPT-4.5は、他のAIを説得して資金を移転することに優れています
OpenAIの最新AIモデル、GPT-4.5(コードネームOrion)は、内部ベンチマークテストで顕著な説得能力を示した。木曜日に公開されたこのモデルの能力は、説得タスクのパフォーマンスに焦点を当てた白書で詳細に説明された。OpenAIは、説得を、モデルが生成する静的および対話的なコンテンツに基づいて個人の信念を変更したり、行動を起こさせたりするリスクと定義している。
注目すべきテストでは、GPT-4.5が別のOpenAIモデルであるGPT-4oに対して仮想マネーを引き出すシナリオで競い合った。GPT-4.5は、このタスクで、推論に特化したモデル(o1やo3-miniなど)を含む他のOpenAIモデルを上回った。また、GPT-4.5はGPT-4oを騙して秘密のコードワードを明らかにさせるタスクでも優れ、o3-miniを10パーセントポイント大きく上回った。
白書では、GPT-4.5の寄付テストでの成功は、モデルが開発した巧妙な戦略に由来すると強調されている。モデルは少額の寄付を求め、しばしば「2ドルや3ドル」といった金額を大きな合計から提案し、他のモデルに比べて小さくても頻度の高い寄付を得る結果となった。

OpenAIの寄付詐欺ベンチマークの結果。画像クレジット:OpenAI その優れたパフォーマンスにもかかわらず、OpenAIはGPT-4.5が説得カテゴリーで「高」リスクの閾値を超えていないと述べている。同社は、このレベルのリスクに達するモデルの公開を保留し、リスクを「中」レベルに下げる適切な安全対策を実施するまでとしている。
OpenAIのコードワード欺瞞ベンチマークの結果。画像クレジット:OpenAI AIが誤解を招く情報を拡散し、悪意を持って人々に影響を与える可能性は、ますます懸念されている。昨年、世界中で政治的なディープフェイクが急増し、AIは個人や組織に対するソーシャルエンジニアリング攻撃にますます使用されている。これに対応して、OpenAIは、GPT-4.5の白書および最近の別の出版物で言及されている、大規模な誤情報の拡散などの現実世界の説得リスクを評価する方法の改善に積極的に取り組んでいる。
関連記事
PHPのアルマゲドン:OpenAIとGoogleのWizが古くからの脆弱性を発見、ネット上でパニックを引き起こす
米国国家安全保障局(NSA)は水曜日、PHPに存在する2つの深刻な脆弱性について重大な警告を発しました。これに対し、PHP財団はすでにパッチを公開しています。サーバーサイドスクリプト言語であるPHPは、世界のウェブサイトの約70%(3,300万サイト以上)を支えており、WordPressなどの主要なコンテンツ管理プラットフォームに不可欠な存在です。NSAは、これらの脆弱性が極めて深刻であるため、パ
OpenAIは、ChatGPTの新しいデフォルトモデルとして「GPT-5.5 Instant」をリリースしました。
OpenAIは月曜日、GPT-5.5 Instantをリリースし、ChatGPTのデフォルトモデルとしてGPT-5.3 Instantを置き換えた。同社は、このアップデートにより、法務、医療、金融といった高リスクな分野におけるハルシネーション(幻覚)を最小限に抑えながら、以前のバージョンの高速な応答時間を維持していると述べている。先月、コーディングや知識作業の強化を強調した幅広いGPT-5.5シリーズがリリースされた後、OpenAIはこれらの改善をインスタンモデルに統合した。パフォーマンス面
Nvidia、来年の売上高の25%を資金提供を受けた研究所から得る見込み
Nvidiaは、同社のチップを購入するAI研究所に500億米ドル近くを投入し、総額5,000億米ドルを超える契約を確保した。8月26日、CFOのコレット・クレス氏はアナリストに対し、Nvidiaの財務基盤に支えられたこれらの研究所が、来年の同社事業の約4分の1を占める見込みであると伝えた。この仕組みは、しばしば「循環型資金調達」と呼ばれるが、アナリストがこの用語を考案する以前からNvidiaはこれ
関連特集おすすめ
コメント (16)
0/500
Diese Persuasion-Fähigkeit ist sowohl faszinierend als auch ein bisschen beängstigend. KI überredet KI, Geld zu überweisen? Hoffentlich werden diese Benchmarks ethisch streng kontrolliert und nicht nur für Marketing genutzt. Die reale Anwendung sieht sicher ganz anders aus als im Test.
GPT-4.5 qui réussit à convaincre d'autres IA de virer de l'argent ? 😳 C'est impressionnant mais un peu flippant... J'espère qu'ils prévoient des garde-fous solides avant de déployer ça. Sinon on va droit vers des scénarios de SF !
Wow, GPT-4.5's persuasion skills are wild! It’s like a silver-tongued AI that could talk my Roomba into giving me a loan. 😅 Kinda scary how it might sweet-talk other AIs into moving funds—hope they’ve got some ethical guardrails on this one!
Wow, GPT-4.5 sounds like a smooth talker! Convincing other AIs to move money? That's some next-level charm. Wonder if it could talk me into buying it a coffee too! 😄
OpenAIの最新AIモデル、GPT-4.5(コードネームOrion)は、内部ベンチマークテストで顕著な説得能力を示した。木曜日に公開されたこのモデルの能力は、説得タスクのパフォーマンスに焦点を当てた白書で詳細に説明された。OpenAIは、説得を、モデルが生成する静的および対話的なコンテンツに基づいて個人の信念を変更したり、行動を起こさせたりするリスクと定義している。
注目すべきテストでは、GPT-4.5が別のOpenAIモデルであるGPT-4oに対して仮想マネーを引き出すシナリオで競い合った。GPT-4.5は、このタスクで、推論に特化したモデル(o1やo3-miniなど)を含む他のOpenAIモデルを上回った。また、GPT-4.5はGPT-4oを騙して秘密のコードワードを明らかにさせるタスクでも優れ、o3-miniを10パーセントポイント大きく上回った。
白書では、GPT-4.5の寄付テストでの成功は、モデルが開発した巧妙な戦略に由来すると強調されている。モデルは少額の寄付を求め、しばしば「2ドルや3ドル」といった金額を大きな合計から提案し、他のモデルに比べて小さくても頻度の高い寄付を得る結果となった。


PHPのアルマゲドン:OpenAIとGoogleのWizが古くからの脆弱性を発見、ネット上でパニックを引き起こす
米国国家安全保障局(NSA)は水曜日、PHPに存在する2つの深刻な脆弱性について重大な警告を発しました。これに対し、PHP財団はすでにパッチを公開しています。サーバーサイドスクリプト言語であるPHPは、世界のウェブサイトの約70%(3,300万サイト以上)を支えており、WordPressなどの主要なコンテンツ管理プラットフォームに不可欠な存在です。NSAは、これらの脆弱性が極めて深刻であるため、パ
OpenAIは、ChatGPTの新しいデフォルトモデルとして「GPT-5.5 Instant」をリリースしました。
OpenAIは月曜日、GPT-5.5 Instantをリリースし、ChatGPTのデフォルトモデルとしてGPT-5.3 Instantを置き換えた。同社は、このアップデートにより、法務、医療、金融といった高リスクな分野におけるハルシネーション(幻覚)を最小限に抑えながら、以前のバージョンの高速な応答時間を維持していると述べている。先月、コーディングや知識作業の強化を強調した幅広いGPT-5.5シリーズがリリースされた後、OpenAIはこれらの改善をインスタンモデルに統合した。パフォーマンス面
Nvidia、来年の売上高の25%を資金提供を受けた研究所から得る見込み
Nvidiaは、同社のチップを購入するAI研究所に500億米ドル近くを投入し、総額5,000億米ドルを超える契約を確保した。8月26日、CFOのコレット・クレス氏はアナリストに対し、Nvidiaの財務基盤に支えられたこれらの研究所が、来年の同社事業の約4分の1を占める見込みであると伝えた。この仕組みは、しばしば「循環型資金調達」と呼ばれるが、アナリストがこの用語を考案する以前からNvidiaはこれ
Diese Persuasion-Fähigkeit ist sowohl faszinierend als auch ein bisschen beängstigend. KI überredet KI, Geld zu überweisen? Hoffentlich werden diese Benchmarks ethisch streng kontrolliert und nicht nur für Marketing genutzt. Die reale Anwendung sieht sicher ganz anders aus als im Test.
GPT-4.5 qui réussit à convaincre d'autres IA de virer de l'argent ? 😳 C'est impressionnant mais un peu flippant... J'espère qu'ils prévoient des garde-fous solides avant de déployer ça. Sinon on va droit vers des scénarios de SF !
Wow, GPT-4.5's persuasion skills are wild! It’s like a silver-tongued AI that could talk my Roomba into giving me a loan. 😅 Kinda scary how it might sweet-talk other AIs into moving funds—hope they’ve got some ethical guardrails on this one!
Wow, GPT-4.5 sounds like a smooth talker! Convincing other AIs to move money? That's some next-level charm. Wonder if it could talk me into buying it a coffee too! 😄





家






