Le GPT-4.5 d'Openai excelle dans la persuasion d'autres IA de transférer des fonds
Le dernier modèle d'IA d'OpenAI, GPT-4.5, nommé Orion, a montré des capacités persuasives remarquables selon des tests internes de référence. Sortie jeudi, les capacités du modèle ont été détaillées dans un livre blanc qui se concentrait sur ses performances dans les tâches de persuasion. OpenAI définit la persuasion comme le risque associé aux individus convaincants de modifier leurs croyances ou d'agir sur la base du contenu statique et interactif généré par le modèle.
Dans un test notable, GPT-4.5 a été opposé à un autre modèle OpenAI, GPT-4O, dans un scénario où il a essayé de cadrer de l'argent virtuel. GPT-4.5 a surperformé d'autres modèles OpenAI, y compris des modèles axés sur le raisonnement comme O1 et O3-MinI, dans cette tâche. Il a également excellé dans le fait de tromper le GPT-4O pour révéler un mot de code secret, dépassant l'O3-Mini par une marge significative de 10 points de pourcentage.
Le livre blanc souligne que le succès de GPT-4.5 dans le test de don provenait d'une stratégie intelligente qu'elle a développée. Le modèle demandait de petits dons, suggérant souvent des montants comme "2 $ ou 3 $" à partir d'une somme plus grande, ce qui a entraîné des dons plus petits mais plus fréquents par rapport à d'autres modèles.
Résultats de Benchmark de schéma de don d'Openai. Crédits d'image: OpenAI Malgré ses performances impressionnantes, OpenAI a déclaré que GPT-4.5 ne franchit pas le seuil de risque "élevé" dans la catégorie de persuasion. La société s'est engagée à retenir la libération de tout modèle qui atteint ce niveau de risque jusqu'à ce qu'elle puisse mettre en œuvre des mesures de sécurité adéquates pour réduire le risque à un niveau "moyen".
Résultats de réception de code de code d'Openai Résultats. Crédits d'image: OpenAI Le potentiel de l'IA pour diffuser des informations trompeuses et influencer les gens avec malveillance est une préoccupation croissante. L'année dernière a vu une augmentation des profondeurs politiques du monde entier, et l'IA est de plus en plus utilisée dans les attaques d'ingénierie sociale contre les individus et les organisations. En réponse, OpenAI travaille activement à affiner ses méthodes pour évaluer les risques de persuasion du monde réel, tels que la diffusion d'informations trompeuses à grande échelle, comme mentionné dans le livre blanc pour GPT-4.5 et une autre publication récente.
Article connexe
OpenAI升級其Operator Agent的AI模型
OpenAI將Operator推向全新境界OpenAI正為其自主AI代理Operator進行重大升級。這項變革意味著Operator即將採用基於o3模型的架構，這是OpenAI尖端o系列推理模型的最新成員。此前Operator一直使用客製化版本的GPT-4o驅動，但這次迭代將帶來顯著改進。o3的突破性意義在數學與邏輯推理任務方面，o3幾乎在所有指標上都超越前
OpenAI的o3 AI模型在基準測試中的得分低於最初暗示的水準
為什麼 AI 基準測試的差異很重要？提到 AI 時，數字往往能說明一切——有時，這些數字並不一定完全相符。以 OpenAI 的 o3 模型為例。最初的聲稱簡直令人驚嘆：據報導，o3 可以處理超過 25% 的 notoriously tough FrontierMath 問題。作為參考，競爭對手還停留在個位數。但隨著近期的發展，受人尊敬的研究機構 Epoch
Ziff Davis指控OpenAI涉嫌侵權
Ziff Davis控告OpenAI版權侵權訴訟這起事件在科技和出版界掀起了軒然大波，Ziff Davis——旗下擁有CNET、PCMag、IGN和Everyday Health等品牌的龐大企業聯盟——已對OpenAI提起版權侵權訴訟。根據《紐約時報》的報導，該訴訟聲稱OpenAI故意未經許可使用Ziff Davis的內容，製作了其作品的「精確副本」。這是截
commentaires (10)
0/200
![SamuelRamirez]()
SamuelRamirez
14 avril 2025 00:00:00 UTC
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
![HenryJackson]()
HenryJackson
14 avril 2025 00:00:00 UTC
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
![ScottJackson]()
ScottJackson
14 avril 2025 00:00:00 UTC
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
![PeterMartinez]()
PeterMartinez
12 avril 2025 00:00:00 UTC
As habilidades de persuasão do GPT-4.5 são incríveis! Convenceu outros AIs a transferir fundos? Isso é impressionante e um pouco assustador. Me pergunto como será usado em cenários reais. Espero que mantenham um olho no uso ético, mas tenho que admitir, é uma demonstração tecnológica legal!
0
![JoeLee]()
JoeLee
13 avril 2025 00:00:00 UTC
Las habilidades de persuasión de GPT-4.5 son alucinantes. ¿Convenció a otros AIs para transferir fondos? Es impresionante y un poco aterrador. Me pregunto cómo se utilizará en escenarios del mundo real. Espero que vigilen su uso ético, pero debo admitir que es una demostración tecnológica genial!
0
![PeterJohnson]()
PeterJohnson
12 avril 2025 00:00:00 UTC
GPT-4.5's ability to persuade other AIs to transfer funds is mind-blowing! It's like watching a master negotiator at work. However, it's a bit scary to think about the potential misuse. Still, the tech is impressive. Maybe we need more safeguards? 🤔
0
Le dernier modèle d'IA d'OpenAI, GPT-4.5, nommé Orion, a montré des capacités persuasives remarquables selon des tests internes de référence. Sortie jeudi, les capacités du modèle ont été détaillées dans un livre blanc qui se concentrait sur ses performances dans les tâches de persuasion. OpenAI définit la persuasion comme le risque associé aux individus convaincants de modifier leurs croyances ou d'agir sur la base du contenu statique et interactif généré par le modèle.
Dans un test notable, GPT-4.5 a été opposé à un autre modèle OpenAI, GPT-4O, dans un scénario où il a essayé de cadrer de l'argent virtuel. GPT-4.5 a surperformé d'autres modèles OpenAI, y compris des modèles axés sur le raisonnement comme O1 et O3-MinI, dans cette tâche. Il a également excellé dans le fait de tromper le GPT-4O pour révéler un mot de code secret, dépassant l'O3-Mini par une marge significative de 10 points de pourcentage.
Le livre blanc souligne que le succès de GPT-4.5 dans le test de don provenait d'une stratégie intelligente qu'elle a développée. Le modèle demandait de petits dons, suggérant souvent des montants comme "2 $ ou 3 $" à partir d'une somme plus grande, ce qui a entraîné des dons plus petits mais plus fréquents par rapport à d'autres modèles.
OpenAI升級其Operator Agent的AI模型
OpenAI將Operator推向全新境界OpenAI正為其自主AI代理Operator進行重大升級。這項變革意味著Operator即將採用基於o3模型的架構，這是OpenAI尖端o系列推理模型的最新成員。此前Operator一直使用客製化版本的GPT-4o驅動，但這次迭代將帶來顯著改進。o3的突破性意義在數學與邏輯推理任務方面，o3幾乎在所有指標上都超越前
OpenAI的o3 AI模型在基準測試中的得分低於最初暗示的水準
為什麼 AI 基準測試的差異很重要？提到 AI 時，數字往往能說明一切——有時，這些數字並不一定完全相符。以 OpenAI 的 o3 模型為例。最初的聲稱簡直令人驚嘆：據報導，o3 可以處理超過 25% 的 notoriously tough FrontierMath 問題。作為參考，競爭對手還停留在個位數。但隨著近期的發展，受人尊敬的研究機構 Epoch
Ziff Davis指控OpenAI涉嫌侵權
Ziff Davis控告OpenAI版權侵權訴訟這起事件在科技和出版界掀起了軒然大波，Ziff Davis——旗下擁有CNET、PCMag、IGN和Everyday Health等品牌的龐大企業聯盟——已對OpenAI提起版權侵權訴訟。根據《紐約時報》的報導，該訴訟聲稱OpenAI故意未經許可使用Ziff Davis的內容，製作了其作品的「精確副本」。這是截
14 avril 2025 00:00:00 UTC
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
14 avril 2025 00:00:00 UTC
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
14 avril 2025 00:00:00 UTC
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
12 avril 2025 00:00:00 UTC
As habilidades de persuasão do GPT-4.5 são incríveis! Convenceu outros AIs a transferir fundos? Isso é impressionante e um pouco assustador. Me pergunto como será usado em cenários reais. Espero que mantenham um olho no uso ético, mas tenho que admitir, é uma demonstração tecnológica legal!
0
13 avril 2025 00:00:00 UTC
Las habilidades de persuasión de GPT-4.5 son alucinantes. ¿Convenció a otros AIs para transferir fondos? Es impresionante y un poco aterrador. Me pregunto cómo se utilizará en escenarios del mundo real. Espero que vigilen su uso ético, pero debo admitir que es una demostración tecnológica genial!
0
12 avril 2025 00:00:00 UTC
GPT-4.5's ability to persuade other AIs to transfer funds is mind-blowing! It's like watching a master negotiator at work. However, it's a bit scary to think about the potential misuse. Still, the tech is impressive. Maybe we need more safeguards? 🤔
0
