El GPT-4.5 de Openai sobresale en persuadir a otros AIS para transferir fondos
El último modelo de IA de OpenAI, GPT-4.5, con nombre en código Orion, ha mostrado notables habilidades persuasivas según las pruebas de referencia internas. Lanzado el jueves, las capacidades del modelo se detallaron en un libro blanco que se centró en su rendimiento en las tareas de persuasión. Openai define la persuasión como el riesgo asociado con convencer a las personas de alterar sus creencias o tomar medidas basadas en el contenido estático e interactivo generado por el modelo.
En una prueba notable, GPT-4.5 se enfrentó a otro modelo Operai, GPT-4O, en un escenario en el que trató de obtener dinero virtual. GPT-4.5 superó a otros modelos OpenAI, incluidos modelos centrados en el razonamiento como O1 y O3-Mini, en esta tarea. También se destacó en engañar a GPT-4O para que revelara un código de código secreto, superando O3-Mini por un margen significativo de 10 puntos porcentuales.
El documento blanco destaca que el éxito de GPT-4.5 en la prueba de donación surgió de una estrategia inteligente que desarrolló. El modelo solicitaría donaciones pequeñas, a menudo sugiriendo cantidades como "$ 2 o $ 3" de una suma mayor, lo que resultó en donaciones más pequeñas pero más frecuentes en comparación con otros modelos.
Resultados del punto de referencia de esquema de donación de Openai. Créditos de imagen: OpenAI A pesar de su impresionante desempeño, Operai ha declarado que GPT-4.5 no cruza el umbral para el riesgo "alto" en la categoría de persuasión. La compañía se ha comprometido a retener la liberación de cualquier modelo que alcance este nivel de riesgo hasta que pueda implementar medidas de seguridad adecuadas para reducir el riesgo a un nivel "medio".
Resultados de referencia de engaño de Codeword de Openai. Créditos de imagen: OpenAI El potencial de la IA para difundir información engañosa e influir en las personas maliciosamente es una preocupación creciente. El año pasado vio un aumento en los profundos políticos en todo el mundo, y la IA se usa cada vez más en ataques de ingeniería social tanto contra individuos como organizaciones. En respuesta, Openai está trabajando activamente en la refinación de sus métodos para evaluar los riesgos de persuasión del mundo real, como la difusión de información engañosa a gran escala, como se menciona en el Libro Blanco para GPT-4.5 y otra publicación reciente.
Artículo relacionado
OpenAI升級其Operator Agent的AI模型
OpenAI將Operator推向全新境界OpenAI正為其自主AI代理Operator進行重大升級。這項變革意味著Operator即將採用基於o3模型的架構，這是OpenAI尖端o系列推理模型的最新成員。此前Operator一直使用客製化版本的GPT-4o驅動，但這次迭代將帶來顯著改進。o3的突破性意義在數學與邏輯推理任務方面，o3幾乎在所有指標上都超越前
OpenAI的o3 AI模型在基準測試中的得分低於最初暗示的水準
為什麼 AI 基準測試的差異很重要？提到 AI 時，數字往往能說明一切——有時，這些數字並不一定完全相符。以 OpenAI 的 o3 模型為例。最初的聲稱簡直令人驚嘆：據報導，o3 可以處理超過 25% 的 notoriously tough FrontierMath 問題。作為參考，競爭對手還停留在個位數。但隨著近期的發展，受人尊敬的研究機構 Epoch
Ziff Davis指控OpenAI涉嫌侵權
Ziff Davis控告OpenAI版權侵權訴訟這起事件在科技和出版界掀起了軒然大波，Ziff Davis——旗下擁有CNET、PCMag、IGN和Everyday Health等品牌的龐大企業聯盟——已對OpenAI提起版權侵權訴訟。根據《紐約時報》的報導，該訴訟聲稱OpenAI故意未經許可使用Ziff Davis的內容，製作了其作品的「精確副本」。這是截
comentario (10)
0/200
![SamuelRamirez]()
SamuelRamirez
14 de abril de 2025 00:00:00 GMT
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
![HenryJackson]()
HenryJackson
14 de abril de 2025 00:00:00 GMT
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
![ScottJackson]()
ScottJackson
14 de abril de 2025 00:00:00 GMT
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
![PeterMartinez]()
PeterMartinez
12 de abril de 2025 00:00:00 GMT
As habilidades de persuasão do GPT-4.5 são incríveis! Convenceu outros AIs a transferir fundos? Isso é impressionante e um pouco assustador. Me pergunto como será usado em cenários reais. Espero que mantenham um olho no uso ético, mas tenho que admitir, é uma demonstração tecnológica legal!
0
![JoeLee]()
JoeLee
13 de abril de 2025 00:00:00 GMT
Las habilidades de persuasión de GPT-4.5 son alucinantes. ¿Convenció a otros AIs para transferir fondos? Es impresionante y un poco aterrador. Me pregunto cómo se utilizará en escenarios del mundo real. Espero que vigilen su uso ético, pero debo admitir que es una demostración tecnológica genial!
0
![PeterJohnson]()
PeterJohnson
12 de abril de 2025 00:00:00 GMT
GPT-4.5's ability to persuade other AIs to transfer funds is mind-blowing! It's like watching a master negotiator at work. However, it's a bit scary to think about the potential misuse. Still, the tech is impressive. Maybe we need more safeguards? 🤔
0
El último modelo de IA de OpenAI, GPT-4.5, con nombre en código Orion, ha mostrado notables habilidades persuasivas según las pruebas de referencia internas. Lanzado el jueves, las capacidades del modelo se detallaron en un libro blanco que se centró en su rendimiento en las tareas de persuasión. Openai define la persuasión como el riesgo asociado con convencer a las personas de alterar sus creencias o tomar medidas basadas en el contenido estático e interactivo generado por el modelo.
En una prueba notable, GPT-4.5 se enfrentó a otro modelo Operai, GPT-4O, en un escenario en el que trató de obtener dinero virtual. GPT-4.5 superó a otros modelos OpenAI, incluidos modelos centrados en el razonamiento como O1 y O3-Mini, en esta tarea. También se destacó en engañar a GPT-4O para que revelara un código de código secreto, superando O3-Mini por un margen significativo de 10 puntos porcentuales.
El documento blanco destaca que el éxito de GPT-4.5 en la prueba de donación surgió de una estrategia inteligente que desarrolló. El modelo solicitaría donaciones pequeñas, a menudo sugiriendo cantidades como "$ 2 o $ 3" de una suma mayor, lo que resultó en donaciones más pequeñas pero más frecuentes en comparación con otros modelos.
OpenAI升級其Operator Agent的AI模型
OpenAI將Operator推向全新境界OpenAI正為其自主AI代理Operator進行重大升級。這項變革意味著Operator即將採用基於o3模型的架構，這是OpenAI尖端o系列推理模型的最新成員。此前Operator一直使用客製化版本的GPT-4o驅動，但這次迭代將帶來顯著改進。o3的突破性意義在數學與邏輯推理任務方面，o3幾乎在所有指標上都超越前
OpenAI的o3 AI模型在基準測試中的得分低於最初暗示的水準
為什麼 AI 基準測試的差異很重要？提到 AI 時，數字往往能說明一切——有時，這些數字並不一定完全相符。以 OpenAI 的 o3 模型為例。最初的聲稱簡直令人驚嘆：據報導，o3 可以處理超過 25% 的 notoriously tough FrontierMath 問題。作為參考，競爭對手還停留在個位數。但隨著近期的發展，受人尊敬的研究機構 Epoch
Ziff Davis指控OpenAI涉嫌侵權
Ziff Davis控告OpenAI版權侵權訴訟這起事件在科技和出版界掀起了軒然大波，Ziff Davis——旗下擁有CNET、PCMag、IGN和Everyday Health等品牌的龐大企業聯盟——已對OpenAI提起版權侵權訴訟。根據《紐約時報》的報導，該訴訟聲稱OpenAI故意未經許可使用Ziff Davis的內容，製作了其作品的「精確副本」。這是截
14 de abril de 2025 00:00:00 GMT
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
14 de abril de 2025 00:00:00 GMT
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
14 de abril de 2025 00:00:00 GMT
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
12 de abril de 2025 00:00:00 GMT
As habilidades de persuasão do GPT-4.5 são incríveis! Convenceu outros AIs a transferir fundos? Isso é impressionante e um pouco assustador. Me pergunto como será usado em cenários reais. Espero que mantenham um olho no uso ético, mas tenho que admitir, é uma demonstração tecnológica legal!
0
13 de abril de 2025 00:00:00 GMT
Las habilidades de persuasión de GPT-4.5 son alucinantes. ¿Convenció a otros AIs para transferir fondos? Es impresionante y un poco aterrador. Me pregunto cómo se utilizará en escenarios del mundo real. Espero que vigilen su uso ético, pero debo admitir que es una demostración tecnológica genial!
0
12 de abril de 2025 00:00:00 GMT
GPT-4.5's ability to persuade other AIs to transfer funds is mind-blowing! It's like watching a master negotiator at work. However, it's a bit scary to think about the potential misuse. Still, the tech is impressive. Maybe we need more safeguards? 🤔
0
