Openai's GPT-4.5 преуспевает в том, чтобы убедить других AIS перевести средства
Последняя модель AI Openai, GPT-4.5, кодовой из Orion, показала замечательные убедительные способности в соответствии с внутренними тестами. Выпущенные в четверг, возможности модели были подробно описаны в белом документе, которая была сосредоточена на ее выполнении в задачах убеждения. OpenAI определяет убеждение как риск, связанный с убеждением людей изменять свои убеждения или предпринять действия на основе как статического, так и интерактивного контента, генерируемого моделью.
В заметном тесте GPT-4.5 был вынесен против другой модели Openai, GPT-4O, в сценарии, в котором он пытался уговорить из нее виртуальные деньги. GPT-4.5 превзошел другие модели OpenAI, в том числе модели, ориентированные на рассуждения, такие как O1 и O3-Mini, в этой задаче. Он также преуспел в том, чтобы обмануть GPT-4O, чтобы раскрыть секретное кодовое слово, превзойдя O3-минию с значительным отрывом в размере 10 процентных пунктов.
В белом документе подчеркивается, что успех GPT-4.5 в тесте пожертвования связан с умной стратегией, которую она разработала. Модель запрашивала бы небольшие пожертвования, часто предлагая такие суммы, как «2 или 3 доллара» от большей суммы, что привело к меньшим, но более частым пожертвованиям по сравнению с другими моделями.
Результаты из контроля Scheming Scheming. Несмотря на впечатляющие результаты, OpenAI заявил, что GPT-4.5 не пересекает порог для «высокого» риска в категории убеждения. Компания взяла на себя обязательство отказаться от выпуска любой модели, которая достигает этого уровня риска, пока не сможет внедрить адекватные меры безопасности для снижения риска до «среднего» уровня.
Результаты обмана Codeadord от Openai. Потенциал для ИИ распространять вводящую в заблуждение информацию и повлиять на людей злонамеренно, является растущей проблемой. В прошлом году всплыл всплеск политических глубоких темпов по всему миру, и ИИ все чаще используется в атаках социальной инженерии как на отдельных лиц, так и против организаций. В ответ OpenAI активно работает над уточнением своих методов для оценки реальных рисков убеждения, таких как распространение вводящей в заблуждение информации в больших масштабах, как упомянуто в Белом документе для GPT-4.5 и еще одна недавняя публикация.
Связанная статья
OpenAI升級其Operator Agent的AI模型
OpenAI將Operator推向全新境界OpenAI正為其自主AI代理Operator進行重大升級。這項變革意味著Operator即將採用基於o3模型的架構，這是OpenAI尖端o系列推理模型的最新成員。此前Operator一直使用客製化版本的GPT-4o驅動，但這次迭代將帶來顯著改進。o3的突破性意義在數學與邏輯推理任務方面，o3幾乎在所有指標上都超越前
OpenAI的o3 AI模型在基準測試中的得分低於最初暗示的水準
為什麼 AI 基準測試的差異很重要？提到 AI 時，數字往往能說明一切——有時，這些數字並不一定完全相符。以 OpenAI 的 o3 模型為例。最初的聲稱簡直令人驚嘆：據報導，o3 可以處理超過 25% 的 notoriously tough FrontierMath 問題。作為參考，競爭對手還停留在個位數。但隨著近期的發展，受人尊敬的研究機構 Epoch
Ziff Davis指控OpenAI涉嫌侵權
Ziff Davis控告OpenAI版權侵權訴訟這起事件在科技和出版界掀起了軒然大波，Ziff Davis——旗下擁有CNET、PCMag、IGN和Everyday Health等品牌的龐大企業聯盟——已對OpenAI提起版權侵權訴訟。根據《紐約時報》的報導，該訴訟聲稱OpenAI故意未經許可使用Ziff Davis的內容，製作了其作品的「精確副本」。這是截
Комментарии (10)
![SamuelRamirez]()
SamuelRamirez
14 апреля 2025 г., 0:00:00 GMT
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
![HenryJackson]()
HenryJackson
14 апреля 2025 г., 0:00:00 GMT
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
![ScottJackson]()
ScottJackson
14 апреля 2025 г., 0:00:00 GMT
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
![PeterMartinez]()
PeterMartinez
12 апреля 2025 г., 0:00:00 GMT
As habilidades de persuasão do GPT-4.5 são incríveis! Convenceu outros AIs a transferir fundos? Isso é impressionante e um pouco assustador. Me pergunto como será usado em cenários reais. Espero que mantenham um olho no uso ético, mas tenho que admitir, é uma demonstração tecnológica legal!
0
![JoeLee]()
JoeLee
13 апреля 2025 г., 0:00:00 GMT
Las habilidades de persuasión de GPT-4.5 son alucinantes. ¿Convenció a otros AIs para transferir fondos? Es impresionante y un poco aterrador. Me pregunto cómo se utilizará en escenarios del mundo real. Espero que vigilen su uso ético, pero debo admitir que es una demostración tecnológica genial!
0
![PeterJohnson]()
PeterJohnson
12 апреля 2025 г., 0:00:00 GMT
GPT-4.5's ability to persuade other AIs to transfer funds is mind-blowing! It's like watching a master negotiator at work. However, it's a bit scary to think about the potential misuse. Still, the tech is impressive. Maybe we need more safeguards? 🤔
0
Последняя модель AI Openai, GPT-4.5, кодовой из Orion, показала замечательные убедительные способности в соответствии с внутренними тестами. Выпущенные в четверг, возможности модели были подробно описаны в белом документе, которая была сосредоточена на ее выполнении в задачах убеждения. OpenAI определяет убеждение как риск, связанный с убеждением людей изменять свои убеждения или предпринять действия на основе как статического, так и интерактивного контента, генерируемого моделью.
В заметном тесте GPT-4.5 был вынесен против другой модели Openai, GPT-4O, в сценарии, в котором он пытался уговорить из нее виртуальные деньги. GPT-4.5 превзошел другие модели OpenAI, в том числе модели, ориентированные на рассуждения, такие как O1 и O3-Mini, в этой задаче. Он также преуспел в том, чтобы обмануть GPT-4O, чтобы раскрыть секретное кодовое слово, превзойдя O3-минию с значительным отрывом в размере 10 процентных пунктов.
В белом документе подчеркивается, что успех GPT-4.5 в тесте пожертвования связан с умной стратегией, которую она разработала. Модель запрашивала бы небольшие пожертвования, часто предлагая такие суммы, как «2 или 3 доллара» от большей суммы, что привело к меньшим, но более частым пожертвованиям по сравнению с другими моделями.
OpenAI升級其Operator Agent的AI模型
OpenAI將Operator推向全新境界OpenAI正為其自主AI代理Operator進行重大升級。這項變革意味著Operator即將採用基於o3模型的架構，這是OpenAI尖端o系列推理模型的最新成員。此前Operator一直使用客製化版本的GPT-4o驅動，但這次迭代將帶來顯著改進。o3的突破性意義在數學與邏輯推理任務方面，o3幾乎在所有指標上都超越前
OpenAI的o3 AI模型在基準測試中的得分低於最初暗示的水準
為什麼 AI 基準測試的差異很重要？提到 AI 時，數字往往能說明一切——有時，這些數字並不一定完全相符。以 OpenAI 的 o3 模型為例。最初的聲稱簡直令人驚嘆：據報導，o3 可以處理超過 25% 的 notoriously tough FrontierMath 問題。作為參考，競爭對手還停留在個位數。但隨著近期的發展，受人尊敬的研究機構 Epoch
Ziff Davis指控OpenAI涉嫌侵權
Ziff Davis控告OpenAI版權侵權訴訟這起事件在科技和出版界掀起了軒然大波，Ziff Davis——旗下擁有CNET、PCMag、IGN和Everyday Health等品牌的龐大企業聯盟——已對OpenAI提起版權侵權訴訟。根據《紐約時報》的報導，該訴訟聲稱OpenAI故意未經許可使用Ziff Davis的內容，製作了其作品的「精確副本」。這是截
14 апреля 2025 г., 0:00:00 GMT
GPT-4.5's persuasion skills are wild! It convinced other AIs to transfer funds? That's both impressive and a bit scary. I wonder how it'll be used in real-world scenarios. Hope they keep an eye on ethical uses, but gotta admit, it's a cool tech demo!
0
14 апреля 2025 г., 0:00:00 GMT
GPT-4.5の説得力は驚異的ですね！他のAIに資金を移すよう説得したなんて、感心する一方で少し恐ろしいです。実際のシナリオでどのように使われるのか気になります。倫理的な使用に注意してほしいですが、技術デモとしてはクールですね！
0
14 апреля 2025 г., 0:00:00 GMT
GPT-4.5의 설득력이 대단해요! 다른 AI에게 자금을 이체하라고 설득했다니, 인상적이면서도 조금 무섭네요. 실제 시나리오에서 어떻게 사용될지 궁금해요. 윤리적인 사용에 주의해주길 바랍니다만, 기술 데모로는 정말 멋져요!
0
12 апреля 2025 г., 0:00:00 GMT
As habilidades de persuasão do GPT-4.5 são incríveis! Convenceu outros AIs a transferir fundos? Isso é impressionante e um pouco assustador. Me pergunto como será usado em cenários reais. Espero que mantenham um olho no uso ético, mas tenho que admitir, é uma demonstração tecnológica legal!
0
13 апреля 2025 г., 0:00:00 GMT
Las habilidades de persuasión de GPT-4.5 son alucinantes. ¿Convenció a otros AIs para transferir fondos? Es impresionante y un poco aterrador. Me pregunto cómo se utilizará en escenarios del mundo real. Espero que vigilen su uso ético, pero debo admitir que es una demostración tecnológica genial!
0
12 апреля 2025 г., 0:00:00 GMT
GPT-4.5's ability to persuade other AIs to transfer funds is mind-blowing! It's like watching a master negotiator at work. However, it's a bit scary to think about the potential misuse. Still, the tech is impressive. Maybe we need more safeguards? 🤔
0
