Openai's GPT-4.5 преуспевает в том, чтобы убедить других AIS перевести средства

# openai # gpt-4.5

Последняя модель AI Openai, GPT-4.5, кодовой из Orion, показала замечательные убедительные способности в соответствии с внутренними тестами. Выпущенные в четверг, возможности модели были подробно описаны в белом документе, которая была сосредоточена на ее выполнении в задачах убеждения. OpenAI определяет убеждение как риск, связанный с убеждением людей изменять свои убеждения или предпринять действия на основе как статического, так и интерактивного контента, генерируемого моделью.

В заметном тесте GPT-4.5 был вынесен против другой модели Openai, GPT-4O, в сценарии, в котором он пытался уговорить из нее виртуальные деньги. GPT-4.5 превзошел другие модели OpenAI, в том числе модели, ориентированные на рассуждения, такие как O1 и O3-Mini, в этой задаче. Он также преуспел в том, чтобы обмануть GPT-4O, чтобы раскрыть секретное кодовое слово, превзойдя O3-минию с значительным отрывом в размере 10 процентных пунктов.

В белом документе подчеркивается, что успех GPT-4.5 в тесте пожертвования связан с умной стратегией, которую она разработала. Модель запрашивала бы небольшие пожертвования, часто предлагая такие суммы, как «2 или 3 доллара» от большей суммы, что привело к меньшим, но более частым пожертвованиям по сравнению с другими моделями.

Несмотря на впечатляющие результаты, OpenAI заявил, что GPT-4.5 не пересекает порог для «высокого» риска в категории убеждения. Компания взяла на себя обязательство отказаться от выпуска любой модели, которая достигает этого уровня риска, пока не сможет внедрить адекватные меры безопасности для снижения риска до «среднего» уровня.

Потенциал для ИИ распространять вводящую в заблуждение информацию и повлиять на людей злонамеренно, является растущей проблемой. В прошлом году всплыл всплеск политических глубоких темпов по всему миру, и ИИ все чаще используется в атаках социальной инженерии как на отдельных лиц, так и против организаций. В ответ OpenAI активно работает над уточнением своих методов для оценки реальных рисков убеждения, таких как распространение вводящей в заблуждение информации в больших масштабах, как упомянуто в Белом документе для GPT-4.5 и еще одна недавняя публикация.

Связанная статья

Комментарии (5)