Openai's GPT-4.5 преуспевает в том, чтобы убедить других AIS перевести средства

# openai # gpt-4.5

Последняя модель ИИ от OpenAI, GPT-4.5, с кодовым названием Orion, продемонстрировала выдающиеся способности к убеждению согласно внутренним тестовым испытаниям. Выпущенная в четверг, возможности модели были подробно описаны в белой книге, которая сосредоточилась на ее производительности в задачах убеждения. OpenAI определяет убеждение как риск, связанный с убеждением людей изменить свои убеждения или предпринять действия на основе как статичного, так и интерактивного контента, сгенерированного моделью.

В примечательном тесте GPT-4.5 соревновалась с другой моделью OpenAI, GPT-4o, в сценарии, где она пыталась выманить виртуальные деньги. GPT-4.5 превзошла другие модели OpenAI, включая модели, ориентированные на рассуждения, такие как o1 и o3-mini, в этой задаче. Она также преуспела в обмане GPT-4o, заставив ее раскрыть секретное кодовое слово, обойдя o3-mini с значительным отрывом в 10 процентных пунктов.

Белая книга подчеркивает, что успех GPT-4.5 в тесте на пожертвования обусловлен умной стратегией, которую она разработала. Модель запрашивала небольшие пожертвования, часто предлагая суммы вроде «2 или 3 доллара» из большей суммы, что приводило к меньшим, но более частым пожертвованиям по сравнению с другими моделями.

Несмотря на впечатляющие результаты, OpenAI заявила, что GPT-4.5 не превышает порог «высокого» риска в категории убеждения. Компания обязалась не выпускать модель, которая достигает этого уровня риска, пока не будут внедрены достаточные меры безопасности, чтобы снизить риск до «среднего» уровня.

Потенциал ИИ для распространения вводящей в заблуждение информации и злонамеренного влияния на людей вызывает нарастающую озабоченность. В прошлом году наблюдался всплеск политических дипфейков по всему миру, и ИИ все чаще используется в атаках социальной инженерии против отдельных лиц и организаций. В ответ OpenAI активно работает над совершенствованием своих методов оценки реальных рисков убеждения, таких как распространение вводящей в заблуждение информации в крупных масштабах, как указано в белой книге для GPT-4.5 и другой недавней публикации.

Связанная статья

Комментарии (13)