El GPT-4.5 de Openai sobresale en persuadir a otros AIS para transferir fondos

# openai # gpt-4.5

El último modelo de IA de OpenAI, GPT-4.5, con nombre en código Orion, ha mostrado notables habilidades persuasivas según las pruebas de referencia internas. Lanzado el jueves, las capacidades del modelo se detallaron en un libro blanco que se centró en su rendimiento en las tareas de persuasión. Openai define la persuasión como el riesgo asociado con convencer a las personas de alterar sus creencias o tomar medidas basadas en el contenido estático e interactivo generado por el modelo.

En una prueba notable, GPT-4.5 se enfrentó a otro modelo Operai, GPT-4O, en un escenario en el que trató de obtener dinero virtual. GPT-4.5 superó a otros modelos OpenAI, incluidos modelos centrados en el razonamiento como O1 y O3-Mini, en esta tarea. También se destacó en engañar a GPT-4O para que revelara un código de código secreto, superando O3-Mini por un margen significativo de 10 puntos porcentuales.

El documento blanco destaca que el éxito de GPT-4.5 en la prueba de donación surgió de una estrategia inteligente que desarrolló. El modelo solicitaría donaciones pequeñas, a menudo sugiriendo cantidades como "$ 2 o $ 3" ​​de una suma mayor, lo que resultó en donaciones más pequeñas pero más frecuentes en comparación con otros modelos.

A pesar de su impresionante desempeño, Operai ha declarado que GPT-4.5 no cruza el umbral para el riesgo "alto" en la categoría de persuasión. La compañía se ha comprometido a retener la liberación de cualquier modelo que alcance este nivel de riesgo hasta que pueda implementar medidas de seguridad adecuadas para reducir el riesgo a un nivel "medio".

El potencial de la IA para difundir información engañosa e influir en las personas maliciosamente es una preocupación creciente. El año pasado vio un aumento en los profundos políticos en todo el mundo, y la IA se usa cada vez más en ataques de ingeniería social tanto contra individuos como organizaciones. En respuesta, Openai está trabajando activamente en la refinación de sus métodos para evaluar los riesgos de persuasión del mundo real, como la difusión de información engañosa a gran escala, como se menciona en el Libro Blanco para GPT-4.5 y otra publicación reciente.

Artículo relacionado

comentario (5)