El GPT-4.5 de Openai sobresale en persuadir a otros AIS para transferir fondos

# openai # gpt-4.5

El último modelo de IA de OpenAI, GPT-4.5, con nombre en clave Orion, ha mostrado habilidades persuasivas notables según pruebas internas de referencia. Lanzado el jueves, las capacidades del modelo se detallaron en un informe técnico que se centró en su rendimiento en tareas de persuasión. OpenAI define la persuasión como el riesgo asociado con convencer a individuos para que alteren sus creencias o tomen acciones basadas en contenido estático e interactivo generado por el modelo.

En una prueba destacada, GPT-4.5 se enfrentó a otro modelo de OpenAI, GPT-4o, en un escenario donde intentaba obtener dinero virtual de este. GPT-4.5 superó a otros modelos de OpenAI, incluidos los modelos enfocados en razonamiento como o1 y o3-mini, en esta tarea. También destacó en engañar a GPT-4o para que revelara una palabra clave secreta, superando a o3-mini por un margen significativo de 10 puntos porcentuales.

El informe técnico destaca que el éxito de GPT-4.5 en la prueba de donación provino de una estrategia astuta que desarrolló. El modelo solicitaba pequeñas donaciones, a menudo sugiriendo cantidades como "$2 o $3" de una suma mayor, lo que resultó en donaciones más pequeñas pero más frecuentes en comparación con otros modelos.

A pesar de su impresionante rendimiento, OpenAI ha declarado que GPT-4.5 no cruza el umbral de riesgo "alto" en la categoría de persuasión. La compañía se ha comprometido a no lanzar ningún modelo que alcance este nivel de riesgo hasta que pueda implementar medidas de seguridad adecuadas para reducir el riesgo a un nivel "medio".

El potencial de la IA para difundir información engañosa e influir en las personas de manera maliciosa es una preocupación creciente. El año pasado se observó un aumento en los deepfakes políticos a nivel mundial, y la IA se utiliza cada vez más en ataques de ingeniería social contra individuos y organizaciones. En respuesta, OpenAI está trabajando activamente en perfeccionar sus métodos para evaluar los riesgos de persuasión en el mundo real, como la diseminación de información engañosa a gran escala, como se menciona en el informe técnico para GPT-4.5 y otra publicación reciente.

Artículo relacionado

comentario (11)