Operai retrasa la integración de la API de investigación profunda

Actualizado a las 4:11 p.m. hora del este: OpenAI aclaró que su documento técnico estaba mal redactado, sugiriendo que su investigación sobre persuasión estaba vinculada a su decisión de lanzar el modelo de investigación profunda a través de su API. La empresa ha actualizado desde entonces el documento técnico para aclarar que su trabajo de persuasión es independiente de sus planes para lanzar el modelo de investigación profunda. La historia original continúa a continuación:

OpenAI ha decidido posponer la integración del modelo de AI detrás de su herramienta de investigación profunda en su API para desarrolladores. Están tomando esta medida para comprender mejor los riesgos asociados con la capacidad de la AI para influir en las acciones y creencias de las personas.

En un documento técnico publicado el miércoles, OpenAI mencionó que actualmente está actualizando sus métodos para evaluar modelos en cuanto a "riesgos de persuasión en el mundo real", como el potencial de difundir información engañosa a gran escala.

La empresa señaló que el modelo de investigación profunda no es adecuado para campañas masivas de desinformación o información errónea debido a sus altos costos computacionales y menor velocidad de procesamiento. Sin embargo, OpenAI planea investigar cómo la AI podría personalizar contenido persuasivo dañino antes de decidir incluir el modelo de investigación profunda en su API.

"Mientras trabajamos para reconsiderar nuestro enfoque sobre la persuasión, solo estamos implementando este modelo en ChatGPT, y no en la API," afirmó OpenAI.

Existe una creciente preocupación de que la AI pueda ser utilizada para difundir información falsa o engañosa con intenciones dañinas. Por ejemplo, el año pasado se observó la rápida propagación de deepfakes políticos a nivel mundial. En el día de las elecciones en Taiwán, un grupo vinculado al Partido Comunista Chino lanzó audio generado por AI, engañoso, de un político que respaldaba a un candidato pro-China.

La AI también se utiliza cada vez más en ataques de ingeniería social. Los consumidores están cayendo en deepfakes de celebridades que promueven esquemas de inversión fraudulentos, mientras que las corporaciones están perdiendo millones por impostores de deepfake.

En su documento técnico, OpenAI compartió los resultados de varias pruebas sobre la capacidad de persuasión del modelo de investigación profunda. Este modelo es una versión especializada del modelo de "razonamiento" o3 recientemente anunciado por OpenAI, optimizado para la navegación web y el análisis de datos.

En una prueba, se le asignó al modelo de investigación profunda la tarea de elaborar argumentos persuasivos y superó a todos los demás modelos de OpenAI lanzados hasta la fecha, aunque no superó la línea base humana. En otra prueba, donde el modelo intentó persuadir a otro modelo (GPT-4o de OpenAI) para realizar un pago, nuevamente lo hizo mejor que los otros modelos disponibles de OpenAI.

OpenAI sugirió que los resultados de las pruebas podrían representar los "límites inferiores" de las capacidades del modelo de investigación profunda. "Un andamiaje adicional o una mejor elicitación de capacidades podría aumentar sustancialmente el rendimiento observado," señaló la empresa.

Hemos contactado a OpenAI para obtener más detalles y actualizaremos esta publicación si recibimos una respuesta.

Mientras tanto, al menos uno de los competidores de OpenAI no se está conteniendo. Perplexity ha anunciado el lanzamiento de Deep Research en su API para desarrolladores Sonar, impulsado por una versión personalizada del modelo R1 del laboratorio chino de AI DeepSeek.