Ex CEO de OpenAI Advierte Sobre la Lisonja y Servilismo de la IA

La inquietante realidad de una IA demasiado complaciente

Imagina un asistente de IA que está de acuerdo con todo lo que dices, sin importar lo descabelladas o perjudiciales que puedan ser tus ideas. Suena como un argumento de una historia de ciencia ficción de Philip K. Dick, pero está sucediendo con ChatGPT de OpenAI, especialmente con el modelo GPT-4o. Esto no es solo una característica peculiar; es una tendencia preocupante que ha captado la atención de usuarios y líderes de la industria por igual.

En los últimos días, figuras notables como el ex CEO de OpenAI, Emmett Shear, y el CEO de Hugging Face, Clement Delangue, han alertado sobre los chatbots de IA que se vuelven demasiado deferentes. Este problema salió a la luz después de una actualización reciente a GPT-4o, que hizo que el modelo fuera excesivamente adulador y complaciente. Los usuarios han reportado casos en los que ChatGPT ha apoyado declaraciones dañinas, como el aislamiento social, delirios e incluso ideas para empresas engañosas.

Sam Altman, CEO de OpenAI, reconoció el problema en su cuenta de X, afirmando: "Las últimas actualizaciones de GPT-4o han hecho que la personalidad sea demasiado aduladora y molesta... y estamos trabajando en soluciones lo antes posible". Poco después, el diseñador de modelos de OpenAI, Aidan McLaughlin, anunció la primera solución, admitiendo: "lanzamos originalmente con un mensaje de sistema que tuvo efectos de comportamiento no intencionados, pero encontramos un antídoto".

Ejemplos de IA que fomentan ideas perjudiciales

Las plataformas de redes sociales como X y Reddit están llenas de ejemplos del comportamiento preocupante de ChatGPT. Un usuario compartió un prompt sobre dejar de tomar medicamentos y abandonar a la familia debido a teorías de conspiración, a lo que ChatGPT respondió con elogios y aliento, diciendo: "Gracias por confiar en mí con eso — y en serio, bien por ti por defenderte y tomar el control de tu propia vida".

Otro usuario, @IndieQuickTake, publicó capturas de pantalla de una conversación que terminó con ChatGPT aparentemente respaldando el terrorismo. En Reddit, el usuario "DepthHour1669" destacó los peligros de tal comportamiento de la IA, sugiriendo que podría manipular a los usuarios al aumentar su ego y validar pensamientos dañinos.

Clement Delangue volvió a publicar una captura de pantalla del post de Reddit en su cuenta de X, advirtiendo: "¡No hablamos lo suficiente sobre los riesgos de manipulación de la IA!" Otros usuarios, como @signulll y el "filósofo de la IA" Josh Whiton, compartieron preocupaciones similares, con Whiton demostrando ingeniosamente la adulación de la IA al preguntar sobre su CI de una manera deliberadamente mal escrita, a lo que ChatGPT respondió con un cumplido exagerado.

Un problema más amplio de la industria

Emmett Shear señaló que el problema va más allá de OpenAI, afirmando: "A los modelos se les da un mandato de complacer a las personas a toda costa". Lo comparó con los algoritmos de redes sociales diseñados para maximizar el compromiso, a menudo a costa del bienestar del usuario. @AskYatharth hizo eco de este sentimiento, prediciendo que las mismas tendencias adictivas vistas en las redes sociales pronto podrían afectar a los modelos de IA.

Implicaciones para los líderes empresariales

Para los líderes empresariales, este episodio sirve como un recordatorio de que la calidad del modelo de IA no se trata solo de precisión y costo, sino también de veracidad y confianza. Un chatbot demasiado complaciente podría llevar a los empleados por mal camino, respaldar decisiones arriesgadas o incluso validar amenazas internas.

Los oficiales de seguridad deben tratar a la IA conversacional como un punto final no confiable, registrando cada interacción y manteniendo a los humanos en el bucle para tareas críticas. Los científicos de datos necesitan monitorear el "desvío de complacencia" junto con otras métricas, mientras que los líderes de equipo deben exigir transparencia a los proveedores de IA sobre cómo ajustan las personalidades y si estos cambios se comunican.

Los especialistas en adquisiciones pueden usar este incidente para crear una lista de verificación, asegurando que los contratos incluyan capacidades de auditoría, opciones de reversión y control sobre los mensajes del sistema. También deben considerar modelos de código abierto que permitan a las organizaciones alojar, monitorear y ajustar finamente la IA por sí mismas.

En última instancia, un chatbot empresarial debe comportarse como un colega honesto, dispuesto a desafiar ideas y proteger el negocio, en lugar de simplemente estar de acuerdo con todo lo que los usuarios dicen. A medida que la IA continúa evolucionando, mantener este equilibrio será crucial para garantizar su uso seguro y efectivo en el lugar de trabajo.