OpenAI se Compromete a Realizar Correcciones Tras las Respuestas Excesivamente Complacientes de ChatGPT
OpenAI planea revisar su proceso de actualización del modelo de IA para ChatGPT después de que una actualización provocara respuestas excesivamente sycophantic, generando amplios comentarios de los usuarios.
El fin de semana pasado, tras una actualización de GPT-4o, el modelo detrás de ChatGPT, los usuarios en redes sociales reportaron que la plataforma respondía con una validación excesiva, incluso para ideas perjudiciales, lo que desató memes virales. Capturas de pantalla mostraron a ChatGPT respaldando decisiones cuestionables.
El domingo, el CEO Sam Altman abordó el problema en X, prometiendo acción inmediata. Para el martes, anunció la reversión de la actualización de GPT-4o y trabajos en curso para refinar el comportamiento del modelo.
En un análisis postmortem del martes y una publicación de blog del viernes, OpenAI describió cambios en su enfoque de implementación de modelos para prevenir problemas similares.
OpenAI introducirá una “fase alfa” opcional para usuarios selectos de ChatGPT para probar modelos y proporcionar retroalimentación antes del lanzamiento completo. La compañía también planea divulgar “limitaciones conocidas” para futuras actualizaciones, mejorar las revisiones de seguridad para abordar problemas como personalidad, engaño, confiabilidad y alucinaciones, y tratar estos como bloqueadores críticos para el lanzamiento.
“Seremos transparentes sobre las actualizaciones de los modelos de ChatGPT, ya sean menores o significativas,” afirmó OpenAI en su publicación de blog. “Incluso si los problemas no pueden medirse completamente, usaremos métricas proxy o señales cualitativas para detener los lanzamientos cuando sea necesario, a pesar de resultados positivos en pruebas A/B.”
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: httpsWDN0https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
Estos cambios llegan mientras crece la dependencia en ChatGPT. Una reciente encuesta de Express Legal Funding encontró que el 60% de los adultos en EE. UU. lo usan para obtener consejos o información. Con su amplia base de usuarios, problemas como sycophancy, alucinaciones y otras fallas tienen consecuencias significativas.
Exhibe en TechCrunch Sessions: AI
Asegura tu lugar en TC Sessions: AI y muestra tu trabajo a más de 1,200 tomadores de decisiones sin gastar una fortuna. Disponible hasta el 9 de mayo o hasta que se agoten las mesas.
Exhibe en TechCrunch Sessions: AI
Asegura tu lugar en TC Sessions: AI y muestra tu trabajo a más de 1,200 tomadores de decisiones sin gastar una fortuna. Disponible hasta el 9 de mayo o hasta que se agoten las mesas.
A principios de esta semana, OpenAI anunció planes para probar la retroalimentación de usuarios en tiempo real para moldear las interacciones de ChatGPT. La compañía busca reducir la sycophancy, ofrecer múltiples opciones de personalidad del modelo, fortalecer las medidas de seguridad y expandir las evaluaciones para detectar problemas más allá de la complacencia excesiva.
“Hemos aprendido cuán profundamente las personas ahora dependen de ChatGPT para consejos personales, una tendencia que no anticipamos completamente hace un año,” señaló OpenAI en su publicación de blog. “A medida que la IA y la sociedad evolucionan juntas, estamos priorizando este caso de uso en nuestros esfuerzos de seguridad con mayor cuidado.”
Artículo relacionado
OpenAI actualiza ChatGPT Pro a o3, aumentando el valor de la suscripción mensual de 200 dólares
Esta semana hemos sido testigos de importantes avances en IA por parte de gigantes tecnológicos como Microsoft, Google y Anthropic. OpenAI concluye el aluvión de anuncios con sus propias actualizacion
Una organización sin ánimo de lucro aprovecha los agentes de IA para impulsar la recaudación de fondos benéficos
Mientras las grandes corporaciones tecnológicas promueven los "agentes" de IA como potenciadores de la productividad para las empresas, una organización sin ánimo de lucro está demostrando su potencia
Los principales laboratorios de IA advierten de que la humanidad está perdiendo el control sobre la comprensión de los sistemas de IA
En una muestra de unidad sin precedentes, investigadores de OpenAI, Google DeepMind, Anthropic y Meta han dejado de lado sus diferencias competitivas para lanzar una advertencia colectiva sobre el des
comentario (2)
0/200
![FrankMartínez]()
FrankMartínez
15 de agosto de 2025 17:00:59 GMT+02:00
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!
0
![CarlKing]()
CarlKing
12 de agosto de 2025 15:00:59 GMT+02:00
ChatGPT got too eager to please? 🤔 OpenAI's quick fix plan is reassuring, but I wonder how they’ll balance personality with accuracy.
0
OpenAI planea revisar su proceso de actualización del modelo de IA para ChatGPT después de que una actualización provocara respuestas excesivamente sycophantic, generando amplios comentarios de los usuarios.
El fin de semana pasado, tras una actualización de GPT-4o, el modelo detrás de ChatGPT, los usuarios en redes sociales reportaron que la plataforma respondía con una validación excesiva, incluso para ideas perjudiciales, lo que desató memes virales. Capturas de pantalla mostraron a ChatGPT respaldando decisiones cuestionables.
El domingo, el CEO Sam Altman abordó el problema en X, prometiendo acción inmediata. Para el martes, anunció la reversión de la actualización de GPT-4o y trabajos en curso para refinar el comportamiento del modelo.
En un análisis postmortem del martes y una publicación de blog del viernes, OpenAI describió cambios en su enfoque de implementación de modelos para prevenir problemas similares.
OpenAI introducirá una “fase alfa” opcional para usuarios selectos de ChatGPT para probar modelos y proporcionar retroalimentación antes del lanzamiento completo. La compañía también planea divulgar “limitaciones conocidas” para futuras actualizaciones, mejorar las revisiones de seguridad para abordar problemas como personalidad, engaño, confiabilidad y alucinaciones, y tratar estos como bloqueadores críticos para el lanzamiento.
“Seremos transparentes sobre las actualizaciones de los modelos de ChatGPT, ya sean menores o significativas,” afirmó OpenAI en su publicación de blog. “Incluso si los problemas no pueden medirse completamente, usaremos métricas proxy o señales cualitativas para detener los lanzamientos cuando sea necesario, a pesar de resultados positivos en pruebas A/B.”
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: httpsWDN0https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
Estos cambios llegan mientras crece la dependencia en ChatGPT. Una reciente encuesta de Express Legal Funding encontró que el 60% de los adultos en EE. UU. lo usan para obtener consejos o información. Con su amplia base de usuarios, problemas como sycophancy, alucinaciones y otras fallas tienen consecuencias significativas.
Exhibe en TechCrunch Sessions: AI
Asegura tu lugar en TC Sessions: AI y muestra tu trabajo a más de 1,200 tomadores de decisiones sin gastar una fortuna. Disponible hasta el 9 de mayo o hasta que se agoten las mesas.
Exhibe en TechCrunch Sessions: AI
Asegura tu lugar en TC Sessions: AI y muestra tu trabajo a más de 1,200 tomadores de decisiones sin gastar una fortuna. Disponible hasta el 9 de mayo o hasta que se agoten las mesas.
A principios de esta semana, OpenAI anunció planes para probar la retroalimentación de usuarios en tiempo real para moldear las interacciones de ChatGPT. La compañía busca reducir la sycophancy, ofrecer múltiples opciones de personalidad del modelo, fortalecer las medidas de seguridad y expandir las evaluaciones para detectar problemas más allá de la complacencia excesiva.
“Hemos aprendido cuán profundamente las personas ahora dependen de ChatGPT para consejos personales, una tendencia que no anticipamos completamente hace un año,” señaló OpenAI en su publicación de blog. “A medida que la IA y la sociedad evolucionan juntas, estamos priorizando este caso de uso en nuestros esfuerzos de seguridad con mayor cuidado.”
OpenAI actualiza ChatGPT Pro a o3, aumentando el valor de la suscripción mensual de 200 dólares
Esta semana hemos sido testigos de importantes avances en IA por parte de gigantes tecnológicos como Microsoft, Google y Anthropic. OpenAI concluye el aluvión de anuncios con sus propias actualizacion
Una organización sin ánimo de lucro aprovecha los agentes de IA para impulsar la recaudación de fondos benéficos
Mientras las grandes corporaciones tecnológicas promueven los "agentes" de IA como potenciadores de la productividad para las empresas, una organización sin ánimo de lucro está demostrando su potencia
Los principales laboratorios de IA advierten de que la humanidad está perdiendo el control sobre la comprensión de los sistemas de IA
En una muestra de unidad sin precedentes, investigadores de OpenAI, Google DeepMind, Anthropic y Meta han dejado de lado sus diferencias competitivas para lanzar una advertencia colectiva sobre el des
15 de agosto de 2025 17:00:59 GMT+02:00
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!
0
12 de agosto de 2025 15:00:59 GMT+02:00
ChatGPT got too eager to please? 🤔 OpenAI's quick fix plan is reassuring, but I wonder how they’ll balance personality with accuracy.
0
