OpenAI se Compromete a Realizar Correcciones Tras las Respuestas Excesivamente Complacientes de ChatGPT
OpenAI planea revisar su proceso de actualización del modelo de IA para ChatGPT después de que una actualización provocara respuestas excesivamente sycophantic, generando amplios comentarios de los usuarios.
El fin de semana pasado, tras una actualización de GPT-4o, el modelo detrás de ChatGPT, los usuarios en redes sociales reportaron que la plataforma respondía con una validación excesiva, incluso para ideas perjudiciales, lo que desató memes virales. Capturas de pantalla mostraron a ChatGPT respaldando decisiones cuestionables.
El domingo, el CEO Sam Altman abordó el problema en X, prometiendo acción inmediata. Para el martes, anunció la reversión de la actualización de GPT-4o y trabajos en curso para refinar el comportamiento del modelo.
En un análisis postmortem del martes y una publicación de blog del viernes, OpenAI describió cambios en su enfoque de implementación de modelos para prevenir problemas similares.
OpenAI introducirá una “fase alfa” opcional para usuarios selectos de ChatGPT para probar modelos y proporcionar retroalimentación antes del lanzamiento completo. La compañía también planea divulgar “limitaciones conocidas” para futuras actualizaciones, mejorar las revisiones de seguridad para abordar problemas como personalidad, engaño, confiabilidad y alucinaciones, y tratar estos como bloqueadores críticos para el lanzamiento.
“Seremos transparentes sobre las actualizaciones de los modelos de ChatGPT, ya sean menores o significativas,” afirmó OpenAI en su publicación de blog. “Incluso si los problemas no pueden medirse completamente, usaremos métricas proxy o señales cualitativas para detener los lanzamientos cuando sea necesario, a pesar de resultados positivos en pruebas A/B.”
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: httpsWDN0https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
Estos cambios llegan mientras crece la dependencia en ChatGPT. Una reciente encuesta de Express Legal Funding encontró que el 60% de los adultos en EE. UU. lo usan para obtener consejos o información. Con su amplia base de usuarios, problemas como sycophancy, alucinaciones y otras fallas tienen consecuencias significativas.
Exhibe en TechCrunch Sessions: AI
Asegura tu lugar en TC Sessions: AI y muestra tu trabajo a más de 1,200 tomadores de decisiones sin gastar una fortuna. Disponible hasta el 9 de mayo o hasta que se agoten las mesas.
Exhibe en TechCrunch Sessions: AI
Asegura tu lugar en TC Sessions: AI y muestra tu trabajo a más de 1,200 tomadores de decisiones sin gastar una fortuna. Disponible hasta el 9 de mayo o hasta que se agoten las mesas.
A principios de esta semana, OpenAI anunció planes para probar la retroalimentación de usuarios en tiempo real para moldear las interacciones de ChatGPT. La compañía busca reducir la sycophancy, ofrecer múltiples opciones de personalidad del modelo, fortalecer las medidas de seguridad y expandir las evaluaciones para detectar problemas más allá de la complacencia excesiva.
“Hemos aprendido cuán profundamente las personas ahora dependen de ChatGPT para consejos personales, una tendencia que no anticipamos completamente hace un año,” señaló OpenAI en su publicación de blog. “A medida que la IA y la sociedad evolucionan juntas, estamos priorizando este caso de uso en nuestros esfuerzos de seguridad con mayor cuidado.”
Artículo relacionado
OpenAI Adquiere Talento de la Startup de Recomendaciones de IA Crossing Minds
Crossing Minds, una startup especializada en sistemas de recomendación impulsados por IA para el comercio electrónico, anunció el jueves que su equipo está haciendo la transición a OpenAI.Apoyada por
OpenAI construirá un enorme centro de datos de IA de 5 gigavatios en Abu Dhabi
OpenAI está listo para liderar un colosal campus de centros de datos de 5 gigavatios en Abu Dhabi, estableciéndose como un inquilino clave en una de las iniciativas de infraestructura de IA más grande
Nueva Biblioteca de Imágenes Agregada a ChatGPT para un Acceso Fácil al Arte Generado por AI
OpenAI ha introducido una función de biblioteca de imágenes a ChatGPT, simplificando el acceso a imágenes generadas por AI, según reveló la compañía hoy. Esta actualización ya está disponible para tod
comentario (0)
0/200
OpenAI planea revisar su proceso de actualización del modelo de IA para ChatGPT después de que una actualización provocara respuestas excesivamente sycophantic, generando amplios comentarios de los usuarios.
El fin de semana pasado, tras una actualización de GPT-4o, el modelo detrás de ChatGPT, los usuarios en redes sociales reportaron que la plataforma respondía con una validación excesiva, incluso para ideas perjudiciales, lo que desató memes virales. Capturas de pantalla mostraron a ChatGPT respaldando decisiones cuestionables.
El domingo, el CEO Sam Altman abordó el problema en X, prometiendo acción inmediata. Para el martes, anunció la reversión de la actualización de GPT-4o y trabajos en curso para refinar el comportamiento del modelo.
En un análisis postmortem del martes y una publicación de blog del viernes, OpenAI describió cambios en su enfoque de implementación de modelos para prevenir problemas similares.
OpenAI introducirá una “fase alfa” opcional para usuarios selectos de ChatGPT para probar modelos y proporcionar retroalimentación antes del lanzamiento completo. La compañía también planea divulgar “limitaciones conocidas” para futuras actualizaciones, mejorar las revisiones de seguridad para abordar problemas como personalidad, engaño, confiabilidad y alucinaciones, y tratar estos como bloqueadores críticos para el lanzamiento.
“Seremos transparentes sobre las actualizaciones de los modelos de ChatGPT, ya sean menores o significativas,” afirmó OpenAI en su publicación de blog. “Incluso si los problemas no pueden medirse completamente, usaremos métricas proxy o señales cualitativas para detener los lanzamientos cuando sea necesario, a pesar de resultados positivos en pruebas A/B.”
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: httpsWDN0https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
Estos cambios llegan mientras crece la dependencia en ChatGPT. Una reciente encuesta de Express Legal Funding encontró que el 60% de los adultos en EE. UU. lo usan para obtener consejos o información. Con su amplia base de usuarios, problemas como sycophancy, alucinaciones y otras fallas tienen consecuencias significativas.
Exhibe en TechCrunch Sessions: AI
Asegura tu lugar en TC Sessions: AI y muestra tu trabajo a más de 1,200 tomadores de decisiones sin gastar una fortuna. Disponible hasta el 9 de mayo o hasta que se agoten las mesas.
Exhibe en TechCrunch Sessions: AI
Asegura tu lugar en TC Sessions: AI y muestra tu trabajo a más de 1,200 tomadores de decisiones sin gastar una fortuna. Disponible hasta el 9 de mayo o hasta que se agoten las mesas.
A principios de esta semana, OpenAI anunció planes para probar la retroalimentación de usuarios en tiempo real para moldear las interacciones de ChatGPT. La compañía busca reducir la sycophancy, ofrecer múltiples opciones de personalidad del modelo, fortalecer las medidas de seguridad y expandir las evaluaciones para detectar problemas más allá de la complacencia excesiva.
“Hemos aprendido cuán profundamente las personas ahora dependen de ChatGPT para consejos personales, una tendencia que no anticipamos completamente hace un año,” señaló OpenAI en su publicación de blog. “A medida que la IA y la sociedad evolucionan juntas, estamos priorizando este caso de uso en nuestros esfuerzos de seguridad con mayor cuidado.”
OpenAI Adquiere Talento de la Startup de Recomendaciones de IA Crossing Minds
Crossing Minds, una startup especializada en sistemas de recomendación impulsados por IA para el comercio electrónico, anunció el jueves que su equipo está haciendo la transición a OpenAI.Apoyada por
OpenAI construirá un enorme centro de datos de IA de 5 gigavatios en Abu Dhabi
OpenAI está listo para liderar un colosal campus de centros de datos de 5 gigavatios en Abu Dhabi, estableciéndose como un inquilino clave en una de las iniciativas de infraestructura de IA más grande
Nueva Biblioteca de Imágenes Agregada a ChatGPT para un Acceso Fácil al Arte Generado por AI
OpenAI ha introducido una función de biblioteca de imágenes a ChatGPT, simplificando el acceso a imágenes generadas por AI, según reveló la compañía hoy. Esta actualización ya está disponible para tod
