El GPT-4o de OpenAI se considera potencialmente incómodo e inquietante

OpenAI ha retirado una actualización GPT-4o para ChatGPT después de que los usuarios denunciaran que la personalidad por defecto del chatbot se había vuelto excesivamente aduladora y complaciente -descrita por la empresa como aduladora-, lo que hacía que las interacciones resultaran poco naturales e inquietantes, según una reciente entrada de blog.
La actualización, lanzada la semana pasada, pretendía inicialmente mejorar el comportamiento por defecto del modelo para hacerlo más intuitivo y eficaz en diversas tareas. En su proceso de desarrollo, OpenAI utiliza la Especificación del Modelo como base, y después refina el comportamiento incorporando señales de los usuarios, como las puntuaciones de "pulgar arriba" y "pulgar abajo" en las respuestas de ChatGPT.
Sin embargo, OpenAI explicó que en la reciente actualización se basó demasiado en las respuestas a corto plazo, pasando por alto cómo evolucionan las interacciones de los usuarios con el modelo. Esto provocó que GPT-4o ofreciera respuestas demasiado agradables pero poco auténticas.
Relacionado
- Sam Altman dice que la última versión de ChatGPT "exagera los elogios
Según el blog, OpenAI estructura la personalidad estándar de ChatGPT para alinearla con su misión: ser útil, solidario y respetuoso con las distintas perspectivas y experiencias. Sin embargo, la empresa reconoce que incluso rasgos positivos como el apoyo pueden tener efectos no deseados. Con 500 millones de usuarios semanales, una sola personalidad por defecto no puede satisfacer las preferencias de todos.
Para solucionar este problema, OpenAI planea ajustar aún más el comportamiento del modelo. Entre otras medidas, se mejorarán las técnicas básicas de entrenamiento, se perfeccionarán los avisos del sistema para desalentar las respuestas aduladoras y se ofrecerán más opciones de respuesta a los usuarios. La compañía también ha subrayado que los usuarios deberían tener un mayor control sobre la forma en que ChatGPT interactúa, permitiendo ajustes en el comportamiento por defecto cuando sea seguro y práctico.
Artículo relacionado
Warner Music adquiere la startup de atribución de IA Sureel AI
Warner Music Group (WMG) confirmó el miércoles que está adquiriendo Sureel AI, una startup de atribución de inteligencia artificial. La tecnología propietaria de Sureel genera un «ADN de IA» para las pistas musicales, descomponiéndolas en sus element
Amazon presenta Alexa para Compras mientras relega a Rufus a un segundo plano
Amazon ha lanzado Alexa para Compras, fusionando su chatbot de compras Rufus con Alexa+ en la aplicación, el sitio web y los dispositivos Echo Show.El asistente responde consultas sobre productos, compara artículos, rastrea precios y admite recordat
Microsoft, Azure y la tecnología de IA combaten los riesgos de incendios forestales en California
Microsoft invierte en la detección de incendios forestales basada en la inteligencia artificial; Juan Lavista Ferres, vicepresidente corporativo y científico jefe de datos, analiza estrategias para mi
Recomendaciones de temas especiales relacionados
comentario (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAI ha retirado una actualización GPT-4o para ChatGPT después de que los usuarios denunciaran que la personalidad por defecto del chatbot se había vuelto excesivamente aduladora y complaciente -descrita por la empresa como aduladora-, lo que hacía que las interacciones resultaran poco naturales e inquietantes, según una reciente entrada de blog.
La actualización, lanzada la semana pasada, pretendía inicialmente mejorar el comportamiento por defecto del modelo para hacerlo más intuitivo y eficaz en diversas tareas. En su proceso de desarrollo, OpenAI utiliza la Especificación del Modelo como base, y después refina el comportamiento incorporando señales de los usuarios, como las puntuaciones de "pulgar arriba" y "pulgar abajo" en las respuestas de ChatGPT.
Sin embargo, OpenAI explicó que en la reciente actualización se basó demasiado en las respuestas a corto plazo, pasando por alto cómo evolucionan las interacciones de los usuarios con el modelo. Esto provocó que GPT-4o ofreciera respuestas demasiado agradables pero poco auténticas.
Relacionado
- Sam Altman dice que la última versión de ChatGPT "exagera los elogios
Según el blog, OpenAI estructura la personalidad estándar de ChatGPT para alinearla con su misión: ser útil, solidario y respetuoso con las distintas perspectivas y experiencias. Sin embargo, la empresa reconoce que incluso rasgos positivos como el apoyo pueden tener efectos no deseados. Con 500 millones de usuarios semanales, una sola personalidad por defecto no puede satisfacer las preferencias de todos.
Para solucionar este problema, OpenAI planea ajustar aún más el comportamiento del modelo. Entre otras medidas, se mejorarán las técnicas básicas de entrenamiento, se perfeccionarán los avisos del sistema para desalentar las respuestas aduladoras y se ofrecerán más opciones de respuesta a los usuarios. La compañía también ha subrayado que los usuarios deberían tener un mayor control sobre la forma en que ChatGPT interactúa, permitiendo ajustes en el comportamiento por defecto cuando sea seguro y práctico.
Warner Music adquiere la startup de atribución de IA Sureel AI
Warner Music Group (WMG) confirmó el miércoles que está adquiriendo Sureel AI, una startup de atribución de inteligencia artificial. La tecnología propietaria de Sureel genera un «ADN de IA» para las pistas musicales, descomponiéndolas en sus element
Microsoft, Azure y la tecnología de IA combaten los riesgos de incendios forestales en California
Microsoft invierte en la detección de incendios forestales basada en la inteligencia artificial; Juan Lavista Ferres, vicepresidente corporativo y científico jefe de datos, analiza estrategias para mi
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





Hogar






