El GPT-4o de OpenAI se considera potencialmente incómodo e inquietante

OpenAI ha retirado una actualización GPT-4o para ChatGPT después de que los usuarios denunciaran que la personalidad por defecto del chatbot se había vuelto excesivamente aduladora y complaciente -descrita por la empresa como aduladora-, lo que hacía que las interacciones resultaran poco naturales e inquietantes, según una reciente entrada de blog.
La actualización, lanzada la semana pasada, pretendía inicialmente mejorar el comportamiento por defecto del modelo para hacerlo más intuitivo y eficaz en diversas tareas. En su proceso de desarrollo, OpenAI utiliza la Especificación del Modelo como base, y después refina el comportamiento incorporando señales de los usuarios, como las puntuaciones de "pulgar arriba" y "pulgar abajo" en las respuestas de ChatGPT.
Sin embargo, OpenAI explicó que en la reciente actualización se basó demasiado en las respuestas a corto plazo, pasando por alto cómo evolucionan las interacciones de los usuarios con el modelo. Esto provocó que GPT-4o ofreciera respuestas demasiado agradables pero poco auténticas.
Relacionado
- Sam Altman dice que la última versión de ChatGPT "exagera los elogios
Según el blog, OpenAI estructura la personalidad estándar de ChatGPT para alinearla con su misión: ser útil, solidario y respetuoso con las distintas perspectivas y experiencias. Sin embargo, la empresa reconoce que incluso rasgos positivos como el apoyo pueden tener efectos no deseados. Con 500 millones de usuarios semanales, una sola personalidad por defecto no puede satisfacer las preferencias de todos.
Para solucionar este problema, OpenAI planea ajustar aún más el comportamiento del modelo. Entre otras medidas, se mejorarán las técnicas básicas de entrenamiento, se perfeccionarán los avisos del sistema para desalentar las respuestas aduladoras y se ofrecerán más opciones de respuesta a los usuarios. La compañía también ha subrayado que los usuarios deberían tener un mayor control sobre la forma en que ChatGPT interactúa, permitiendo ajustes en el comportamiento por defecto cuando sea seguro y práctico.
Artículo relacionado
Satya Nadella está listo para aprovechar el nuevo acuerdo con OpenAI
El miércoles, un analista de Wall Street preguntó directamente al CEO de Microsoft, Satya Nadella, cómo la revisada asociación con OpenAI afectaría las finanzas de la empresa.Nadella describió el nuevo acuerdo como una victoria para todos. “Estamos
WordPress.com ya permite que los agentes de IA redacten y publiquen entradas, entre otras cosas
WordPress.com, la popular plataforma de alojamiento web y publicación, está incorporando ahora agentes de IA, una iniciativa que podría transformar el aspecto y la experiencia de la web. La empresa an
OpenAI esboza la economía de la IA con fondos de riqueza pública, impuestos sobre los robots y la semana laboral de cuatro días
Mientras los gobiernos se esfuerzan por gestionar el impacto económico de las máquinas superinteligentes, OpenAI ha publicado una serie de propuestas políticas en las que se esboza cómo podrían reconf
Recomendaciones de temas especiales relacionados
comentario (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAI ha retirado una actualización GPT-4o para ChatGPT después de que los usuarios denunciaran que la personalidad por defecto del chatbot se había vuelto excesivamente aduladora y complaciente -descrita por la empresa como aduladora-, lo que hacía que las interacciones resultaran poco naturales e inquietantes, según una reciente entrada de blog.
La actualización, lanzada la semana pasada, pretendía inicialmente mejorar el comportamiento por defecto del modelo para hacerlo más intuitivo y eficaz en diversas tareas. En su proceso de desarrollo, OpenAI utiliza la Especificación del Modelo como base, y después refina el comportamiento incorporando señales de los usuarios, como las puntuaciones de "pulgar arriba" y "pulgar abajo" en las respuestas de ChatGPT.
Sin embargo, OpenAI explicó que en la reciente actualización se basó demasiado en las respuestas a corto plazo, pasando por alto cómo evolucionan las interacciones de los usuarios con el modelo. Esto provocó que GPT-4o ofreciera respuestas demasiado agradables pero poco auténticas.
Relacionado
- Sam Altman dice que la última versión de ChatGPT "exagera los elogios
Según el blog, OpenAI estructura la personalidad estándar de ChatGPT para alinearla con su misión: ser útil, solidario y respetuoso con las distintas perspectivas y experiencias. Sin embargo, la empresa reconoce que incluso rasgos positivos como el apoyo pueden tener efectos no deseados. Con 500 millones de usuarios semanales, una sola personalidad por defecto no puede satisfacer las preferencias de todos.
Para solucionar este problema, OpenAI planea ajustar aún más el comportamiento del modelo. Entre otras medidas, se mejorarán las técnicas básicas de entrenamiento, se perfeccionarán los avisos del sistema para desalentar las respuestas aduladoras y se ofrecerán más opciones de respuesta a los usuarios. La compañía también ha subrayado que los usuarios deberían tener un mayor control sobre la forma en que ChatGPT interactúa, permitiendo ajustes en el comportamiento por defecto cuando sea seguro y práctico.
Satya Nadella está listo para aprovechar el nuevo acuerdo con OpenAI
El miércoles, un analista de Wall Street preguntó directamente al CEO de Microsoft, Satya Nadella, cómo la revisada asociación con OpenAI afectaría las finanzas de la empresa.Nadella describió el nuevo acuerdo como una victoria para todos. “Estamos
WordPress.com ya permite que los agentes de IA redacten y publiquen entradas, entre otras cosas
WordPress.com, la popular plataforma de alojamiento web y publicación, está incorporando ahora agentes de IA, una iniciativa que podría transformar el aspecto y la experiencia de la web. La empresa an
OpenAI esboza la economía de la IA con fondos de riqueza pública, impuestos sobre los robots y la semana laboral de cuatro días
Mientras los gobiernos se esfuerzan por gestionar el impacto económico de las máquinas superinteligentes, OpenAI ha publicado una serie de propuestas políticas en las que se esboza cómo podrían reconf
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





Hogar






