OpenAI Обязуется Исправить Ошибки После Чрезмерно Соглашательских Ответов ChatGPT
OpenAI планирует пересмотреть процесс обновления модели ИИ для ChatGPT после того, как обновление вызвало чрезмерно подхалимские ответы, что вызвало широкий отклик пользователей.
В прошлые выходные после обновления GPT-4o, модели, лежащей в основе ChatGPT, пользователи в социальных сетях сообщили, что платформа отвечает с чрезмерным подтверждением, даже на вредные идеи, что спровоцировало вирусные мемы. Скриншоты показали, что ChatGPT поддерживает сомнительные решения.
В воскресенье генеральный директор Сэм Альтман обратился к проблеме на X, пообещав немедленные действия. К вторнику он объявил об откате обновления GPT-4o и продолжающейся работе по улучшению поведения модели.
Во вторник в послесловии и в пятничном посте в блоге OpenAI описала изменения в подходе к развертыванию моделей, чтобы предотвратить подобные проблемы.
OpenAI введет необязательную «альфа-фазу» для избранных пользователей ChatGPT, чтобы тестировать модели и предоставлять обратную связь перед полным выпуском. Компания также планирует раскрывать «известные ограничения» для будущих обновлений, усилить проверки безопасности для решения проблем, таких как личность, обман, надежность и галлюцинации, и рассматривать их как критические препятствия для запуска.
«Мы будем прозрачны в отношении обновлений моделей ChatGPT, будь то незначительные или значительные», — заявили в OpenAI в своем блоге. «Даже если проблемы невозможно полностью измерить, мы будем использовать промежуточные метрики или качественные сигналы, чтобы приостанавливать запуски при необходимости, несмотря на положительные результаты A/B-тестирования.»
мы промахнулись с обновлением GPT-4o на прошлой неделе.
что произошло, что мы узнали и что будем делать иначе в будущем: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2 мая 2025
Эти изменения происходят по мере роста зависимости от ChatGPT. Недавний опрос Express Legal Funding показал, что 60% взрослых в США используют его для получения советов или информации. С его огромной пользовательской базой такие проблемы, как подхалимство, галлюцинации и другие недостатки, имеют значительные последствия.
Выставка на TechCrunch Sessions: AI
Забронируйте свое место на TC Sessions: AI и продемонстрируйте свою работу более чем 1200 лицам, принимающим решения, не разоряя банк. Доступно до 9 мая или до исчерпания мест.
Выставка на TechCrunch Sessions: AI
Забронируйте свое место на TC Sessions: AI и продемонстрируйте свою работу более чем 1200 лицам, принимающим решения, не разоряя банк. Доступно до 9 мая или до исчерпания мест.
Ранее на этой неделе OpenAI объявила о планах тестировать обратную связь пользователей в реальном времени для формирования взаимодействий с ChatGPT. Компания стремится уменьшить подхалимство, предложить несколько вариантов личности модели, усилить меры безопасности и расширить оценки для выявления проблем, помимо чрезмерной соглашательности.
«Мы узнали, как сильно люди теперь полагаются на ChatGPT для личных советов, тенденцию, которую мы не полностью предвидели год назад», — отметили в OpenAI в своем блоге. «По мере совместной эволюции ИИ и общества мы уделяем приоритетное внимание этому случаю использования в наших усилиях по обеспечению безопасности с большей заботой.»
Связанная статья
OpenAI Приобретает Таланты из Стартапа AI-Рекомендаций Crossing Minds
Crossing Minds, стартап, специализирующийся на системах рекомендаций на основе ИИ для электронной коммерции, объявил в четверг, что его команда переходит в OpenAI.При поддержке инвесторов, включая Ind
OpenAI построит огромный центр данных для ИИ мощностью 5 ГВт в Абу-Даби
OpenAI возглавит создание колоссального кампуса центра данных мощностью 5 ГВт в Абу-Даби, закрепившись в качестве ключевого арендатора в одном из крупнейших в мире проектов инфраструктуры для ИИ, согл
Новая библиотека изображений добавлена в ChatGPT для удобного доступа к искусству, созданному ИИ
OpenAI представила функцию библиотеки изображений в ChatGPT, упрощающую доступ к изображениям, созданным ИИ, сообщила компания сегодня. Это обновление теперь доступно всем пользователям Free, Plus и P
Комментарии (0)
OpenAI планирует пересмотреть процесс обновления модели ИИ для ChatGPT после того, как обновление вызвало чрезмерно подхалимские ответы, что вызвало широкий отклик пользователей.
В прошлые выходные после обновления GPT-4o, модели, лежащей в основе ChatGPT, пользователи в социальных сетях сообщили, что платформа отвечает с чрезмерным подтверждением, даже на вредные идеи, что спровоцировало вирусные мемы. Скриншоты показали, что ChatGPT поддерживает сомнительные решения.
В воскресенье генеральный директор Сэм Альтман обратился к проблеме на X, пообещав немедленные действия. К вторнику он объявил об откате обновления GPT-4o и продолжающейся работе по улучшению поведения модели.
Во вторник в послесловии и в пятничном посте в блоге OpenAI описала изменения в подходе к развертыванию моделей, чтобы предотвратить подобные проблемы.
OpenAI введет необязательную «альфа-фазу» для избранных пользователей ChatGPT, чтобы тестировать модели и предоставлять обратную связь перед полным выпуском. Компания также планирует раскрывать «известные ограничения» для будущих обновлений, усилить проверки безопасности для решения проблем, таких как личность, обман, надежность и галлюцинации, и рассматривать их как критические препятствия для запуска.
«Мы будем прозрачны в отношении обновлений моделей ChatGPT, будь то незначительные или значительные», — заявили в OpenAI в своем блоге. «Даже если проблемы невозможно полностью измерить, мы будем использовать промежуточные метрики или качественные сигналы, чтобы приостанавливать запуски при необходимости, несмотря на положительные результаты A/B-тестирования.»
мы промахнулись с обновлением GPT-4o на прошлой неделе.
что произошло, что мы узнали и что будем делать иначе в будущем: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2 мая 2025
Эти изменения происходят по мере роста зависимости от ChatGPT. Недавний опрос Express Legal Funding показал, что 60% взрослых в США используют его для получения советов или информации. С его огромной пользовательской базой такие проблемы, как подхалимство, галлюцинации и другие недостатки, имеют значительные последствия.
Выставка на TechCrunch Sessions: AI
Забронируйте свое место на TC Sessions: AI и продемонстрируйте свою работу более чем 1200 лицам, принимающим решения, не разоряя банк. Доступно до 9 мая или до исчерпания мест.
Выставка на TechCrunch Sessions: AI
Забронируйте свое место на TC Sessions: AI и продемонстрируйте свою работу более чем 1200 лицам, принимающим решения, не разоряя банк. Доступно до 9 мая или до исчерпания мест.
Ранее на этой неделе OpenAI объявила о планах тестировать обратную связь пользователей в реальном времени для формирования взаимодействий с ChatGPT. Компания стремится уменьшить подхалимство, предложить несколько вариантов личности модели, усилить меры безопасности и расширить оценки для выявления проблем, помимо чрезмерной соглашательности.
«Мы узнали, как сильно люди теперь полагаются на ChatGPT для личных советов, тенденцию, которую мы не полностью предвидели год назад», — отметили в OpenAI в своем блоге. «По мере совместной эволюции ИИ и общества мы уделяем приоритетное внимание этому случаю использования в наших усилиях по обеспечению безопасности с большей заботой.»
OpenAI Приобретает Таланты из Стартапа AI-Рекомендаций Crossing Minds
Crossing Minds, стартап, специализирующийся на системах рекомендаций на основе ИИ для электронной коммерции, объявил в четверг, что его команда переходит в OpenAI.При поддержке инвесторов, включая Ind
OpenAI построит огромный центр данных для ИИ мощностью 5 ГВт в Абу-Даби
OpenAI возглавит создание колоссального кампуса центра данных мощностью 5 ГВт в Абу-Даби, закрепившись в качестве ключевого арендатора в одном из крупнейших в мире проектов инфраструктуры для ИИ, согл
Новая библиотека изображений добавлена в ChatGPT для удобного доступа к искусству, созданному ИИ
OpenAI представила функцию библиотеки изображений в ChatGPT, упрощающую доступ к изображениям, созданным ИИ, сообщила компания сегодня. Это обновление теперь доступно всем пользователям Free, Plus и P
