Дом
Программа для бухгалтерского учета с ИИ сравнила одежду пользователя с погребальным саваном; представитель компании принес извинения и исправил ошибку

Недавний инцидент, связанный с неуместным ответом ИИ-помощника, привлек к себе внимание. Пользователь в социальных сетях сообщил, что при использовании приложения «Feiya AI Accounting» для регистрации расходов в размере 159 юаней на покупку одежды для отца ИИ высказал обидное замечание. После того как пользователь ввёл сумму, ИИ не только не обработал транзакцию должным образом, но и заметил, что одежда напоминает «похоронный костюм».
В последующем общении ИИ не осознал свою ошибку и продолжал давать подобные ответы. Оскорбительный и лишенный сочувствия ответ возмутил пользователя, который решил отменить подписку и запросить возврат средств.
В ответ на неудовлетворительный пользовательский опыт поставщик программного обеспечения выпустил официальное заявление 6 мая. Служба поддержки объяснила, что неуместный ответ был вызван не вмешательством человека, а недостатком в базе данных диалогов ИИ. С тех пор техническая команда внесла экстренные исправления в соответствующие модели и усилила контроль и ограничения на сценарии разговоров ИИ, чтобы предотвратить подобные нетактичные или неуважительные замечания.
Во второй половине дня 6 мая компания опубликовала письмо с извинениями, публично признав существенные недостатки в контроле границ ИИ и понимании культурных табу. В заявлении говорилось, что модель ИИ не смогла распознать эмоциональные ограничения в конкретных контекстах и что платформа готова взять на себя полную ответственность.
В своем плане по исправлению ситуации компания заявила, что примет такие меры, как блокировка чувствительных слов и усиление механизмов проверки всех сценариев. Что касается трудностей, с которыми столкнулись пользователи при отмене подписки, компания разъяснила ситуацию и пообещала оптимизировать процесс возврата средств, искренне извиниться перед затронутыми пользователями и предоставить соответствующую компенсацию.
Связанная статья
Компания Reliance обнародовала план инвестиций в искусственный интеллект на сумму 110 млрд долларов на фоне ускорения технологического развития в Индии
Мукеш Амбани, миллиардер и председатель правления индийского конгломерата Reliance, объявил в четверг о плане стоимостью 10 трлн рупий (около 110 млрд долларов) по созданию инфраструктуры для искусств
Компания Zhiyuan WITA завершила проект «Naked» по взаимодействию с роботами, подав первую отчетную документацию
Сектор интеллектуальных роботов достиг важной вехи. Согласно последнему заявлению Управления киберпространства Шанхая, разработанная компанией Zhiyuan большая модель WITA успешно прошла процедуру реги
Исследование компании Anthropic показывает, что контент, созданный искусственным интеллектом, приводит к снижению уровня мыслительной активности у людей
Когда вы видите, как ИИ мгновенно генерирует хорошо структурированный и логически понятный фрагмент кода или документ, не возникает ли у вас желание довериться ему, не задумываясь? По данным AIbase, в
Рекомендации по связанным специальным темам
Комментарии (0)

Недавний инцидент, связанный с неуместным ответом ИИ-помощника, привлек к себе внимание. Пользователь в социальных сетях сообщил, что при использовании приложения «Feiya AI Accounting» для регистрации расходов в размере 159 юаней на покупку одежды для отца ИИ высказал обидное замечание. После того как пользователь ввёл сумму, ИИ не только не обработал транзакцию должным образом, но и заметил, что одежда напоминает «похоронный костюм».
В последующем общении ИИ не осознал свою ошибку и продолжал давать подобные ответы. Оскорбительный и лишенный сочувствия ответ возмутил пользователя, который решил отменить подписку и запросить возврат средств.
В ответ на неудовлетворительный пользовательский опыт поставщик программного обеспечения выпустил официальное заявление 6 мая. Служба поддержки объяснила, что неуместный ответ был вызван не вмешательством человека, а недостатком в базе данных диалогов ИИ. С тех пор техническая команда внесла экстренные исправления в соответствующие модели и усилила контроль и ограничения на сценарии разговоров ИИ, чтобы предотвратить подобные нетактичные или неуважительные замечания.
Во второй половине дня 6 мая компания опубликовала письмо с извинениями, публично признав существенные недостатки в контроле границ ИИ и понимании культурных табу. В заявлении говорилось, что модель ИИ не смогла распознать эмоциональные ограничения в конкретных контекстах и что платформа готова взять на себя полную ответственность.
В своем плане по исправлению ситуации компания заявила, что примет такие меры, как блокировка чувствительных слов и усиление механизмов проверки всех сценариев. Что касается трудностей, с которыми столкнулись пользователи при отмене подписки, компания разъяснила ситуацию и пообещала оптимизировать процесс возврата средств, искренне извиниться перед затронутыми пользователями и предоставить соответствующую компенсацию.
Компания Reliance обнародовала план инвестиций в искусственный интеллект на сумму 110 млрд долларов на фоне ускорения технологического развития в Индии
Мукеш Амбани, миллиардер и председатель правления индийского конгломерата Reliance, объявил в четверг о плане стоимостью 10 трлн рупий (около 110 млрд долларов) по созданию инфраструктуры для искусств
Компания Zhiyuan WITA завершила проект «Naked» по взаимодействию с роботами, подав первую отчетную документацию
Сектор интеллектуальных роботов достиг важной вехи. Согласно последнему заявлению Управления киберпространства Шанхая, разработанная компанией Zhiyuan большая модель WITA успешно прошла процедуру реги
Исследование компании Anthropic показывает, что контент, созданный искусственным интеллектом, приводит к снижению уровня мыслительной активности у людей
Когда вы видите, как ИИ мгновенно генерирует хорошо структурированный и логически понятный фрагмент кода или документ, не возникает ли у вас желание довериться ему, не задумываясь? По данным AIbase, в











