Дом
Программа для бухгалтерского учета с ИИ сравнила одежду пользователя с погребальным саваном; представитель компании принес извинения и исправил ошибку

Недавний инцидент, связанный с неуместным ответом ИИ-помощника, привлек к себе внимание. Пользователь в социальных сетях сообщил, что при использовании приложения «Feiya AI Accounting» для регистрации расходов в размере 159 юаней на покупку одежды для отца ИИ высказал обидное замечание. После того как пользователь ввёл сумму, ИИ не только не обработал транзакцию должным образом, но и заметил, что одежда напоминает «похоронный костюм».
В последующем общении ИИ не осознал свою ошибку и продолжал давать подобные ответы. Оскорбительный и лишенный сочувствия ответ возмутил пользователя, который решил отменить подписку и запросить возврат средств.
В ответ на неудовлетворительный пользовательский опыт поставщик программного обеспечения выпустил официальное заявление 6 мая. Служба поддержки объяснила, что неуместный ответ был вызван не вмешательством человека, а недостатком в базе данных диалогов ИИ. С тех пор техническая команда внесла экстренные исправления в соответствующие модели и усилила контроль и ограничения на сценарии разговоров ИИ, чтобы предотвратить подобные нетактичные или неуважительные замечания.
Во второй половине дня 6 мая компания опубликовала письмо с извинениями, публично признав существенные недостатки в контроле границ ИИ и понимании культурных табу. В заявлении говорилось, что модель ИИ не смогла распознать эмоциональные ограничения в конкретных контекстах и что платформа готова взять на себя полную ответственность.
В своем плане по исправлению ситуации компания заявила, что примет такие меры, как блокировка чувствительных слов и усиление механизмов проверки всех сценариев. Что касается трудностей, с которыми столкнулись пользователи при отмене подписки, компания разъяснила ситуацию и пообещала оптимизировать процесс возврата средств, искренне извиниться перед затронутыми пользователями и предоставить соответствующую компенсацию.
Связанная статья
Умные очки Apple могут быть представлены на WWDC27 с акцентом на защиту конфиденциальности
Журналист Bloomberg Марк Гурман сообщает, что умные очки Apple под кодовым названием N50 должны дебютировать на WWDC27 в июне 2027 года, а их розничные продажи ожидаются осенью 2027 года. Изначально выпуск устройства планировался на конец этого года
Внутри раскрыты подробности о Gemini следующего поколения: ограниченные вычислительные мощности, внутренние команды не сошлись в вопросах приоритетов разработки и распределения ресурсов
В отчётах указывается, что запуск долгожданной модели Gemini следующего поколения от Google был перенесён. Внутренние разногласия по вопросам приоритетов разработки и распределения ресурсов, в сочетании с ограниченной вычислительной мощностью и сложн
OpenAI отклоняет опасения по поводу замедления роста, заявляя о ускорении работы нескольких бизнес-подразделений
В ответ на внешнюю критику, связанную с замедлением роста продаж и невыполнением внутренних плановых показателей, лидер в области искусственного интеллекта компания OpenAI опубликовала во вторник, 28 апреля, уверенное заявление. Компания уточнила, чт
Рекомендации по связанным специальным темам
Комментарии (0)

Недавний инцидент, связанный с неуместным ответом ИИ-помощника, привлек к себе внимание. Пользователь в социальных сетях сообщил, что при использовании приложения «Feiya AI Accounting» для регистрации расходов в размере 159 юаней на покупку одежды для отца ИИ высказал обидное замечание. После того как пользователь ввёл сумму, ИИ не только не обработал транзакцию должным образом, но и заметил, что одежда напоминает «похоронный костюм».
В последующем общении ИИ не осознал свою ошибку и продолжал давать подобные ответы. Оскорбительный и лишенный сочувствия ответ возмутил пользователя, который решил отменить подписку и запросить возврат средств.
В ответ на неудовлетворительный пользовательский опыт поставщик программного обеспечения выпустил официальное заявление 6 мая. Служба поддержки объяснила, что неуместный ответ был вызван не вмешательством человека, а недостатком в базе данных диалогов ИИ. С тех пор техническая команда внесла экстренные исправления в соответствующие модели и усилила контроль и ограничения на сценарии разговоров ИИ, чтобы предотвратить подобные нетактичные или неуважительные замечания.
Во второй половине дня 6 мая компания опубликовала письмо с извинениями, публично признав существенные недостатки в контроле границ ИИ и понимании культурных табу. В заявлении говорилось, что модель ИИ не смогла распознать эмоциональные ограничения в конкретных контекстах и что платформа готова взять на себя полную ответственность.
В своем плане по исправлению ситуации компания заявила, что примет такие меры, как блокировка чувствительных слов и усиление механизмов проверки всех сценариев. Что касается трудностей, с которыми столкнулись пользователи при отмене подписки, компания разъяснила ситуацию и пообещала оптимизировать процесс возврата средств, искренне извиниться перед затронутыми пользователями и предоставить соответствующую компенсацию.
Умные очки Apple могут быть представлены на WWDC27 с акцентом на защиту конфиденциальности
Журналист Bloomberg Марк Гурман сообщает, что умные очки Apple под кодовым названием N50 должны дебютировать на WWDC27 в июне 2027 года, а их розничные продажи ожидаются осенью 2027 года. Изначально выпуск устройства планировался на конец этого года
Внутри раскрыты подробности о Gemini следующего поколения: ограниченные вычислительные мощности, внутренние команды не сошлись в вопросах приоритетов разработки и распределения ресурсов
В отчётах указывается, что запуск долгожданной модели Gemini следующего поколения от Google был перенесён. Внутренние разногласия по вопросам приоритетов разработки и распределения ресурсов, в сочетании с ограниченной вычислительной мощностью и сложн
OpenAI отклоняет опасения по поводу замедления роста, заявляя о ускорении работы нескольких бизнес-подразделений
В ответ на внешнюю критику, связанную с замедлением роста продаж и невыполнением внутренних плановых показателей, лидер в области искусственного интеллекта компания OpenAI опубликовала во вторник, 28 апреля, уверенное заявление. Компания уточнила, чт











