AI 회계 소프트웨어, 사용자의 옷차림을 장례용 수의로 비유해 조롱… 관계자 사과 및 문제 시정

최근 AI 비서의 부적절한 답변과 관련된 사건이 주목을 받고 있다. 한 소셜 미디어 사용자는 ‘Feiya AI Accounting’ 앱을 통해 아버지 옷 구입비 159위안을 기록하던 중, AI가 상처를 주는 발언을 했다고 밝혔다. 사용자가 금액을 입력한 후, AI는 거래를 제대로 처리하지 못했을 뿐만 아니라 해당 옷이 “장례복”을 닮았다고 언급했다.
이어진 대화에서도 AI는 자신의 실수를 깨닫지 못하고 비슷한 반응을 이어갔다. 모욕적이고 공감 없는 답변에 화가 난 사용자는 멤버십을 해지하고 환불을 요청하기로 했다.
이러한 불만족스러운 사용자 경험에 대해 소프트웨어 제공사는 5월 6일 공식 성명을 발표했다. 고객 서비스 측은 부적절한 답변이 사람의 개입 때문이 아니라 AI 대화 데이터베이스의 결함 때문이라고 설명했다. 기술팀은 이후 관련 모델에 긴급 수정 조치를 적용하고, 유사한 무감각하거나 무례한 발언을 방지하기 위해 AI 대화 시나리오에 대한 감독과 제한을 강화했다.
5월 6일 오후, 해당 기업은 사과문을 발표하며 AI의 경계 설정 및 문화적 금기에 대한 이해에 중대한 미흡함이 있었음을 공개적으로 인정했다. 성명서는 AI 모델이 특정 맥락에서 감정적 한계를 인식하지 못했으며, 플랫폼 측이 이에 대한 전적인 책임을 지겠다고 밝혔다.
시정 계획에서 회사는 민감한 단어 차단 및 전 시나리오 검토 메커니즘 강화 등의 조치를 시행하겠다고 밝혔다. 또한 회원 탈퇴 과정에서 사용자가 겪은 불편에 대해 상황을 명확히 설명하고, 환불 절차를 개선하며, 피해를 입은 사용자에게 진심으로 사과하고 적절한 보상을 제공하겠다고 약속했다.
관련 기사
전 OpenAI 수석 과학자 일리아의 SSI가 첫 모델을 공개하다
AI는 또 다른 주요 이정표를 달성했습니다. 오픈AI를 떠난 전 수석 과학자 일야 수트케버는 세이프 슈퍼인텔리전스 인크.(SSI)를 설립했으며, 이 회사는 최근 첫 번째 모델에 대한 세부 사항을 공개했습니다. 해외 소셜 미디어의 보도에 따르면, 이 팀은 안전한 슈퍼인텔리전스 추구를 위한 중요한 진전인 TTT(테스트 중 학습)를 활용한 컴팩트한 추론 엔진을 개발하고 있습니다.이 새로운 아키텍처는 모델이 '학습 방법을 학습'할 수 있도록 하는 데
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026년 5월 14일, AI 애플리케이션 개발 플랫폼 라블러블(Lovable)은 덴마크 하드웨어 스타트업 Atech의 80만 달러 시드 투자 라운드 참여를 발표했습니다. 라블러블이 주도한 이번 투자에는 a16z 스카우트 펀드, 시에리야 스카우트 펀드, 노르딕 메이커스(Nordic Makers) 등 최상위 벤처캐피탈 기업들이 참여했습니다. 이번 투자는 라블러블이 순수 소프트웨어 개발을 넘어 하드웨어 엔지니어링 영역으로 '바이브 코딩(Vibe C
Anthropic, 클로드 AI 코딩 도구를 일본으로 확장하여 해외 성장 추진
미국의 대표적인 인공지능 기업인 앤트로픽(Anthropic)이 글로벌 마케팅을 강화하고 있다. 수요일, 이 회사는 도쿄에서 약 500명의 소프트웨어 엔지니어가 참석한 대규모 개발자 행사인 '클로드로 코딩(Code with Claude)'을 개최했다. 이번 행사는 자율적 코딩 기능의 핵심 이점을 강조하며, 클로도 AI 도구와 관련 제품을 일본 시장에 적극적으로 도입하여 기업의 생산성을 높이는 것을 목표로 한다.자동 코드 생성 강조행사 동안 앤
관련 특별 주제 추천
의견 (0)
0/500

최근 AI 비서의 부적절한 답변과 관련된 사건이 주목을 받고 있다. 한 소셜 미디어 사용자는 ‘Feiya AI Accounting’ 앱을 통해 아버지 옷 구입비 159위안을 기록하던 중, AI가 상처를 주는 발언을 했다고 밝혔다. 사용자가 금액을 입력한 후, AI는 거래를 제대로 처리하지 못했을 뿐만 아니라 해당 옷이 “장례복”을 닮았다고 언급했다.
이어진 대화에서도 AI는 자신의 실수를 깨닫지 못하고 비슷한 반응을 이어갔다. 모욕적이고 공감 없는 답변에 화가 난 사용자는 멤버십을 해지하고 환불을 요청하기로 했다.
이러한 불만족스러운 사용자 경험에 대해 소프트웨어 제공사는 5월 6일 공식 성명을 발표했다. 고객 서비스 측은 부적절한 답변이 사람의 개입 때문이 아니라 AI 대화 데이터베이스의 결함 때문이라고 설명했다. 기술팀은 이후 관련 모델에 긴급 수정 조치를 적용하고, 유사한 무감각하거나 무례한 발언을 방지하기 위해 AI 대화 시나리오에 대한 감독과 제한을 강화했다.
5월 6일 오후, 해당 기업은 사과문을 발표하며 AI의 경계 설정 및 문화적 금기에 대한 이해에 중대한 미흡함이 있었음을 공개적으로 인정했다. 성명서는 AI 모델이 특정 맥락에서 감정적 한계를 인식하지 못했으며, 플랫폼 측이 이에 대한 전적인 책임을 지겠다고 밝혔다.
시정 계획에서 회사는 민감한 단어 차단 및 전 시나리오 검토 메커니즘 강화 등의 조치를 시행하겠다고 밝혔다. 또한 회원 탈퇴 과정에서 사용자가 겪은 불편에 대해 상황을 명확히 설명하고, 환불 절차를 개선하며, 피해를 입은 사용자에게 진심으로 사과하고 적절한 보상을 제공하겠다고 약속했다.
전 OpenAI 수석 과학자 일리아의 SSI가 첫 모델을 공개하다
AI는 또 다른 주요 이정표를 달성했습니다. 오픈AI를 떠난 전 수석 과학자 일야 수트케버는 세이프 슈퍼인텔리전스 인크.(SSI)를 설립했으며, 이 회사는 최근 첫 번째 모델에 대한 세부 사항을 공개했습니다. 해외 소셜 미디어의 보도에 따르면, 이 팀은 안전한 슈퍼인텔리전스 추구를 위한 중요한 진전인 TTT(테스트 중 학습)를 활용한 컴팩트한 추론 엔진을 개발하고 있습니다.이 새로운 아키텍처는 모델이 '학습 방법을 학습'할 수 있도록 하는 데
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026년 5월 14일, AI 애플리케이션 개발 플랫폼 라블러블(Lovable)은 덴마크 하드웨어 스타트업 Atech의 80만 달러 시드 투자 라운드 참여를 발표했습니다. 라블러블이 주도한 이번 투자에는 a16z 스카우트 펀드, 시에리야 스카우트 펀드, 노르딕 메이커스(Nordic Makers) 등 최상위 벤처캐피탈 기업들이 참여했습니다. 이번 투자는 라블러블이 순수 소프트웨어 개발을 넘어 하드웨어 엔지니어링 영역으로 '바이브 코딩(Vibe C
Anthropic, 클로드 AI 코딩 도구를 일본으로 확장하여 해외 성장 추진
미국의 대표적인 인공지능 기업인 앤트로픽(Anthropic)이 글로벌 마케팅을 강화하고 있다. 수요일, 이 회사는 도쿄에서 약 500명의 소프트웨어 엔지니어가 참석한 대규모 개발자 행사인 '클로드로 코딩(Code with Claude)'을 개최했다. 이번 행사는 자율적 코딩 기능의 핵심 이점을 강조하며, 클로도 AI 도구와 관련 제품을 일본 시장에 적극적으로 도입하여 기업의 생산성을 높이는 것을 목표로 한다.자동 코드 생성 강조행사 동안 앤





집






