Heim
KI-Buchhaltungssoftware vergleicht Kleidung eines Nutzers mit einem Leichentuch; Verantwortlicher entschuldigt sich und behebt das Problem

Ein kürzlich aufgetretener Vorfall, bei dem ein KI-Assistent eine unangemessene Antwort gab, hat für Aufsehen gesorgt. Ein Nutzer berichtete in den sozialen Medien, dass die KI eine verletzende Bemerkung machte, als er die App „Feiya AI Accounting“ nutzte, um eine Ausgabe in Höhe von 159 Yuan für den Kauf von Kleidung für seinen Vater zu verbuchen. Nachdem der Nutzer den Betrag eingegeben hatte, verarbeitete die KI die Transaktion nicht korrekt, sondern bemerkte stattdessen, dass die Kleidung einem „Traueranzug“ ähnele.
Im weiteren Verlauf erkannte die KI ihren Fehler nicht und gab weiterhin ähnliche Antworten. Die beleidigende und unsensible Antwort verärgerte den Nutzer, der daraufhin beschloss, seine Mitgliedschaft zu kündigen und eine Rückerstattung zu beantragen.
Als Reaktion auf die schlechte Nutzererfahrung veröffentlichte der Softwareanbieter am 6. Mai eine offizielle Stellungnahme. Der Kundendienst erklärte, dass die unangemessene Antwort nicht auf menschliches Eingreifen zurückzuführen sei, sondern auf einen Fehler in der Dialogdatenbank der KI. Das technische Team hat seitdem Notfallkorrekturen an den entsprechenden Modellen vorgenommen und die Überwachung sowie die Einschränkungen für KI-Konversationsszenarien verstärkt, um ähnliche unsensible oder respektlose Bemerkungen zu verhindern.
Am Nachmittag des 6. Mai veröffentlichte das Unternehmen ein Entschuldigungsschreiben, in dem es öffentlich erhebliche Mängel bei der Kontrolle der KI-Grenzen und dem Verständnis kultureller Tabus einräumte. In der Erklärung hieß es, das KI-Modell habe emotionale Grenzen in bestimmten Kontexten nicht erkannt und die Plattform sei bereit, die volle Verantwortung zu übernehmen.
In seinem Abhilfemaßnahmenplan erklärte das Unternehmen, es werde Maßnahmen wie das Blockieren sensibler Wörter und die Stärkung von Mechanismen zur Überprüfung aller Szenarien umsetzen. Bezüglich der Schwierigkeiten der Nutzer bei der Kündigung ihrer Mitgliedschaft stellte das Unternehmen die Situation klar und versprach, den Rückerstattungsprozess zu optimieren, sich aufrichtig bei den betroffenen Nutzern zu entschuldigen und eine angemessene Entschädigung zu leisten.
Verwandter Artikel
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter
Einhaltung der Vorschriften für autonome Fahrzeuge in Kalifornien: Eine neue Ära von Bußgeldern, Geofences und 1 Million Meilen
Guident betreibt einen AuveTech-Shuttle in Südflorida und verwaltet mithilfe seiner Fernüberwachungstechnologie eine vier Meilen lange Strecke in West Palm Beach sowie eine eine Meile lange Strecke in
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Ein kürzlich aufgetretener Vorfall, bei dem ein KI-Assistent eine unangemessene Antwort gab, hat für Aufsehen gesorgt. Ein Nutzer berichtete in den sozialen Medien, dass die KI eine verletzende Bemerkung machte, als er die App „Feiya AI Accounting“ nutzte, um eine Ausgabe in Höhe von 159 Yuan für den Kauf von Kleidung für seinen Vater zu verbuchen. Nachdem der Nutzer den Betrag eingegeben hatte, verarbeitete die KI die Transaktion nicht korrekt, sondern bemerkte stattdessen, dass die Kleidung einem „Traueranzug“ ähnele.
Im weiteren Verlauf erkannte die KI ihren Fehler nicht und gab weiterhin ähnliche Antworten. Die beleidigende und unsensible Antwort verärgerte den Nutzer, der daraufhin beschloss, seine Mitgliedschaft zu kündigen und eine Rückerstattung zu beantragen.
Als Reaktion auf die schlechte Nutzererfahrung veröffentlichte der Softwareanbieter am 6. Mai eine offizielle Stellungnahme. Der Kundendienst erklärte, dass die unangemessene Antwort nicht auf menschliches Eingreifen zurückzuführen sei, sondern auf einen Fehler in der Dialogdatenbank der KI. Das technische Team hat seitdem Notfallkorrekturen an den entsprechenden Modellen vorgenommen und die Überwachung sowie die Einschränkungen für KI-Konversationsszenarien verstärkt, um ähnliche unsensible oder respektlose Bemerkungen zu verhindern.
Am Nachmittag des 6. Mai veröffentlichte das Unternehmen ein Entschuldigungsschreiben, in dem es öffentlich erhebliche Mängel bei der Kontrolle der KI-Grenzen und dem Verständnis kultureller Tabus einräumte. In der Erklärung hieß es, das KI-Modell habe emotionale Grenzen in bestimmten Kontexten nicht erkannt und die Plattform sei bereit, die volle Verantwortung zu übernehmen.
In seinem Abhilfemaßnahmenplan erklärte das Unternehmen, es werde Maßnahmen wie das Blockieren sensibler Wörter und die Stärkung von Mechanismen zur Überprüfung aller Szenarien umsetzen. Bezüglich der Schwierigkeiten der Nutzer bei der Kündigung ihrer Mitgliedschaft stellte das Unternehmen die Situation klar und versprach, den Rückerstattungsprozess zu optimieren, sich aufrichtig bei den betroffenen Nutzern zu entschuldigen und eine angemessene Entschädigung zu leisten.
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter











