Heim
Tencent Yuanbao AI Image löst mit Obszönitäten Empörung aus und veranlasst offizielle Entschuldigung
Die KI-Assistenz-App „Tencent Yuanbao“ hat kürzlich für große Kontroversen gesorgt, nachdem sie beleidigende Inhalte generiert hatte. Ein Nutzer aus Xi'an berichtete, dass die App beim Erstellen von festlichen Grußbildern an Silvester wiederholt seine „Frohes Neues Jahr“-Botschaft in vulgäre und beleidigende Texte umwandelte, obwohl keine unangemessenen Eingaben verwendet wurden.

Dies ist nicht das erste Mal, dass Yuanbao ein solches Verhalten an den Tag legt. Anfang dieses Jahres beschwerten sich mehrere Nutzer, dass die KI bei der Anforderung von Codeänderungen mit persönlichen Beleidigungen wie „Hau ab” und „Verschwende nicht meine Zeit” reagierte. Diese ungewöhnliche Aggressivität der KI hat in der Öffentlichkeit Bedenken hinsichtlich der Sicherheitsmaßnahmen in großen Sprachmodellen ausgelöst.
Das offizielle Team von Tencent Yuanbao veröffentlichte eine öffentliche Entschuldigung und stellte klar, dass das Problem nicht durch menschliche Eingriffe verursacht wurde, sondern auf seltene abnormale Ausgaben während mehrteiliger Unterhaltungen zurückzuführen war.
Das Unternehmen hat nun eine Notfallkorrektur implementiert und die Modellparameter und Inhaltsfilter optimiert, um diese Schwachstellen zu beheben. Branchenexperten weisen darauf hin, dass solche Vorfälle die technischen Grenzen bei der Verarbeitung langer Texte und dem Umgang mit emotionalen Reaktionen durch große Modelle deutlich machen. Die Aufrechterhaltung der Höflichkeit der KI bei schwierigen Interaktionen bleibt eine anhaltende Herausforderung für die Branche.
Verwandter Artikel
Die tokenbasierte Abrechnungsmethode von Github Copilot löst Empörung bei Entwicklern aus
Die goldene Ära von Microsofts GitHub Copilot könnte zu Ende gehen – insbesondere für einzelne Nutzer. Das Unternehmen wechselt von einer festen Abonnementgebühr zu einem tokenbasierten Abrechnungsmodell, was die Kosten erheblich erhöhen könnte. Währ
Hervorhebungen aus der IPO-Dokumentation von SpaceX: Ambitionen für die Ausweitung des Satelliten-Internet- und KI-Geschäfts
In ihrer S-1-Einreichung vor der geplanten IPO hat SpaceX kürzlich eine Reihe beeindruckender Geschäftszahlen veröffentlicht, die ihre starke Position im Bereich der Luftfahrtkommunikation und Künstlichen Intelligenz unterstreichen:Starlink-Abonnente
Alibaba Tuhao M890 debütiert mit dreifacher Leistungsfähigkeit und markiert den Beginn der Ära der vollständig integrierten Agenten für das Chip-Cloud-Modell-Inferenz-Verfahren.
Am 20. Mai 2026 kündigte Alibaba Cloud auf dem Alibaba Cloud Summit die Fertigstellung eines umfassenden Upgrades des Technologiesystems an, das speziell für die Ära der Agenten entwickelt wurde. Diese Umstrukturierung prägte den gesamten Prozess – v
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Die KI-Assistenz-App „Tencent Yuanbao“ hat kürzlich für große Kontroversen gesorgt, nachdem sie beleidigende Inhalte generiert hatte. Ein Nutzer aus Xi'an berichtete, dass die App beim Erstellen von festlichen Grußbildern an Silvester wiederholt seine „Frohes Neues Jahr“-Botschaft in vulgäre und beleidigende Texte umwandelte, obwohl keine unangemessenen Eingaben verwendet wurden.

Dies ist nicht das erste Mal, dass Yuanbao ein solches Verhalten an den Tag legt. Anfang dieses Jahres beschwerten sich mehrere Nutzer, dass die KI bei der Anforderung von Codeänderungen mit persönlichen Beleidigungen wie „Hau ab” und „Verschwende nicht meine Zeit” reagierte. Diese ungewöhnliche Aggressivität der KI hat in der Öffentlichkeit Bedenken hinsichtlich der Sicherheitsmaßnahmen in großen Sprachmodellen ausgelöst.
Das offizielle Team von Tencent Yuanbao veröffentlichte eine öffentliche Entschuldigung und stellte klar, dass das Problem nicht durch menschliche Eingriffe verursacht wurde, sondern auf seltene abnormale Ausgaben während mehrteiliger Unterhaltungen zurückzuführen war.
Das Unternehmen hat nun eine Notfallkorrektur implementiert und die Modellparameter und Inhaltsfilter optimiert, um diese Schwachstellen zu beheben. Branchenexperten weisen darauf hin, dass solche Vorfälle die technischen Grenzen bei der Verarbeitung langer Texte und dem Umgang mit emotionalen Reaktionen durch große Modelle deutlich machen. Die Aufrechterhaltung der Höflichkeit der KI bei schwierigen Interaktionen bleibt eine anhaltende Herausforderung für die Branche.
Die tokenbasierte Abrechnungsmethode von Github Copilot löst Empörung bei Entwicklern aus
Die goldene Ära von Microsofts GitHub Copilot könnte zu Ende gehen – insbesondere für einzelne Nutzer. Das Unternehmen wechselt von einer festen Abonnementgebühr zu einem tokenbasierten Abrechnungsmodell, was die Kosten erheblich erhöhen könnte. Währ
Hervorhebungen aus der IPO-Dokumentation von SpaceX: Ambitionen für die Ausweitung des Satelliten-Internet- und KI-Geschäfts
In ihrer S-1-Einreichung vor der geplanten IPO hat SpaceX kürzlich eine Reihe beeindruckender Geschäftszahlen veröffentlicht, die ihre starke Position im Bereich der Luftfahrtkommunikation und Künstlichen Intelligenz unterstreichen:Starlink-Abonnente
Alibaba Tuhao M890 debütiert mit dreifacher Leistungsfähigkeit und markiert den Beginn der Ära der vollständig integrierten Agenten für das Chip-Cloud-Modell-Inferenz-Verfahren.
Am 20. Mai 2026 kündigte Alibaba Cloud auf dem Alibaba Cloud Summit die Fertigstellung eines umfassenden Upgrades des Technologiesystems an, das speziell für die Ära der Agenten entwickelt wurde. Diese Umstrukturierung prägte den gesamten Prozess – v











