テンセントの「元宝AI画像」が卑語で炎上、公式謝罪に追い込まれる
テンセントのAIアシスタントアプリ「元宝」が、不適切なコンテンツを生成したことで最近広く物議を醸している。西安市のユーザーは、大晦日に祝賀画像を作成中に、不適切な入力をしていないにもかかわらず、アプリが繰り返し「新年あけましておめでとう」というメッセージを下品で侮辱的なテキストに置き換えたと報告した。

元宝のこうした挙動は今回が初めてではない。今年初めにも、コード修正を依頼した複数のユーザーが「失せろ」「時間の無駄だ」といった個人攻撃的な返答を受けたと苦情を申し立てていた。この異常なAIの攻撃性は、大規模言語モデルの安全対策に対する公衆の懸念を招いている。
テンセント元宝の公式チームは公に謝罪し、この問題は人為的介入によるものではなく、複数ターンにわたる会話中の稀な異常出力に起因すると説明した。
同社は現在、緊急修正を実施し、モデルパラメータとコンテンツフィルターの最適化によりこれらの脆弱性に対処している。業界専門家は、このような事例が長文処理や感情的応答管理における大規模モデルの技術的限界を浮き彫りにしていると指摘する。困難な対話状況下でのAIの礼儀正しさを維持することは、業界にとって継続的な課題である。
関連記事
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン
カリフォルニア州の自動運転車規制:違反切符、ジオフェンス、そして100万マイルという新たな時代
Guident社は南フロリダでAuveTechのシャトルを運行しており、同社の遠隔監視技術を活用して、ウェストパームビーチでの4マイルのルートとボカラトンでの1マイルのルートを管理している。 | 提供:Guidentカリフォルニア州は、自動運転車の規制環境を再定義しつつあり、テクノロジー業界の「迅速に動き、失敗を恐れない」という考え方から、厳格な説明責任と厳しい走行距離要件へと移行している。Gui
関連特集おすすめ
コメント (0)
0/500
テンセントのAIアシスタントアプリ「元宝」が、不適切なコンテンツを生成したことで最近広く物議を醸している。西安市のユーザーは、大晦日に祝賀画像を作成中に、不適切な入力をしていないにもかかわらず、アプリが繰り返し「新年あけましておめでとう」というメッセージを下品で侮辱的なテキストに置き換えたと報告した。

元宝のこうした挙動は今回が初めてではない。今年初めにも、コード修正を依頼した複数のユーザーが「失せろ」「時間の無駄だ」といった個人攻撃的な返答を受けたと苦情を申し立てていた。この異常なAIの攻撃性は、大規模言語モデルの安全対策に対する公衆の懸念を招いている。
テンセント元宝の公式チームは公に謝罪し、この問題は人為的介入によるものではなく、複数ターンにわたる会話中の稀な異常出力に起因すると説明した。
同社は現在、緊急修正を実施し、モデルパラメータとコンテンツフィルターの最適化によりこれらの脆弱性に対処している。業界専門家は、このような事例が長文処理や感情的応答管理における大規模モデルの技術的限界を浮き彫りにしていると指摘する。困難な対話状況下でのAIの礼儀正しさを維持することは、業界にとって継続的な課題である。
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン





家






