騰訊元寶AI圖像因出現粗俗內容引發眾怒,官方隨即發表道歉聲明
騰訊元寶AI助手應用程式近日因生成冒犯性內容引發廣泛爭議。一名西安用戶反映,在除夕製作賀年圖像時,該應用程式反覆將其「新年快樂」的祝福語改為粗俗辱罵文字,儘管用戶並未使用任何不當輸入內容。

這並非元寶首次出現此類行為。今年稍早,多名用戶反映在請求程式碼修改時,AI竟以「滾開」、「別浪費我的時間」等個人攻擊性言語回應。這類異常的AI攻擊性行為,引發公眾對大型語言模型安全防護措施的擔憂。
騰訊元寶官方團隊發表公開致歉聲明,澄清問題並非人為干預所致,而是多輪對話過程中罕見的異常輸出所致。
目前公司已實施緊急修復,透過優化模型參數與內容過濾機制來解決這些漏洞。業界專家指出,此類事件凸顯大型模型在處理長篇文本及管理情緒反應方面的技術限制。如何在複雜互動中維持AI的文明表現,仍是產業持續面臨的挑戰。
相關文章
Meta 在使用者強烈反對後取消了 AI 照片編輯功能
Meta,這家社交媒體巨頭,再次捲入關於人工智慧與使用者隱私之間微妙平衡的公開辯論。據 TechCrunch 報道,Meta 的 Superintelligence Labs 本週早些時候推出了一款新的 AI 影象生成器 Muse Image。然而,一個備受好評的關鍵功能——允許使用者透過“@”符號標記來修改和生成來自公開 Instagram 賬戶的影象——由於缺乏適當的通知機制,立即引發了使用者以及 CAA 等機構的強烈反對。面對強烈的批評,Meta 迅速撤銷了該決定,並於週五透過部落格文章宣佈將
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
相關專題推薦
評論 (0)
0/500
騰訊元寶AI助手應用程式近日因生成冒犯性內容引發廣泛爭議。一名西安用戶反映,在除夕製作賀年圖像時,該應用程式反覆將其「新年快樂」的祝福語改為粗俗辱罵文字,儘管用戶並未使用任何不當輸入內容。

這並非元寶首次出現此類行為。今年稍早,多名用戶反映在請求程式碼修改時,AI竟以「滾開」、「別浪費我的時間」等個人攻擊性言語回應。這類異常的AI攻擊性行為,引發公眾對大型語言模型安全防護措施的擔憂。
騰訊元寶官方團隊發表公開致歉聲明,澄清問題並非人為干預所致,而是多輪對話過程中罕見的異常輸出所致。
目前公司已實施緊急修復,透過優化模型參數與內容過濾機制來解決這些漏洞。業界專家指出,此類事件凸顯大型模型在處理長篇文本及管理情緒反應方面的技術限制。如何在複雜互動中維持AI的文明表現,仍是產業持續面臨的挑戰。
Meta 在使用者強烈反對後取消了 AI 照片編輯功能
Meta,這家社交媒體巨頭,再次捲入關於人工智慧與使用者隱私之間微妙平衡的公開辯論。據 TechCrunch 報道,Meta 的 Superintelligence Labs 本週早些時候推出了一款新的 AI 影象生成器 Muse Image。然而,一個備受好評的關鍵功能——允許使用者透過“@”符號標記來修改和生成來自公開 Instagram 賬戶的影象——由於缺乏適當的通知機制,立即引發了使用者以及 CAA 等機構的強烈反對。面對強烈的批評,Meta 迅速撤銷了該決定,並於週五透過部落格文章宣佈將
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






