TikTok 因頻繁出現「藍莓」幻覺,移除 AI 影片摘要功能
TikTok 近日宣布,已暫停測試一項旨在為影片自動生成文字摘要的實驗性 AI 功能,並將重新聚焦於更具體的應用場景。 這項名為「AI Overviews」的功能,過去數月來已在美國等市場進行小規模測試,最初的計畫是利用 TikTok 自家的或第三方多模態模型,提供影片的背景資訊及產品推薦。

然而實際運作中,該功能卻出現了嚴重的「幻覺」現象,引發廣泛關注: 它將 Charli D’Amelio 的影片出鏡誤判為「含有不同配料的藍莓集合」、將狗狗訓練教學解讀為「摺紙藝術」,甚至將夏奇拉(Shakira)的宣傳短片描述為「移動的藍色形狀」。
面對演算法理解能力上的重大缺陷,TikTok發言人證實,基於用戶反饋已暫停相關測試,並澄清該功能今後將專注於識別影片中的特定產品,而非嘗試總結整個影片內容。 此決定凸顯了生成式人工智慧在處理動態視覺資訊時仍面臨的技術障礙,包括邏輯矛盾與語義錯誤。
業界觀察家將此事件視為繼 Google「膠水披薩」事件後,又一宗引人注目的 AI 幻覺案例。 儘管近期數據顯示,Google 等大型企業的 AI 概述準確度已有所提升,但 TikTok 的挫折凸顯出:在短影片這種高密度且非結構化的環境中,多模態大型模型的泛化能力仍不足以實現可靠的自動化敘事。 短期內,業界正從追求廣泛的「全面描述」轉向更聚焦的「垂直應用」,透過縮小認知範圍來提升AI工具的實用性與商業可靠性。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (0)
0/500
TikTok 近日宣布,已暫停測試一項旨在為影片自動生成文字摘要的實驗性 AI 功能,並將重新聚焦於更具體的應用場景。 這項名為「AI Overviews」的功能,過去數月來已在美國等市場進行小規模測試,最初的計畫是利用 TikTok 自家的或第三方多模態模型,提供影片的背景資訊及產品推薦。

然而實際運作中,該功能卻出現了嚴重的「幻覺」現象,引發廣泛關注: 它將 Charli D’Amelio 的影片出鏡誤判為「含有不同配料的藍莓集合」、將狗狗訓練教學解讀為「摺紙藝術」,甚至將夏奇拉(Shakira)的宣傳短片描述為「移動的藍色形狀」。
面對演算法理解能力上的重大缺陷,TikTok發言人證實,基於用戶反饋已暫停相關測試,並澄清該功能今後將專注於識別影片中的特定產品,而非嘗試總結整個影片內容。 此決定凸顯了生成式人工智慧在處理動態視覺資訊時仍面臨的技術障礙,包括邏輯矛盾與語義錯誤。
業界觀察家將此事件視為繼 Google「膠水披薩」事件後,又一宗引人注目的 AI 幻覺案例。 儘管近期數據顯示,Google 等大型企業的 AI 概述準確度已有所提升,但 TikTok 的挫折凸顯出:在短影片這種高密度且非結構化的環境中,多模態大型模型的泛化能力仍不足以實現可靠的自動化敘事。 短期內,業界正從追求廣泛的「全面描述」轉向更聚焦的「垂直應用」,透過縮小認知範圍來提升AI工具的實用性與商業可靠性。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






