YouTube 將 AI 深度偽造偵測功能擴展至政治人物、政府官員及記者
週二,YouTube 宣布將其深度偽造(deepfake)偵測技術擴展至特定群體,包括政府官員、政治候選人及記者。該工具能識別由人工智慧生成的肖像,並允許試點計畫的參與者要求移除其認為違反 YouTube 政策且未經授權的內容。
該偵測系統在經過前期測試階段後,去年首度向約 400 萬名 YouTube 合作夥伴計畫的創作者推出。
與 YouTube 現有的版權內容識別系統(Content ID)類似,這項肖像檢測功能能辨識由 AI 模擬的臉部影像。這些合成影像有時會被用來散佈不實資訊並扭曲事實,讓知名人物看似說出或做出他們在現實生活中從未做過的事情。
透過這項試行計畫,YouTube 旨在平衡言論自由與人工智慧技術帶來的風險,後者能生成極具說服力的公眾人物肖像。
YouTube 政府事務與公共政策副總裁萊斯莉·米勒(Leslie Miller)在週二公告發布前的新聞簡報會上表示:「此次擴展的真正目的在於維護公共對話的完整性。」她補充道:「我們意識到,AI 冒充行為對公民社會領域的人士構成特別高的風險。但儘管我們提供了這項新的保障措施,我們也將謹慎地加以運用。」

圖片來源:YouTube
米勒解釋,並非所有被偵測到的內容都會在收到要求後立即移除。相反地,YouTube 將依據現有的隱私權政策評估每項請求,以判定該內容是否屬於諷刺或政治批評——這兩者皆屬受保護的言論自由形式。
該公司同時倡導聯邦層級的保護措施,支持華盛頓特區提出的《反偽造法案》(NO FAKES Act),該法案旨在規範人工智慧生成的、未經授權的個人聲音及外貌重現內容。
符合資格的試用者必須在使用該工具前,上傳自拍照及政府核發的身分證件以驗證身分。經核准後,他們即可建立個人檔案、檢視偵測到的匹配內容,並在必要時提出移除請求。YouTube 最終計畫允許使用者在違規內容上線前加以封鎖,或透過類似 Content ID 的機制從這些影片中獲利。
YouTube 拒絕透露首批測試者名單中的具體政治人物或官員姓名,但表示目標是讓這項技術隨時間推移廣泛普及。

圖片來源:YouTube
由 AI 生成的影片將附有標籤,標示其合成來源,但標籤位置會有所不同。對於多數內容,標籤會出現在影片描述中;針對較敏感的主題,則會在影片播放前顯眼地顯示標籤。此做法與 YouTube 針對所有 AI 生成內容的整體政策一致。
談及標籤位置時,YouTube 創作者產品副總裁阿姆賈德·哈尼夫(Amjad Hanif)解釋道:「許多內容雖由 AI 製作,但這項區別未必對內容本身具有實質影響。」他補充:「例如,AI 生成的卡通與那些可能需要更顯眼免責聲明的内容不同。情境才是關鍵。」
YouTube 並未透露透過其創作者工具處理了多少深偽影片下架案件,但指出迄今為止的數量「非常少」。
「對多數創作者而言,這項工具主要提升了他們對內容產製的認知。實際的下架請求極為少見,因為多數被偵測到的內容最終被證實無害,甚至對他們的業務有所助益,」哈尼夫表示。
但針對政府官員、政治人物或新聞工作者的深度偽造影片,情況可能有所不同。
展望未來,YouTube 計劃將其深度偽造檢測技術擴展至更多領域,包括可辨識的語音,以及熱門角色等智慧財產權內容。
相關文章
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化
亞馬遜推出了“Alexa for Shopping”,將 Rufus 購物聊天機器人 Alexa+ 整合到應用程式、網站和 Echo Show 裝置中。該助手回答產品查詢、比較商品、跟蹤價格,並支援購物提醒。它還處理計劃中的購物操作和符合條件的自動購買。據該公司稱,“Alexa for Shopping”將 Rufus 的產品專業知識與 Alexa+ 的個性化助手上下文相結合。亞馬遜表示,Rufus 在 2025 年協助了超過 3 億客戶進行產品研究、比較和購買。GeekWire 報道稱,
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
相關專題推薦
評論 (0)
0/500
週二,YouTube 宣布將其深度偽造(deepfake)偵測技術擴展至特定群體,包括政府官員、政治候選人及記者。該工具能識別由人工智慧生成的肖像,並允許試點計畫的參與者要求移除其認為違反 YouTube 政策且未經授權的內容。
該偵測系統在經過前期測試階段後,去年首度向約 400 萬名 YouTube 合作夥伴計畫的創作者推出。
與 YouTube 現有的版權內容識別系統(Content ID)類似,這項肖像檢測功能能辨識由 AI 模擬的臉部影像。這些合成影像有時會被用來散佈不實資訊並扭曲事實,讓知名人物看似說出或做出他們在現實生活中從未做過的事情。
透過這項試行計畫,YouTube 旨在平衡言論自由與人工智慧技術帶來的風險,後者能生成極具說服力的公眾人物肖像。
YouTube 政府事務與公共政策副總裁萊斯莉·米勒(Leslie Miller)在週二公告發布前的新聞簡報會上表示:「此次擴展的真正目的在於維護公共對話的完整性。」她補充道:「我們意識到,AI 冒充行為對公民社會領域的人士構成特別高的風險。但儘管我們提供了這項新的保障措施,我們也將謹慎地加以運用。」

圖片來源:YouTube
米勒解釋,並非所有被偵測到的內容都會在收到要求後立即移除。相反地,YouTube 將依據現有的隱私權政策評估每項請求,以判定該內容是否屬於諷刺或政治批評——這兩者皆屬受保護的言論自由形式。
該公司同時倡導聯邦層級的保護措施,支持華盛頓特區提出的《反偽造法案》(NO FAKES Act),該法案旨在規範人工智慧生成的、未經授權的個人聲音及外貌重現內容。
符合資格的試用者必須在使用該工具前,上傳自拍照及政府核發的身分證件以驗證身分。經核准後,他們即可建立個人檔案、檢視偵測到的匹配內容,並在必要時提出移除請求。YouTube 最終計畫允許使用者在違規內容上線前加以封鎖,或透過類似 Content ID 的機制從這些影片中獲利。
YouTube 拒絕透露首批測試者名單中的具體政治人物或官員姓名,但表示目標是讓這項技術隨時間推移廣泛普及。

圖片來源:YouTube
由 AI 生成的影片將附有標籤,標示其合成來源,但標籤位置會有所不同。對於多數內容,標籤會出現在影片描述中;針對較敏感的主題,則會在影片播放前顯眼地顯示標籤。此做法與 YouTube 針對所有 AI 生成內容的整體政策一致。
談及標籤位置時,YouTube 創作者產品副總裁阿姆賈德·哈尼夫(Amjad Hanif)解釋道:「許多內容雖由 AI 製作,但這項區別未必對內容本身具有實質影響。」他補充:「例如,AI 生成的卡通與那些可能需要更顯眼免責聲明的内容不同。情境才是關鍵。」
YouTube 並未透露透過其創作者工具處理了多少深偽影片下架案件,但指出迄今為止的數量「非常少」。
「對多數創作者而言,這項工具主要提升了他們對內容產製的認知。實際的下架請求極為少見,因為多數被偵測到的內容最終被證實無害,甚至對他們的業務有所助益,」哈尼夫表示。
但針對政府官員、政治人物或新聞工作者的深度偽造影片,情況可能有所不同。
展望未來,YouTube 計劃將其深度偽造檢測技術擴展至更多領域,包括可辨識的語音,以及熱門角色等智慧財產權內容。
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日





首頁






