YouTube 加強針對政治人物、公職人員及新聞工作者的 AI 深度偽造防護措施
YouTube 週二宣布,將把其用於識別 AI 生成深度偽造影片的肖像檢測技術,擴展至針對政府官員、政治候選人及新聞工作者的試點計畫。參與此試點計畫的人士將能使用一項工具,用以查找未經授權且使用其肖像的 AI 生成內容,並在該內容違反 YouTube 政策時提交移除請求。
這項技術最初於去年在 YouTube 合作夥伴計畫中向約 400 萬名創作者推出,是基於先前測試的成果。
這項肖像檢測功能運作方式類似於 YouTube 現有的版權內容識別系統,主要用於掃描由 AI 模擬的臉部影像。此類 AI 工具偶爾會被濫用來散佈不實資訊,透過製作逼真的名人深偽影片——例如政治人物或政府官員——讓他們說出或做出從未發生過的事情。
透過這項新試點計畫,YouTube 旨在於保障言論自由與應對 AI 技術所帶來的風險之間取得平衡,該技術能生成公眾人物逼真的仿冒影像。
YouTube 政府事務與公共政策副總裁萊斯莉·米勒(Leslie Miller)在記者會上表示:「此項擴展措施的根本目的在於維護公共言論的完整性。」她補充道:「我們意識到,對於擔任公職的人士而言,AI 冒充所帶來的風險已顯著升高。在提供這項新保護措施的同時,我們正謹慎地加以實施。」

圖片來源:YouTube
米勒澄清,並非所有被偵測到的內容都會在收到要求後自動移除。YouTube 將依據現有隱私政策評估每宗個案,以判定該內容是否屬於受保護的言論,例如諷刺或政治批評。
該公司亦表示支持聯邦層級的保護措施,並支持華盛頓特區提出的《NO FAKES 法案》等立法,該法案旨在規範未經授權的人工智慧複製個人聲音及外貌的行為。
符合資格的試用者必須提供自拍照及政府核發的身份證明文件以驗證身分,方能使用此工具。隨後他們可建立個人檔案、檢視偵測到的匹配內容,並選擇提出移除請求。YouTube 計劃最終允許用戶在違規內容發布前加以封鎖,或可能主張獲利權利,這與其「內容識別系統」(Content ID)的功能相仿。
YouTube 並未透露首批試用群組中包含哪些具體人士,但表示目標是在未來將這項技術廣泛推廣。

圖片來源:YouTube
經識別為 AI 生成的影片將附帶標籤,但標籤位置會有所不同。部分內容的標籤將出現在影片描述中,而涉及較「敏感議題」的影片則會在影片播放器上直接顯示更醒目的標籤。此做法與 YouTube 針對所有 AI 生成內容的標籤政策一致。
YouTube 創作者產品副總裁阿姆賈德·哈尼夫(Amjad Hanif)針對標籤位置說明:「雖然有大量內容是透過 AI 產製的,但這項事實未必是內容核心目的。例如,這可能是一部 AI 生成的卡通。我們會根據判斷來決定哪些類別適合加上醒目的免責聲明。」
YouTube 並未透露自向創作者推出這項技術以來,透過該技術協助移除的 AI 深度偽造內容確切數量,但指出迄今為止被下架的內容數量「極少」。
「對許多創作者而言,主要好處在於提升了對上傳內容的警覺性。實際的下架請求數量依然非常低,因為多數內容性質相當溫和,甚至與他們的頻道相輔相成,」哈尼夫表示。
針對政府官員、政治人物或記者製作的深度偽造影片,情況可能有所不同。
展望未來,YouTube 計劃將其深度偽造偵測技術擴展至其他領域,包括可辨識的聲音,以及如熱門虛構角色等智慧財產權內容。
相關文章
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化
亞馬遜推出了“Alexa for Shopping”,將 Rufus 購物聊天機器人 Alexa+ 整合到應用程式、網站和 Echo Show 裝置中。該助手回答產品查詢、比較商品、跟蹤價格,並支援購物提醒。它還處理計劃中的購物操作和符合條件的自動購買。據該公司稱,“Alexa for Shopping”將 Rufus 的產品專業知識與 Alexa+ 的個性化助手上下文相結合。亞馬遜表示,Rufus 在 2025 年協助了超過 3 億客戶進行產品研究、比較和購買。GeekWire 報道稱,
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
相關專題推薦
評論 (0)
0/500
YouTube 週二宣布,將把其用於識別 AI 生成深度偽造影片的肖像檢測技術,擴展至針對政府官員、政治候選人及新聞工作者的試點計畫。參與此試點計畫的人士將能使用一項工具,用以查找未經授權且使用其肖像的 AI 生成內容,並在該內容違反 YouTube 政策時提交移除請求。
這項技術最初於去年在 YouTube 合作夥伴計畫中向約 400 萬名創作者推出,是基於先前測試的成果。
這項肖像檢測功能運作方式類似於 YouTube 現有的版權內容識別系統,主要用於掃描由 AI 模擬的臉部影像。此類 AI 工具偶爾會被濫用來散佈不實資訊,透過製作逼真的名人深偽影片——例如政治人物或政府官員——讓他們說出或做出從未發生過的事情。
透過這項新試點計畫,YouTube 旨在於保障言論自由與應對 AI 技術所帶來的風險之間取得平衡,該技術能生成公眾人物逼真的仿冒影像。
YouTube 政府事務與公共政策副總裁萊斯莉·米勒(Leslie Miller)在記者會上表示:「此項擴展措施的根本目的在於維護公共言論的完整性。」她補充道:「我們意識到,對於擔任公職的人士而言,AI 冒充所帶來的風險已顯著升高。在提供這項新保護措施的同時,我們正謹慎地加以實施。」

圖片來源:YouTube
米勒澄清,並非所有被偵測到的內容都會在收到要求後自動移除。YouTube 將依據現有隱私政策評估每宗個案,以判定該內容是否屬於受保護的言論,例如諷刺或政治批評。
該公司亦表示支持聯邦層級的保護措施,並支持華盛頓特區提出的《NO FAKES 法案》等立法,該法案旨在規範未經授權的人工智慧複製個人聲音及外貌的行為。
符合資格的試用者必須提供自拍照及政府核發的身份證明文件以驗證身分,方能使用此工具。隨後他們可建立個人檔案、檢視偵測到的匹配內容,並選擇提出移除請求。YouTube 計劃最終允許用戶在違規內容發布前加以封鎖,或可能主張獲利權利,這與其「內容識別系統」(Content ID)的功能相仿。
YouTube 並未透露首批試用群組中包含哪些具體人士,但表示目標是在未來將這項技術廣泛推廣。

圖片來源:YouTube
經識別為 AI 生成的影片將附帶標籤,但標籤位置會有所不同。部分內容的標籤將出現在影片描述中,而涉及較「敏感議題」的影片則會在影片播放器上直接顯示更醒目的標籤。此做法與 YouTube 針對所有 AI 生成內容的標籤政策一致。
YouTube 創作者產品副總裁阿姆賈德·哈尼夫(Amjad Hanif)針對標籤位置說明:「雖然有大量內容是透過 AI 產製的,但這項事實未必是內容核心目的。例如,這可能是一部 AI 生成的卡通。我們會根據判斷來決定哪些類別適合加上醒目的免責聲明。」
YouTube 並未透露自向創作者推出這項技術以來,透過該技術協助移除的 AI 深度偽造內容確切數量,但指出迄今為止被下架的內容數量「極少」。
「對許多創作者而言,主要好處在於提升了對上傳內容的警覺性。實際的下架請求數量依然非常低,因為多數內容性質相當溫和,甚至與他們的頻道相輔相成,」哈尼夫表示。
針對政府官員、政治人物或記者製作的深度偽造影片,情況可能有所不同。
展望未來,YouTube 計劃將其深度偽造偵測技術擴展至其他領域,包括可辨識的聲音,以及如熱門虛構角色等智慧財產權內容。
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日





首頁






