YouTube 將 AI 深度偽造偵測功能擴展至政治人物、政府官員及記者
週二,YouTube 宣布將其深度偽造(deepfake)偵測技術擴展至特定群體,包括政府官員、政治候選人及記者。該工具能識別由人工智慧生成的肖像,並允許試點計畫的參與者要求移除其認為違反 YouTube 政策且未經授權的內容。
該偵測系統在經過前期測試階段後,去年首度向約 400 萬名 YouTube 合作夥伴計畫的創作者推出。
與 YouTube 現有的版權內容識別系統(Content ID)類似,這項肖像檢測功能能辨識由 AI 模擬的臉部影像。這些合成影像有時會被用來散佈不實資訊並扭曲事實,讓知名人物看似說出或做出他們在現實生活中從未做過的事情。
透過這項試行計畫,YouTube 旨在平衡言論自由與人工智慧技術帶來的風險,後者能生成極具說服力的公眾人物肖像。
YouTube 政府事務與公共政策副總裁萊斯莉·米勒(Leslie Miller)在週二公告發布前的新聞簡報會上表示:「此次擴展的真正目的在於維護公共對話的完整性。」她補充道:「我們意識到,AI 冒充行為對公民社會領域的人士構成特別高的風險。但儘管我們提供了這項新的保障措施,我們也將謹慎地加以運用。」

圖片來源:YouTube
米勒解釋,並非所有被偵測到的內容都會在收到要求後立即移除。相反地,YouTube 將依據現有的隱私權政策評估每項請求,以判定該內容是否屬於諷刺或政治批評——這兩者皆屬受保護的言論自由形式。
該公司同時倡導聯邦層級的保護措施,支持華盛頓特區提出的《反偽造法案》(NO FAKES Act),該法案旨在規範人工智慧生成的、未經授權的個人聲音及外貌重現內容。
符合資格的試用者必須在使用該工具前,上傳自拍照及政府核發的身分證件以驗證身分。經核准後,他們即可建立個人檔案、檢視偵測到的匹配內容,並在必要時提出移除請求。YouTube 最終計畫允許使用者在違規內容上線前加以封鎖,或透過類似 Content ID 的機制從這些影片中獲利。
YouTube 拒絕透露首批測試者名單中的具體政治人物或官員姓名,但表示目標是讓這項技術隨時間推移廣泛普及。

圖片來源:YouTube
由 AI 生成的影片將附有標籤,標示其合成來源,但標籤位置會有所不同。對於多數內容,標籤會出現在影片描述中;針對較敏感的主題,則會在影片播放前顯眼地顯示標籤。此做法與 YouTube 針對所有 AI 生成內容的整體政策一致。
談及標籤位置時,YouTube 創作者產品副總裁阿姆賈德·哈尼夫(Amjad Hanif)解釋道:「許多內容雖由 AI 製作,但這項區別未必對內容本身具有實質影響。」他補充:「例如,AI 生成的卡通與那些可能需要更顯眼免責聲明的内容不同。情境才是關鍵。」
YouTube 並未透露透過其創作者工具處理了多少深偽影片下架案件,但指出迄今為止的數量「非常少」。
「對多數創作者而言,這項工具主要提升了他們對內容產製的認知。實際的下架請求極為少見,因為多數被偵測到的內容最終被證實無害,甚至對他們的業務有所助益,」哈尼夫表示。
但針對政府官員、政治人物或新聞工作者的深度偽造影片,情況可能有所不同。
展望未來,YouTube 計劃將其深度偽造檢測技術擴展至更多領域,包括可辨識的語音,以及熱門角色等智慧財產權內容。
相關文章
Google 相片運用人工智慧,讓《窈窕淑女》中那座標誌性的衣櫥栩栩如生
Google Photos 於週三宣布了一項由人工智慧驅動的新功能,這項功能將很快能將您衣物的照片轉化為數位衣櫥,讓您能創造嶄新的穿搭組合,甚至進行虛擬試穿。這個概念顯然是受到電影《窈窕淑女》中 Cher 那座標誌性的虛擬衣櫥啟發,她在片中可以瀏覽眾多服裝組合,同時決定該穿什麼。Google表示,這項功能將運用AI技術,根據您Google相簿圖庫中的衣物,自動建立您的衣櫥數位副本。在應用程式內,您
Notion 將其工作區轉變為人工智慧代理的樞紐
生產力軟體公司 Notion 正邁入「代理時代」。在週三的直播產品發布會上,以協作式筆記應用程式聞名的 Notion 揭曉了一套全新的開發者平台,該平台不僅擴展了其自訂 AI 代理程式的能力,還能與外部代理程式串接,並讓團隊建立自動化多步驟工作流程,從任何資料庫中擷取資料。透過建立一個「協調層」——一個能在多個工具和資料來源之間協調 AI 工作的系統——Notion 將自身定位為不僅僅是一款具備
ElevenLabs 宣布 BlackRock、傑米·福克斯與伊娃·朗格莉亞成為新投資人
語音人工智慧公司 ElevenLabs 已公布其 5 億美元 D 輪融資的更多投資者名單,該輪融資最初於二月宣布。 投資者陣容包括黑石集團(BlackRock)、威靈頓管理(Wellington)、D.E. Shaw及施羅德(Schroders)等機構投資者;NVIDIA、Salesforce、桑坦德銀行(Santander)、KPN及德國電信(Deutsche Telekom)等企業;以及傑米·
相關專題推薦
評論 (0)
0/500
週二,YouTube 宣布將其深度偽造(deepfake)偵測技術擴展至特定群體,包括政府官員、政治候選人及記者。該工具能識別由人工智慧生成的肖像,並允許試點計畫的參與者要求移除其認為違反 YouTube 政策且未經授權的內容。
該偵測系統在經過前期測試階段後,去年首度向約 400 萬名 YouTube 合作夥伴計畫的創作者推出。
與 YouTube 現有的版權內容識別系統(Content ID)類似,這項肖像檢測功能能辨識由 AI 模擬的臉部影像。這些合成影像有時會被用來散佈不實資訊並扭曲事實,讓知名人物看似說出或做出他們在現實生活中從未做過的事情。
透過這項試行計畫,YouTube 旨在平衡言論自由與人工智慧技術帶來的風險,後者能生成極具說服力的公眾人物肖像。
YouTube 政府事務與公共政策副總裁萊斯莉·米勒(Leslie Miller)在週二公告發布前的新聞簡報會上表示:「此次擴展的真正目的在於維護公共對話的完整性。」她補充道:「我們意識到,AI 冒充行為對公民社會領域的人士構成特別高的風險。但儘管我們提供了這項新的保障措施,我們也將謹慎地加以運用。」

圖片來源:YouTube
米勒解釋,並非所有被偵測到的內容都會在收到要求後立即移除。相反地,YouTube 將依據現有的隱私權政策評估每項請求,以判定該內容是否屬於諷刺或政治批評——這兩者皆屬受保護的言論自由形式。
該公司同時倡導聯邦層級的保護措施,支持華盛頓特區提出的《反偽造法案》(NO FAKES Act),該法案旨在規範人工智慧生成的、未經授權的個人聲音及外貌重現內容。
符合資格的試用者必須在使用該工具前,上傳自拍照及政府核發的身分證件以驗證身分。經核准後,他們即可建立個人檔案、檢視偵測到的匹配內容,並在必要時提出移除請求。YouTube 最終計畫允許使用者在違規內容上線前加以封鎖,或透過類似 Content ID 的機制從這些影片中獲利。
YouTube 拒絕透露首批測試者名單中的具體政治人物或官員姓名,但表示目標是讓這項技術隨時間推移廣泛普及。

圖片來源:YouTube
由 AI 生成的影片將附有標籤,標示其合成來源,但標籤位置會有所不同。對於多數內容,標籤會出現在影片描述中;針對較敏感的主題,則會在影片播放前顯眼地顯示標籤。此做法與 YouTube 針對所有 AI 生成內容的整體政策一致。
談及標籤位置時,YouTube 創作者產品副總裁阿姆賈德·哈尼夫(Amjad Hanif)解釋道:「許多內容雖由 AI 製作,但這項區別未必對內容本身具有實質影響。」他補充:「例如,AI 生成的卡通與那些可能需要更顯眼免責聲明的内容不同。情境才是關鍵。」
YouTube 並未透露透過其創作者工具處理了多少深偽影片下架案件,但指出迄今為止的數量「非常少」。
「對多數創作者而言,這項工具主要提升了他們對內容產製的認知。實際的下架請求極為少見,因為多數被偵測到的內容最終被證實無害,甚至對他們的業務有所助益,」哈尼夫表示。
但針對政府官員、政治人物或新聞工作者的深度偽造影片,情況可能有所不同。
展望未來,YouTube 計劃將其深度偽造檢測技術擴展至更多領域,包括可辨識的語音,以及熱門角色等智慧財產權內容。
Google 相片運用人工智慧,讓《窈窕淑女》中那座標誌性的衣櫥栩栩如生
Google Photos 於週三宣布了一項由人工智慧驅動的新功能,這項功能將很快能將您衣物的照片轉化為數位衣櫥,讓您能創造嶄新的穿搭組合,甚至進行虛擬試穿。這個概念顯然是受到電影《窈窕淑女》中 Cher 那座標誌性的虛擬衣櫥啟發,她在片中可以瀏覽眾多服裝組合,同時決定該穿什麼。Google表示,這項功能將運用AI技術,根據您Google相簿圖庫中的衣物,自動建立您的衣櫥數位副本。在應用程式內,您
Notion 將其工作區轉變為人工智慧代理的樞紐
生產力軟體公司 Notion 正邁入「代理時代」。在週三的直播產品發布會上,以協作式筆記應用程式聞名的 Notion 揭曉了一套全新的開發者平台,該平台不僅擴展了其自訂 AI 代理程式的能力,還能與外部代理程式串接,並讓團隊建立自動化多步驟工作流程,從任何資料庫中擷取資料。透過建立一個「協調層」——一個能在多個工具和資料來源之間協調 AI 工作的系統——Notion 將自身定位為不僅僅是一款具備
ElevenLabs 宣布 BlackRock、傑米·福克斯與伊娃·朗格莉亞成為新投資人
語音人工智慧公司 ElevenLabs 已公布其 5 億美元 D 輪融資的更多投資者名單,該輪融資最初於二月宣布。 投資者陣容包括黑石集團(BlackRock)、威靈頓管理(Wellington)、D.E. Shaw及施羅德(Schroders)等機構投資者;NVIDIA、Salesforce、桑坦德銀行(Santander)、KPN及德國電信(Deutsche Telekom)等企業;以及傑米·





首頁






