Meta 推出新的 AI 內容管理系統,同時減少對第三方供應商的依賴
Meta 週四宣布,將開始部署更先進的人工智慧系統來進行內容審查,旨在減少對外部供應商的依賴。這些系統將處理諸如識別並移除與恐怖主義、兒童剝削、毒品、詐欺及詐騙相關的內容等任務。
該公司表示,一旦這些先進的人工智慧工具能持續展現優於現有內容執法方法的表現,便會將其整合至旗下各項應用程式中。與此同時,Meta 計畫減少在這些審查任務上對第三方供應商的依賴。
「雖然人工審查員仍將是流程的一部分,但這些系統將負責處理更適合由技術處理的任務,例如對露骨內容的重複審查,或是惡意行為者經常調整策略的領域,例如非法毒品販售或詐騙,」Meta 在一篇部落格文章中解釋道。
Meta 強調,這些 AI 系統不僅能以更高精準度偵測更多違規行為、更有效預防詐騙、更迅速回應現實世界事件,還能減少過度執法的情況。
AI 系統的初期測試顯示出令人鼓舞的成果:在偵測違反規定的成人性邀約內容方面,其成效是人工審查團隊的兩倍,同時將錯誤率降低了 60% 以上。 該系統還能識別並阻止更多冒用名人及其他高知名度人士身份的帳戶,並透過偵測來自新地點的登入、密碼變更或個人資料編輯等訊號,協助阻止帳戶遭盜用。
此外,Meta 表示,該系統每天可識別並遏止約 5,000 次詐騙企圖,這些詐騙者試圖誘騙用戶洩露其登入憑證。
「專家將負責設計、訓練、監督及評估我們的 AI 系統,並衡量系統表現,同時做出最複雜且影響深遠的決策,」Meta 在部落格文章中寫道。「例如,在處理最高風險及最關鍵的決策時,人類仍將扮演關鍵角色,例如針對帳號停用提出的申訴,或是向執法機關舉報等。」

此舉緊隨 Meta 在過去一年中逐步放寬內容審查規則之後,恰與唐納德·川普總統重返白宮的時間點相吻合。 去年,該公司終止了第三方事實核查計畫,轉而採用類似 X 平台的「社群註解」(Community Notes)模式。此外,公司亦放寬了對「屬於主流討論範疇的話題」的限制,並鼓勵用戶對政治內容採取「個性化」的處理方式。
這項發展正值 Meta 及其他主要科技公司面臨多起訴訟之際,這些訴訟旨在追究社交媒體平台對兒童及年輕用戶造成傷害的責任。
Meta 亦於週四宣布推出 Meta AI 支援助理,為用戶提供 24 小時全天候的支援服務。該助理正全球陸續推出至 iOS 與 Android 版的 Facebook 和 Instagram 應用程式,以及供桌面版用戶使用的 Facebook 和 Instagram 說明中心內。
相關文章
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
馬克·扎克伯格真的相信人工智慧是面向每個人的嗎?
正在載入播放器…Meta 本週推出了 Glimmer,這是一個開源權重的 AI 模型,任何人都可以下載並在個人硬體上執行——這與該公司更強大的模型 Muse Spark 形成了鮮明對比,後者仍鎖定在其自有 API 之後。此次釋出伴隨著馬克·扎克伯格(Mark Zuckerberg)的一封公開信,他在信中主張人工智慧應向所有人開放,而非由少數幾家實驗室控制。但正如 Equity 節目主持人所指出的那樣,這一願景附帶了幾個重要的限制條件。在本期 TechCrunch 的 Equity 播客中,K
Facebook 推出專為內容創作者設計的 AI 輔助應用程式
Facebook 於週三透露,將把「創作者工作室」(Creator Studio)轉型為一款專用的 AI 輔助應用程式,協助創作者在平台上擴大影響力。透過提供這項由人工智慧驅動的工具,Meta 旨在面對 TikTok 和 YouTube 的激烈競爭,仍能留住 Facebook 上的創作者。該公司亦預期此應用程式能減少對 ChatGPT 等外部工具在內容構思與表現分析方面的依賴。目前該新應用程式正針
相關專題推薦
評論 (0)
0/500
Meta 週四宣布,將開始部署更先進的人工智慧系統來進行內容審查,旨在減少對外部供應商的依賴。這些系統將處理諸如識別並移除與恐怖主義、兒童剝削、毒品、詐欺及詐騙相關的內容等任務。
該公司表示,一旦這些先進的人工智慧工具能持續展現優於現有內容執法方法的表現,便會將其整合至旗下各項應用程式中。與此同時,Meta 計畫減少在這些審查任務上對第三方供應商的依賴。
「雖然人工審查員仍將是流程的一部分,但這些系統將負責處理更適合由技術處理的任務,例如對露骨內容的重複審查,或是惡意行為者經常調整策略的領域,例如非法毒品販售或詐騙,」Meta 在一篇部落格文章中解釋道。
Meta 強調,這些 AI 系統不僅能以更高精準度偵測更多違規行為、更有效預防詐騙、更迅速回應現實世界事件,還能減少過度執法的情況。
AI 系統的初期測試顯示出令人鼓舞的成果:在偵測違反規定的成人性邀約內容方面,其成效是人工審查團隊的兩倍,同時將錯誤率降低了 60% 以上。 該系統還能識別並阻止更多冒用名人及其他高知名度人士身份的帳戶,並透過偵測來自新地點的登入、密碼變更或個人資料編輯等訊號,協助阻止帳戶遭盜用。
此外,Meta 表示,該系統每天可識別並遏止約 5,000 次詐騙企圖,這些詐騙者試圖誘騙用戶洩露其登入憑證。
「專家將負責設計、訓練、監督及評估我們的 AI 系統,並衡量系統表現,同時做出最複雜且影響深遠的決策,」Meta 在部落格文章中寫道。「例如,在處理最高風險及最關鍵的決策時,人類仍將扮演關鍵角色,例如針對帳號停用提出的申訴,或是向執法機關舉報等。」

此舉緊隨 Meta 在過去一年中逐步放寬內容審查規則之後,恰與唐納德·川普總統重返白宮的時間點相吻合。 去年,該公司終止了第三方事實核查計畫,轉而採用類似 X 平台的「社群註解」(Community Notes)模式。此外,公司亦放寬了對「屬於主流討論範疇的話題」的限制,並鼓勵用戶對政治內容採取「個性化」的處理方式。
這項發展正值 Meta 及其他主要科技公司面臨多起訴訟之際,這些訴訟旨在追究社交媒體平台對兒童及年輕用戶造成傷害的責任。
Meta 亦於週四宣布推出 Meta AI 支援助理,為用戶提供 24 小時全天候的支援服務。該助理正全球陸續推出至 iOS 與 Android 版的 Facebook 和 Instagram 應用程式,以及供桌面版用戶使用的 Facebook 和 Instagram 說明中心內。
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
馬克·扎克伯格真的相信人工智慧是面向每個人的嗎?
正在載入播放器…Meta 本週推出了 Glimmer,這是一個開源權重的 AI 模型,任何人都可以下載並在個人硬體上執行——這與該公司更強大的模型 Muse Spark 形成了鮮明對比,後者仍鎖定在其自有 API 之後。此次釋出伴隨著馬克·扎克伯格(Mark Zuckerberg)的一封公開信,他在信中主張人工智慧應向所有人開放,而非由少數幾家實驗室控制。但正如 Equity 節目主持人所指出的那樣,這一願景附帶了幾個重要的限制條件。在本期 TechCrunch 的 Equity 播客中,K
Facebook 推出專為內容創作者設計的 AI 輔助應用程式
Facebook 於週三透露,將把「創作者工作室」(Creator Studio)轉型為一款專用的 AI 輔助應用程式,協助創作者在平台上擴大影響力。透過提供這項由人工智慧驅動的工具,Meta 旨在面對 TikTok 和 YouTube 的激烈競爭,仍能留住 Facebook 上的創作者。該公司亦預期此應用程式能減少對 ChatGPT 等外部工具在內容構思與表現分析方面的依賴。目前該新應用程式正針





首頁






