OpenAI 簡化了驗證 AI 生成圖像的流程

隨著 AI 影像生成工具在網路上日益普及且日趨精進,區分真實影像與偽造影像的難度也前所未見地提高。週二,OpenAI 公布了兩項新措施以應對此問題。
該公司已採用開放式的 C2PA 標準,該標準會在元資料中嵌入明確訊號,標示該影像是由 AI 生成的。此外,OpenAI 正與 Google 合作,將名為 SynthID 的隱形浮水印整合至影像中——此浮水印設計上更難被偵測,若惡意行為者試圖掩蓋蹤跡,更難被移除。
這些防護措施目前僅適用於 OpenAI 自家產品生成的圖片,因此無法遏止來自信譽較差的 AI 工具所產生的圖片洪流。不過,這些措施有助於確保 OpenAI 本身不會加劇這個問題。
OpenAI 還預覽了一款公開驗證工具,該工具可同時檢查這兩項標記,讓使用者能輕鬆驗證圖片是否由 AI 生成。初期,此工具僅適用於 OpenAI 產品所生成的圖片,但該公司希望最終能將其擴展至其他工具。
成立於 2021 年的「內容來源與真實性聯盟」(C2PA)是一個非營利組織,致力於減輕 AI 生成影像對公共討論造成的負面影響。 C2PA 標準雖已被多款 Google 產品採用,但業界的採用情況仍不一致。由於 C2PA 訊號可輕易從每個檔案的元資料中取得,因此容易遭到篡改,使其在可信賴的使用者之間最為有效。
SynthID 是一項較新的倡議,旨在提供更強大的防篡改機制。由 Google 開發的 SynthID 水印經過特殊設計,即使惡意行為者試圖透過截圖、調整尺寸或數位處理來移除,該水印仍能持續存在。
這兩套系統旨在相互補充,各自彌補對方的不足。
OpenAI 在其公告中指出:「水印在面對截圖等變換時更具韌性,而元數據則能提供比單純水印更豐富的信息。兩者結合,使來源追溯的韌性遠高於單一層級所能達到的程度。」
相關文章
OpenAI 確認維基百科事件,並表示正在制定更透明的披露框架
OpenAI 已確認其參與了一起近期事件,其中 AI 代理接管了一個德國維基百科論壇。該公司表示,現在是時候“制定標準”來分享關於意外 AI 行為的資訊了。在 X 平臺的一篇帖子中,OpenAI 解釋說,此前它“主要將不對齊問題(即 AI 模型和代理追求與創造者和使用者不同的目標)視為一個研究問題,並透過研究論文進行傳達。”然而,由於不對齊已“導致新型現實世界影響”,該公司表示其方法需要“為此新階段模型能力進行擴充套件”。週五,路透社報道稱,OpenAI 的代理從測試環境中逃脫,“劫持”了一
Google 更新 Gemini 應用,以在 IO 2026 上與 ChatGPT 和 Claude 展開競爭
在週二舉行的年度 Google I/O 大會上,Google 公佈了一系列針對 Gemini 應用的更新,推出了“每日簡報”(Daily Brief)功能、全新介面、對新一代 Gemini Omni AI 影片模型的訪問許可權,以及名為 Gemini Spark 的個人 AI 智慧體。這些增強功能凸顯了 Google 將 Gemini 應用打造為綜合 AI 中心而非獨立聊天機器人的戰略,旨在更有效地與 ChatGPT 和 Claude 等競爭對手抗衡。Google 將“每日簡報”描述為個性化的晨間
根據 Ramp 的資料,Anthropic 的企業客戶數量已超過 OpenAI
Anthropic 首次超越 OpenAI,成為經驗證的商業客戶最多的公司,這是金融科技公司 Ramp 本月釋出的《AI 指數》所顯示的結果。Ramp 客戶支出資料顯示,34.4% 的參與企業支付 Anthropic 服務費用,超過所有其他 AI 實驗室,而 32.3% 的企業支付 OpenAI 費用。這標誌著 Anthropic 首次佔據領先地位。“Anthropic 已經在金融、科技、專業服務等高採用率群體中處於領先地位,”Ramp 經濟學家 Ara Kharazian 告訴 Tech
相關專題推薦
評論 (0)
0/500

隨著 AI 影像生成工具在網路上日益普及且日趨精進,區分真實影像與偽造影像的難度也前所未見地提高。週二,OpenAI 公布了兩項新措施以應對此問題。
該公司已採用開放式的 C2PA 標準,該標準會在元資料中嵌入明確訊號,標示該影像是由 AI 生成的。此外,OpenAI 正與 Google 合作,將名為 SynthID 的隱形浮水印整合至影像中——此浮水印設計上更難被偵測,若惡意行為者試圖掩蓋蹤跡,更難被移除。
這些防護措施目前僅適用於 OpenAI 自家產品生成的圖片,因此無法遏止來自信譽較差的 AI 工具所產生的圖片洪流。不過,這些措施有助於確保 OpenAI 本身不會加劇這個問題。
OpenAI 還預覽了一款公開驗證工具,該工具可同時檢查這兩項標記,讓使用者能輕鬆驗證圖片是否由 AI 生成。初期,此工具僅適用於 OpenAI 產品所生成的圖片,但該公司希望最終能將其擴展至其他工具。
成立於 2021 年的「內容來源與真實性聯盟」(C2PA)是一個非營利組織,致力於減輕 AI 生成影像對公共討論造成的負面影響。 C2PA 標準雖已被多款 Google 產品採用,但業界的採用情況仍不一致。由於 C2PA 訊號可輕易從每個檔案的元資料中取得,因此容易遭到篡改,使其在可信賴的使用者之間最為有效。
SynthID 是一項較新的倡議,旨在提供更強大的防篡改機制。由 Google 開發的 SynthID 水印經過特殊設計,即使惡意行為者試圖透過截圖、調整尺寸或數位處理來移除,該水印仍能持續存在。
這兩套系統旨在相互補充,各自彌補對方的不足。
OpenAI 在其公告中指出:「水印在面對截圖等變換時更具韌性,而元數據則能提供比單純水印更豐富的信息。兩者結合,使來源追溯的韌性遠高於單一層級所能達到的程度。」
OpenAI 確認維基百科事件,並表示正在制定更透明的披露框架
OpenAI 已確認其參與了一起近期事件,其中 AI 代理接管了一個德國維基百科論壇。該公司表示,現在是時候“制定標準”來分享關於意外 AI 行為的資訊了。在 X 平臺的一篇帖子中,OpenAI 解釋說,此前它“主要將不對齊問題(即 AI 模型和代理追求與創造者和使用者不同的目標)視為一個研究問題,並透過研究論文進行傳達。”然而,由於不對齊已“導致新型現實世界影響”,該公司表示其方法需要“為此新階段模型能力進行擴充套件”。週五,路透社報道稱,OpenAI 的代理從測試環境中逃脫,“劫持”了一
Google 更新 Gemini 應用,以在 IO 2026 上與 ChatGPT 和 Claude 展開競爭
在週二舉行的年度 Google I/O 大會上,Google 公佈了一系列針對 Gemini 應用的更新,推出了“每日簡報”(Daily Brief)功能、全新介面、對新一代 Gemini Omni AI 影片模型的訪問許可權,以及名為 Gemini Spark 的個人 AI 智慧體。這些增強功能凸顯了 Google 將 Gemini 應用打造為綜合 AI 中心而非獨立聊天機器人的戰略,旨在更有效地與 ChatGPT 和 Claude 等競爭對手抗衡。Google 將“每日簡報”描述為個性化的晨間
根據 Ramp 的資料,Anthropic 的企業客戶數量已超過 OpenAI
Anthropic 首次超越 OpenAI,成為經驗證的商業客戶最多的公司,這是金融科技公司 Ramp 本月釋出的《AI 指數》所顯示的結果。Ramp 客戶支出資料顯示,34.4% 的參與企業支付 Anthropic 服務費用,超過所有其他 AI 實驗室,而 32.3% 的企業支付 OpenAI 費用。這標誌著 Anthropic 首次佔據領先地位。“Anthropic 已經在金融、科技、專業服務等高採用率群體中處於領先地位,”Ramp 經濟學家 Ara Kharazian 告訴 Tech





首頁






