OpenAI 简化了 AI 生成的图像的验证流程

随着人工智能图像生成工具在网络上的普及和日益成熟,区分真实图像与伪造图像的难度也前所未有地增加。本周二,OpenAI公布了两项新措施以应对这一问题。
该公司已采用开放的C2PA标准,该标准会在元数据中嵌入一个清晰信号,表明该图像由AI生成。此外,OpenAI正与谷歌合作,引入名为SynthID的隐形水印——该水印设计得更难被检测到,如果恶意行为者试图掩盖行踪,则更难被移除。
这些保护措施目前仅适用于由OpenAI自有产品生成的图像,因此无法遏制来自信誉较差的AI工具的图像泛滥。不过,这些措施有助于确保OpenAI自身不会加剧这一问题。
OpenAI 还预览了一款公开验证工具,该工具可同时检测上述两种标识,使用户能够轻松验证图片是否由 AI 生成。初期,该工具仅适用于 OpenAI 产品生成的图片,但该公司希望最终将其扩展到其他工具。
成立于2021年的“内容来源与真实性联盟”(C2PA)是一家非营利组织,致力于减少AI生成的图像对公共讨论的有害影响。 C2PA标准已被谷歌的多种产品采用,但整个行业的采用情况仍不尽一致。由于C2PA信号可在每个文件的元数据中轻松获取,因此容易被篡改,这使得该标准在可信用户群体中最为有效。
SynthID是一项较新的举措,旨在提供更强大的防篡改保护。由谷歌开发的SynthID水印经过专门设计,即使恶意行为者试图通过截图、调整尺寸或数字处理来移除它,该水印也能保持不变。
这两个系统旨在相互补充,各自弥补对方的局限性。
“水印在面对截图等转换操作时更具韧性,而元数据则能提供比单纯水印更丰富的信息,”OpenAI 在其公告中指出。“二者结合,使来源追溯的韧性远超单独使用任一层的情况。”
相关文章
OpenAI 确认维基百科事件,并表示正在制定更透明的披露框架
OpenAI 已确认其参与了一起近期事件,其中 AI 代理接管了一个德国维基百科论坛。该公司表示,现在是时候“制定标准”来分享关于意外 AI 行为的信息了。在 X 平台的一篇帖子中,OpenAI 解释说,此前它“主要将不对齐问题(即 AI 模型和代理追求与创造者和用户不同的目标)视为一个研究问题,并通过研究论文进行传达。”然而,由于不对齐已“导致新型现实世界影响”,该公司表示其方法需要“为此新阶段模型能力进行扩展”。周五,路透社报道称,OpenAI 的代理从测试环境中逃脱,“劫持”了一个冷门
Google 更新 Gemini 应用,以在 IO 2026 上与 ChatGPT 和 Claude 展开竞争
在周二举行的年度 Google I/O 大会上,Google 公布了一系列针对 Gemini 应用的更新,推出了“每日简报”(Daily Brief)功能、全新界面、对新一代 Gemini Omni AI 视频模型的访问权限,以及名为 Gemini Spark 的个人 AI 智能体。这些增强功能凸显了 Google 将 Gemini 应用打造为综合 AI 中心而非独立聊天机器人的战略,旨在更有效地与 ChatGPT 和 Claude 等竞争对手抗衡。Google 将“每日简报”描述为个性化的晨间
根据 Ramp 的数据,Anthropic 的企业客户数量已超过 OpenAI
Anthropic 首次超越 OpenAI,成为经验证的商业客户最多的公司,这是金融科技公司 Ramp 本月发布的《AI 指数》所显示的结果。Ramp 客户支出数据显示,34.4% 的参与企业支付 Anthropic 服务费用,超过所有其他 AI 实验室,而 32.3% 的企业支付 OpenAI 费用。这标志着 Anthropic 首次占据领先地位。“Anthropic 已经在金融、科技、专业服务等高采用率群体中处于领先地位,”Ramp 经济学家 Ara Kharazian 告诉 Tech
相关专题推荐
评论 (0)
0/500

随着人工智能图像生成工具在网络上的普及和日益成熟,区分真实图像与伪造图像的难度也前所未有地增加。本周二,OpenAI公布了两项新措施以应对这一问题。
该公司已采用开放的C2PA标准,该标准会在元数据中嵌入一个清晰信号,表明该图像由AI生成。此外,OpenAI正与谷歌合作,引入名为SynthID的隐形水印——该水印设计得更难被检测到,如果恶意行为者试图掩盖行踪,则更难被移除。
这些保护措施目前仅适用于由OpenAI自有产品生成的图像,因此无法遏制来自信誉较差的AI工具的图像泛滥。不过,这些措施有助于确保OpenAI自身不会加剧这一问题。
OpenAI 还预览了一款公开验证工具,该工具可同时检测上述两种标识,使用户能够轻松验证图片是否由 AI 生成。初期,该工具仅适用于 OpenAI 产品生成的图片,但该公司希望最终将其扩展到其他工具。
成立于2021年的“内容来源与真实性联盟”(C2PA)是一家非营利组织,致力于减少AI生成的图像对公共讨论的有害影响。 C2PA标准已被谷歌的多种产品采用,但整个行业的采用情况仍不尽一致。由于C2PA信号可在每个文件的元数据中轻松获取,因此容易被篡改,这使得该标准在可信用户群体中最为有效。
SynthID是一项较新的举措,旨在提供更强大的防篡改保护。由谷歌开发的SynthID水印经过专门设计,即使恶意行为者试图通过截图、调整尺寸或数字处理来移除它,该水印也能保持不变。
这两个系统旨在相互补充,各自弥补对方的局限性。
“水印在面对截图等转换操作时更具韧性,而元数据则能提供比单纯水印更丰富的信息,”OpenAI 在其公告中指出。“二者结合,使来源追溯的韧性远超单独使用任一层的情况。”
OpenAI 确认维基百科事件,并表示正在制定更透明的披露框架
OpenAI 已确认其参与了一起近期事件,其中 AI 代理接管了一个德国维基百科论坛。该公司表示,现在是时候“制定标准”来分享关于意外 AI 行为的信息了。在 X 平台的一篇帖子中,OpenAI 解释说,此前它“主要将不对齐问题(即 AI 模型和代理追求与创造者和用户不同的目标)视为一个研究问题,并通过研究论文进行传达。”然而,由于不对齐已“导致新型现实世界影响”,该公司表示其方法需要“为此新阶段模型能力进行扩展”。周五,路透社报道称,OpenAI 的代理从测试环境中逃脱,“劫持”了一个冷门
Google 更新 Gemini 应用,以在 IO 2026 上与 ChatGPT 和 Claude 展开竞争
在周二举行的年度 Google I/O 大会上,Google 公布了一系列针对 Gemini 应用的更新,推出了“每日简报”(Daily Brief)功能、全新界面、对新一代 Gemini Omni AI 视频模型的访问权限,以及名为 Gemini Spark 的个人 AI 智能体。这些增强功能凸显了 Google 将 Gemini 应用打造为综合 AI 中心而非独立聊天机器人的战略,旨在更有效地与 ChatGPT 和 Claude 等竞争对手抗衡。Google 将“每日简报”描述为个性化的晨间
根据 Ramp 的数据,Anthropic 的企业客户数量已超过 OpenAI
Anthropic 首次超越 OpenAI,成为经验证的商业客户最多的公司,这是金融科技公司 Ramp 本月发布的《AI 指数》所显示的结果。Ramp 客户支出数据显示,34.4% 的参与企业支付 Anthropic 服务费用,超过所有其他 AI 实验室,而 32.3% 的企业支付 OpenAI 费用。这标志着 Anthropic 首次占据领先地位。“Anthropic 已经在金融、科技、专业服务等高采用率群体中处于领先地位,”Ramp 经济学家 Ara Kharazian 告诉 Tech





首页






