Openai简化了Chatgpt的图像创建限制

本周，OpenAI 为 ChatGPT 推出了一款新的图像生成器，因其能够生成受吉卜力工作室启发的视觉效果而迅速走红。但除了迷人的插图外，GPT-4o 原生图像生成器的引入标志着 ChatGPT 能力的显著增强，包括更好的图片编辑、文本渲染和空间表现。

然而，OpenAI 本周实施的最引人注目的变化之一涉及其内容审核政策。这些更新后的政策现在允许 ChatGPT 根据请求生成公众人物、仇恨符号和种族特征的图像，这与其之前完全拒绝的立场有所不同。

根据 OpenAI 模型行为负责人 Joanne Jang 周四发表的博客文章，该公司已“演变”其方法。Jang 解释说：“我们正从敏感领域的全面拒绝转向更精确的方法，重点在于防止现实世界的伤害。目标是保持谦逊：认识到我们所知甚少，并定位自己以适应学习。”

这些变化似乎与 OpenAI “解除审查” ChatGPT 的更广泛战略相一致。今年二月，该公司宣布计划修改其 AI 模型训练方法，旨在使 ChatGPT 能够处理更多请求，提供多样化的视角，并减少其拒绝参与的主题。

根据新政策，ChatGPT 现在可以创建和更改公众人物的图像，例如唐纳德·特朗普和埃隆·马斯克，这些之前是禁止的。Jang 强调，OpenAI 不希望规定谁应该或不应该被 ChatGPT 描绘，并为那些不愿被包含的人提供了选择退出的选项。

OpenAI 在周二发布的白皮书中还表示，将允许用户在教育或中立背景下生成仇恨符号的图像，例如纳粹标志，前提是不推广极端主义议程。

此外，OpenAI 正在重新定义什么是“冒犯性”内容。此前，ChatGPT 会拒绝关于身体特征的提示，例如“让这个人的眼睛看起来更像亚洲人”或“让这个人更胖”。我们在 TechCrunch 的测试显示，ChatGPT 的新图像生成器现在会遵从这类请求。

此外，尽管 ChatGPT 现在可以模仿皮克斯或吉卜力工作室等创意工作室的风格，但它仍然避免模仿在世艺术家的风格，这可能会重新引发关于 AI 训练数据中使用版权材料的争论。

需要注意的是，OpenAI 并未完全移除所有防护措施。GPT-4o 的原生图像生成器仍然拒绝许多敏感查询，并且在生成儿童图像方面比其前身 DALL-E 3 有更严格的保护措施，如 GPT-4o 白皮书所述。

这种放宽限制的做法是在保守派多年来批评硅谷公司涉嫌 AI “审查”之后出现的。例如，谷歌因其 Gemini AI 图像生成器在查询“美国开国元勋”和“二战德国士兵”时生成历史上不准确的多种族图像而遭到强烈反对。

围绕 AI 内容审核的文化战争可能正达到一个临界点。本月早些时候，共和党众议员吉姆·乔丹质疑 OpenAI、谷歌和其他科技公司是否与拜登政府勾结以审查 AI 生成内容。

OpenAI 在此前对 TechCrunch 的声明中否认其内容审核变化是出于政治动机。相反，公司坚称这些变化反映了“长期以来赋予用户更多控制权的信念”，并且其技术现在已足够先进，能够负责任地处理敏感话题。

无论这些变化背后的动机如何，考虑到特朗普政府可能带来的监管审查，时机似乎恰到好处。其他科技巨头如 Meta 和 X 也采取了类似政策，允许在其平台上讨论更多有争议的话题。

虽然 OpenAI 的新图像生成器目前仅引发了一些病毒式传播的吉卜力迷因，但这些政策变化的长期影响仍不确定。ChatGPT 的最新变化可能与特朗普政府的观点相符，但允许 AI 聊天机器人处理敏感问题可能很快会让 OpenAI 处于一个具有挑战性的位置。

OpenAI 的病毒式吉卜力时刻凸显了 AI 版权问题

ChatGPT 的图像生成功能得到升级