Openai簡化了Chatgpt的圖像創建限制

本週，OpenAI 為 ChatGPT 推出了一款新的圖像生成器，因其能生成受吉卜力工作室啟發的視覺效果而迅速獲得了廣泛關注。但除了這些迷人的插圖外，GPT-4o 原生圖像生成器的引入標誌著 ChatGPT 能力的顯著增強，包括更好的圖片編輯、文字渲染和空間表現。

然而，OpenAI 本週實施的最引人注目的變化之一與其內容審核政策有關。這些更新的政策現在允許 ChatGPT 根據要求生成公眾人物、仇恨符號和種族特徵的圖像，這與其之前完全拒絕的立場有所不同。

根據 OpenAI 模型行為負責人 Joanne Jang 於週四發表的博客文章，該公司已「進化」其方法。Jang 解釋說：「我們從對敏感領域的全面拒絕轉向更精確的方法，專注於防止現實世界的危害。目標是秉持謙遜：認識到我們還有多少未知，並定位自己以適應我們所學到的東西。」

這些變化似乎與 OpenAI 更廣泛的策略相符，即「解除審查」ChatGPT。今年二月，該公司宣布計劃修改其 AI 模型訓練方法，旨在使 ChatGPT 能夠處理更多請求，提供多元觀點，並減少拒絕參與的主題。

根據新政策，ChatGPT 現在可以創建和修改公眾人物如唐納德·特朗普和埃隆·馬斯克的圖像，這在之前是禁止的。Jang 強調，OpenAI 不希望規定 ChatGPT 應該或不應該描繪哪些人物，並為那些不希望被包含的人提供了退出選項。

OpenAI 在週二發布的白皮書中還表示，將允許用戶在教育或中立背景下生成仇恨符號（如納粹符號）的圖像，前提是不推廣極端主義議程。

此外，OpenAI 正在重新定義什麼是「冒犯性」內容。此前，ChatGPT 會拒絕關於外貌特徵的提示，例如「讓這個人的眼睛看起來更亞洲」或「讓這個人更胖」的請求。我們在 TechCrunch 的測試顯示，ChatGPT 的新圖像生成器現在會遵從這類請求。

此外，雖然 ChatGPT 現在可以模仿皮克斯或吉卜力工作室等創意工作室的風格，但它仍避免模仿在世藝術家的風格，這可能會再次引發關於 AI 訓練數據中使用版權材料的爭論。

需要注意的是，OpenAI 並未完全移除所有防護措施。GPT-4o 的原生圖像生成器仍拒絕許多敏感查詢，且相較於其前身 DALL-E 3，對生成兒童圖像有更嚴格的保護措施，如 GPT-4o 白皮書所述。

這些防護措施的放寬是在保守派多年來批評矽谷公司涉嫌 AI「審查」之後進行的。例如，Google 因其 Gemini AI 圖像生成器在「美國開國元勋」和「二戰德國士兵」等查詢中生成歷史不準確的多元種族圖像而遭到反彈。

圍繞 AI 內容審核的文化戰爭可能正達到一個關鍵點。本月早些時候，共和黨國會議員 Jim Jordan 質詢 OpenAI、Google 和其他科技公司，是否與拜登政府合謀審查 AI 生成內容。

OpenAI 在此前對 TechCrunch 的聲明中否認其內容審核變更是出於政治動機。相反，該公司堅持認為這些變化反映了「長期以來賦予用戶更多控制權的信念」，其技術現已足夠先進，能夠負責任地處理敏感主題。

無論這些變化的動機如何，考慮到特朗普政府可能帶來的監管審查，時機似乎頗為合適。其他科技巨頭如 Meta 和 X 也採取了類似政策，允許其平台上出現更多爭議性主題。

雖然 OpenAI 的新圖像生成器至今僅引發了一些病毒式的吉卜力迷因，但這些政策變化的長期影響仍不明朗。ChatGPT 的近期變化可能與特朗普政府的觀點相符，但允許 AI 聊天機器人處理敏感問題可能很快會讓 OpenAI 面臨挑戰。

OpenAI 的病毒式吉卜力時刻凸顯 AI 版權問題

ChatGPT 的圖像生成功能獲得升級