Openai簡化了Chatgpt的圖像創建限制

本週,OpenAI 為 ChatGPT 推出了一款新的圖像生成器,因其能生成受吉卜力工作室啟發的視覺效果而迅速獲得了廣泛關注。但除了這些迷人的插圖外,GPT-4o 原生圖像生成器的引入標誌著 ChatGPT 能力的顯著增強,包括更好的圖片編輯、文字渲染和空間表現。
然而,OpenAI 本週實施的最引人注目的變化之一與其內容審核政策有關。這些更新的政策現在允許 ChatGPT 根據要求生成公眾人物、仇恨符號和種族特徵的圖像,這與其之前完全拒絕的立場有所不同。
根據 OpenAI 模型行為負責人 Joanne Jang 於週四發表的博客文章,該公司已「進化」其方法。Jang 解釋說:「我們從對敏感領域的全面拒絕轉向更精確的方法,專注於防止現實世界的危害。目標是秉持謙遜:認識到我們還有多少未知,並定位自己以適應我們所學到的東西。」
這些變化似乎與 OpenAI 更廣泛的策略相符,即「解除審查」ChatGPT。今年二月,該公司宣布計劃修改其 AI 模型訓練方法,旨在使 ChatGPT 能夠處理更多請求,提供多元觀點,並減少拒絕參與的主題。
根據新政策,ChatGPT 現在可以創建和修改公眾人物如唐納德·特朗普和埃隆·馬斯克的圖像,這在之前是禁止的。Jang 強調,OpenAI 不希望規定 ChatGPT 應該或不應該描繪哪些人物,並為那些不希望被包含的人提供了退出選項。
OpenAI 在週二發布的白皮書中還表示,將允許用戶在教育或中立背景下生成仇恨符號(如納粹符號)的圖像,前提是不推廣極端主義議程。
此外,OpenAI 正在重新定義什麼是「冒犯性」內容。此前,ChatGPT 會拒絕關於外貌特徵的提示,例如「讓這個人的眼睛看起來更亞洲」或「讓這個人更胖」的請求。我們在 TechCrunch 的測試顯示,ChatGPT 的新圖像生成器現在會遵從這類請求。
此外,雖然 ChatGPT 現在可以模仿皮克斯或吉卜力工作室等創意工作室的風格,但它仍避免模仿在世藝術家的風格,這可能會再次引發關於 AI 訓練數據中使用版權材料的爭論。
需要注意的是,OpenAI 並未完全移除所有防護措施。GPT-4o 的原生圖像生成器仍拒絕許多敏感查詢,且相較於其前身 DALL-E 3,對生成兒童圖像有更嚴格的保護措施,如 GPT-4o 白皮書所述。
這些防護措施的放寬是在保守派多年來批評矽谷公司涉嫌 AI「審查」之後進行的。例如,Google 因其 Gemini AI 圖像生成器在「美國開國元勋」和「二戰德國士兵」等查詢中生成歷史不準確的多元種族圖像而遭到反彈。
圍繞 AI 內容審核的文化戰爭可能正達到一個關鍵點。本月早些時候,共和黨國會議員 Jim Jordan 質詢 OpenAI、Google 和其他科技公司,是否與拜登政府合謀審查 AI 生成內容。
OpenAI 在此前對 TechCrunch 的聲明中否認其內容審核變更是出於政治動機。相反,該公司堅持認為這些變化反映了「長期以來賦予用戶更多控制權的信念」,其技術現已足夠先進,能夠負責任地處理敏感主題。
無論這些變化的動機如何,考慮到特朗普政府可能帶來的監管審查,時機似乎頗為合適。其他科技巨頭如 Meta 和 X 也採取了類似政策,允許其平台上出現更多爭議性主題。
雖然 OpenAI 的新圖像生成器至今僅引發了一些病毒式的吉卜力迷因,但這些政策變化的長期影響仍不明朗。ChatGPT 的近期變化可能與特朗普政府的觀點相符,但允許 AI 聊天機器人處理敏感問題可能很快會讓 OpenAI 面臨挑戰。
OpenAI 的病毒式吉卜力時刻凸顯 AI 版權問題
ChatGPT 的圖像生成功能獲得升級
相關文章
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
相關專題推薦
評論 (38)
0/500
이 기능 업데이트, 이미지 생성 제한을 완화했다고 하던데 정말 사용자 친화적인 결정이네요. 지브리풍 이미지를 만들 수 있다는 건 확실히 매력 포인트! AI의 창의성과 접근성 사이의 균형을 이렇게 찾아가는 모습이 인상적입니다. 앞으로 더 다양한 예술적 표현이 가능해질까요? 🤔
Interesting, but I'm more curious about the policy changes. Does easing restrictions mean they're more confident about safety, or is it a response to growing competition? I hope they keep ethical considerations in mind while pushing capabilities forward. The Ghibli-style images are cute though! 😊
Ну наконец-то! OpenAI ослабили ограничения на генерацию изображений в ChatGPT 🎉 Теперь можно создавать более креативные картинки без лишних запретов. Особенно радует стиль Гибли - прямо детская мечта оживает! Кто-нибудь уже пробовал делать аниме-персонажей?
チャットGPTの新しい画像ジェネレータは素晴らしいです!スタジオジブリ風の画像を作るのが楽しすぎます!🍃✨もっと早く生成できたら完璧なんですけどね。それでも最高です!もっと機能が増えるのを楽しみにしてます!
OpenAIのChatGPT向け新しい画像ジェネレータはかっこいいけど、スタジオジブリだけじゃなくてもっとスタイルが欲しいな。ビジュアルは魅力的だけど、多様性が欲しい。でも、前のバージョンから大きな進歩だから、あまり文句は言わないよ。次のアップデートで期待してるよ!🎨

本週,OpenAI 為 ChatGPT 推出了一款新的圖像生成器,因其能生成受吉卜力工作室啟發的視覺效果而迅速獲得了廣泛關注。但除了這些迷人的插圖外,GPT-4o 原生圖像生成器的引入標誌著 ChatGPT 能力的顯著增強,包括更好的圖片編輯、文字渲染和空間表現。
然而,OpenAI 本週實施的最引人注目的變化之一與其內容審核政策有關。這些更新的政策現在允許 ChatGPT 根據要求生成公眾人物、仇恨符號和種族特徵的圖像,這與其之前完全拒絕的立場有所不同。
根據 OpenAI 模型行為負責人 Joanne Jang 於週四發表的博客文章,該公司已「進化」其方法。Jang 解釋說:「我們從對敏感領域的全面拒絕轉向更精確的方法,專注於防止現實世界的危害。目標是秉持謙遜:認識到我們還有多少未知,並定位自己以適應我們所學到的東西。」
這些變化似乎與 OpenAI 更廣泛的策略相符,即「解除審查」ChatGPT。今年二月,該公司宣布計劃修改其 AI 模型訓練方法,旨在使 ChatGPT 能夠處理更多請求,提供多元觀點,並減少拒絕參與的主題。
根據新政策,ChatGPT 現在可以創建和修改公眾人物如唐納德·特朗普和埃隆·馬斯克的圖像,這在之前是禁止的。Jang 強調,OpenAI 不希望規定 ChatGPT 應該或不應該描繪哪些人物,並為那些不希望被包含的人提供了退出選項。
OpenAI 在週二發布的白皮書中還表示,將允許用戶在教育或中立背景下生成仇恨符號(如納粹符號)的圖像,前提是不推廣極端主義議程。
此外,OpenAI 正在重新定義什麼是「冒犯性」內容。此前,ChatGPT 會拒絕關於外貌特徵的提示,例如「讓這個人的眼睛看起來更亞洲」或「讓這個人更胖」的請求。我們在 TechCrunch 的測試顯示,ChatGPT 的新圖像生成器現在會遵從這類請求。
此外,雖然 ChatGPT 現在可以模仿皮克斯或吉卜力工作室等創意工作室的風格,但它仍避免模仿在世藝術家的風格,這可能會再次引發關於 AI 訓練數據中使用版權材料的爭論。
需要注意的是,OpenAI 並未完全移除所有防護措施。GPT-4o 的原生圖像生成器仍拒絕許多敏感查詢,且相較於其前身 DALL-E 3,對生成兒童圖像有更嚴格的保護措施,如 GPT-4o 白皮書所述。
這些防護措施的放寬是在保守派多年來批評矽谷公司涉嫌 AI「審查」之後進行的。例如,Google 因其 Gemini AI 圖像生成器在「美國開國元勋」和「二戰德國士兵」等查詢中生成歷史不準確的多元種族圖像而遭到反彈。
圍繞 AI 內容審核的文化戰爭可能正達到一個關鍵點。本月早些時候,共和黨國會議員 Jim Jordan 質詢 OpenAI、Google 和其他科技公司,是否與拜登政府合謀審查 AI 生成內容。
OpenAI 在此前對 TechCrunch 的聲明中否認其內容審核變更是出於政治動機。相反,該公司堅持認為這些變化反映了「長期以來賦予用戶更多控制權的信念」,其技術現已足夠先進,能夠負責任地處理敏感主題。
無論這些變化的動機如何,考慮到特朗普政府可能帶來的監管審查,時機似乎頗為合適。其他科技巨頭如 Meta 和 X 也採取了類似政策,允許其平台上出現更多爭議性主題。
雖然 OpenAI 的新圖像生成器至今僅引發了一些病毒式的吉卜力迷因,但這些政策變化的長期影響仍不明朗。ChatGPT 的近期變化可能與特朗普政府的觀點相符,但允許 AI 聊天機器人處理敏感問題可能很快會讓 OpenAI 面臨挑戰。
OpenAI 的病毒式吉卜力時刻凸顯 AI 版權問題
ChatGPT 的圖像生成功能獲得升級
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
NEA的蒂芙尼·拉克:企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候,“token最大化”(tokenmaxxing)在矽谷佔據主導地位,執行長們敦促員工最大限度地利用人工智慧。然而,這種熱情很快遭遇了現實。據報道,Uber在幾個月內就超出了其年度人工智慧預算,一些公司跨部門削減了Claude許可證,而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克(Tiffany Luck)每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來,如今她完全專注於人工智慧,特別是其為消費者創造“神奇時刻”的潛力。
이 기능 업데이트, 이미지 생성 제한을 완화했다고 하던데 정말 사용자 친화적인 결정이네요. 지브리풍 이미지를 만들 수 있다는 건 확실히 매력 포인트! AI의 창의성과 접근성 사이의 균형을 이렇게 찾아가는 모습이 인상적입니다. 앞으로 더 다양한 예술적 표현이 가능해질까요? 🤔
Interesting, but I'm more curious about the policy changes. Does easing restrictions mean they're more confident about safety, or is it a response to growing competition? I hope they keep ethical considerations in mind while pushing capabilities forward. The Ghibli-style images are cute though! 😊
Ну наконец-то! OpenAI ослабили ограничения на генерацию изображений в ChatGPT 🎉 Теперь можно создавать более креативные картинки без лишних запретов. Особенно радует стиль Гибли - прямо детская мечта оживает! Кто-нибудь уже пробовал делать аниме-персонажей?
チャットGPTの新しい画像ジェネレータは素晴らしいです!スタジオジブリ風の画像を作るのが楽しすぎます!🍃✨もっと早く生成できたら完璧なんですけどね。それでも最高です!もっと機能が増えるのを楽しみにしてます!
OpenAIのChatGPT向け新しい画像ジェネレータはかっこいいけど、スタジオジブリだけじゃなくてもっとスタイルが欲しいな。ビジュアルは魅力的だけど、多様性が欲しい。でも、前のバージョンから大きな進歩だから、あまり文句は言わないよ。次のアップデートで期待してるよ!🎨





首頁






