OpenAi facilita as restrições de criação de imagem de Chatgpt

Esta semana, a OpenAI revelou um novo gerador de imagens para o ChatGPT que rapidamente ganhou popularidade devido à sua capacidade de produzir visuais inspirados no Studio Ghibli. Mas, além das ilustrações encantadoras, a introdução do gerador de imagens nativo do GPT-4o marca um aprimoramento significativo nas capacidades do ChatGPT, incluindo melhor edição de imagens, renderização de texto e representação espacial.

No entanto, uma das mudanças mais marcantes implementadas pela OpenAI esta semana diz respeito às suas políticas de moderação de conteúdo. Essas políticas atualizadas agora permitem que o ChatGPT gere imagens de figuras públicas, símbolos de ódio e características raciais sob demanda, uma mudança em relação à sua postura anterior de rejeição total.

De acordo com um post de blog da líder de comportamento de modelo da OpenAI, Joanne Jang, publicado na quinta-feira, a empresa "evoluiu" sua abordagem. Jang explicou: “Estamos mudando de recusas gerais em áreas sensíveis para uma abordagem mais precisa focada em prevenir danos no mundo real. O objetivo é adotar a humildade: reconhecer o quanto não sabemos e nos posicionar para nos adaptar à medida que aprendemos.”

Essas mudanças parecem estar alinhadas com a estratégia mais ampla da OpenAI de "descensurar" o ChatGPT. Em fevereiro, a empresa anunciou planos para modificar seus métodos de treinamento de modelos de IA, visando permitir que o ChatGPT lide com mais solicitações, forneça perspectivas diversas e minimize os tópicos que se recusa a abordar.

Sob a nova política, o ChatGPT agora pode criar e alterar imagens de figuras públicas como Donald Trump e Elon Musk, que antes eram proibidas. Jang enfatizou que a OpenAI não quer ditar quem deve ou não ser retratado pelo ChatGPT, oferecendo uma opção de exclusão para aqueles que preferem não ser incluídos.

Em um white paper lançado na terça-feira, a OpenAI também afirmou que permitirá aos usuários gerar imagens de símbolos de ódio, como suásticas, em contextos educacionais ou neutros, desde que não promovam agendas extremistas.

Além disso, a OpenAI está redefinindo o que constitui conteúdo "ofensivo". Anteriormente, o ChatGPT rejeitava prompts sobre características físicas, como solicitações para "fazer os olhos dessa pessoa parecerem mais asiáticos" ou "fazer essa pessoa mais pesada". Nossos testes na TechCrunch revelaram que o novo gerador de imagens do ChatGPT agora atende a esses tipos de solicitações.

Além disso, embora o ChatGPT agora possa imitar os estilos de estúdios criativos como Pixar ou Studio Ghibli, ele ainda se abstém de imitar os estilos de artistas vivos, o que pode reacender debates sobre o uso de material protegido por direitos autorais em dados de treinamento de IA.

É importante notar que a OpenAI não está removendo completamente todas as salvaguardas. O gerador de imagens nativo do GPT-4o ainda rejeita muitas consultas sensíveis e tem proteções mais rigorosas em torno da geração de imagens de crianças do que seu antecessor, DALL-E 3, conforme descrito no white paper do GPT-4o.

Essa flexibilização das barreiras ocorre após anos de críticas de círculos conservadores sobre suposta "censura" de IA por empresas do Vale do Silício. O Google, por exemplo, enfrentou reações por seu gerador de imagens Gemini AI, que produziu imagens multirraciais historicamente imprecisas para consultas como "pais fundadores dos EUA" e "soldados alemães na Segunda Guerra Mundial".

A guerra cultural em curso em torno da moderação de conteúdo de IA pode estar chegando a um ponto crítico. No início deste mês, o congressista republicano Jim Jordan questionou a OpenAI, o Google e outras empresas de tecnologia sobre possível conluio com a administração Biden para censurar conteúdo gerado por IA.

Em uma declaração anterior à TechCrunch, a OpenAI negou que suas mudanças na moderação de conteúdo fossem motivadas politicamente. Em vez disso, a empresa mantém que essas mudanças refletem uma "crença de longa data em dar aos usuários mais controle", e sua tecnologia agora está avançada o suficiente para lidar com tópicos sensíveis de maneira responsável.

Independentemente das motivações por trás dessas mudanças, o momento parece oportuno, considerando o potencial para escrutínio regulatório sob a administração Trump. Outros gigantes da tecnologia, como Meta e X, também adotaram políticas semelhantes, permitindo tópicos mais controversos em suas plataformas.

Embora o novo gerador de imagens da OpenAI até agora tenha apenas gerado alguns memes virais do Studio Ghibli, as implicações de longo prazo dessas mudanças de política permanecem incertas. As recentes mudanças do ChatGPT podem estar alinhadas com as visões da administração Trump, mas permitir que um chatbot de IA aborde questões sensíveis pode em breve colocar a OpenAI em uma posição desafiadora.

O momento viral do Studio Ghibli da OpenAI destaca preocupações com direitos autorais de IA

A funcionalidade de geração de imagens do ChatGPT recebe uma atualização