OpenAI Lança Gerador de Imagens e Relaxa Políticas de Moderação de Conteúdo

Nesta semana, a OpenAI lançou um novo gerador de imagens no ChatGPT, que rapidamente se tornou viral por sua capacidade de criar imagens no estilo Studio Ghibli. Além das ilustrações em tons pastel, o gerador de imagens nativo do GPT-4o aprimora significativamente as capacidades do ChatGPT, melhorando a edição de imagens, a renderização de texto e a representação espacial.

No entanto, uma das mudanças mais notáveis que a OpenAI fez esta semana envolve suas políticas de moderação de conteúdo, que agora permitem que o ChatGPT, mediante solicitação, gere imagens que retratam figuras públicas, símbolos de ódio e características raciais.

Anteriormente, a OpenAI rejeitava esses tipos de solicitações por serem muito controversas ou prejudiciais. Mas agora, a empresa “evoluiu” sua abordagem, segundo um post no blog publicado na quinta-feira por Joanne Jang, líder de comportamento de modelo da OpenAI.

“Estamos mudando de recusas generalizadas em áreas sensíveis para uma abordagem mais precisa focada em prevenir danos reais no mundo real”, disse Jang. “O objetivo é abraçar a humildade: reconhecer quanto não sabemos e nos posicionar para nos adaptar à medida que aprendemos.”

Esses ajustes parecem fazer parte do plano maior da OpenAI de efetivamente “desencadear” o ChatGPT. A OpenAI anunciou em fevereiro que está começando a mudar a forma como treina seus modelos de IA, com o objetivo final de permitir que o ChatGPT lide com mais solicitações, ofereça perspectivas diversas e reduza os tópicos que o chatbot se recusa a trabalhar.

Sob a política atualizada, o ChatGPT agora pode gerar e modificar imagens de Donald Trump, Elon Musk e outras figuras públicas que a OpenAI não permitia anteriormente. Jang diz que a OpenAI não quer ser o árbitro do status, escolhendo quem deve e não deve ser gerado pelo ChatGPT. Em vez disso, a empresa está dando aos usuários uma opção de opt-out se não quiserem que o ChatGPT os retrate.

Em um artigo branco lançado na terça-feira, a OpenAI também disse que permitirá que os usuários do ChatGPT “gerem símbolos de ódio”, como suásticas, em contextos educacionais ou neutros, desde que não “elogiando ou endossando claramente agendas extremistas”.

Além disso, a OpenAI está mudando a forma como define “conteúdo ofensivo”. Jang diz que o ChatGPT costumava recusar solicitações em torno de características físicas, como “faça os olhos desta pessoa parecerem mais asiáticos” ou “faça esta pessoa mais pesada”. Em testes do TechCrunch, descobrimos que o novo gerador de imagens do ChatGPT atende a esses tipos de solicitações.

Além disso, o ChatGPT agora pode imitar os estilos de estúdios criativos, como Pixar ou Studio Ghibli, mas ainda restringe a imitação de estilos de artistas vivos individuais. Como o TechCrunch já havia notado, isso poderia reacender um debate existente sobre o uso justo de obras protegidas por direitos autorais em conjuntos de dados de treinamento de IA.

É importante notar que a OpenAI não está completamente abrindo as comportas para o uso indevido. O gerador de imagens nativo do GPT-4o ainda recusa muitas consultas sensíveis e, na verdade, tem mais salvaguardas em torno da geração de imagens de crianças do que o DALL-E 3, o gerador de imagens de IA anterior do ChatGPT, de acordo com o artigo branco do GPT-4o.

Mas a OpenAI está relaxando suas barreiras em outras áreas após anos de reclamações conservadoras sobre a suposta “censura” de IA por empresas do Vale do Silício. O Google já enfrentou reações adversas pelo gerador de imagens de IA do Gemini, que criou imagens multirraciais para consultas como “pais fundadores dos EUA” e “soldados alemães na Segunda Guerra Mundial”, que eram obviamente imprecisas.

Agora, a guerra cultural em torno da moderação de conteúdo de IA pode estar chegando ao auge. No início deste mês, o congressista republicano Jim Jordan enviou perguntas à OpenAI, Google e outros gigantes tecnológicos sobre possível conluio com a administração Biden para censurar conteúdo gerado por IA.

Em uma declaração anterior ao TechCrunch, a OpenAI rejeitou a ideia de que suas mudanças de moderação de conteúdo foram motivadas politicamente. Pelo contrário, a empresa diz que a mudança reflete uma “crença de longa data em dar mais controle aos usuários”, e a tecnologia da OpenAI está apenas agora ficando boa o suficiente para navegar em assuntos sensíveis.

Independentemente de sua motivação, certamente é um bom momento para a OpenAI estar mudando suas políticas de moderação de conteúdo, dado o potencial de escrutínio regulatório sob a administração Trump. Gigantes do Vale do Silício como Meta e X também adotaram políticas semelhantes, permitindo mais tópicos controversos em suas plataformas.

Enquanto o novo gerador de imagens da OpenAI criou apenas alguns memes virais do Studio Ghibli até agora, não está claro quais serão os efeitos mais amplos dessas políticas. As recentes mudanças do ChatGPT podem ser bem recebidas pela administração Trump, mas permitir que um chatbot de IA responda a perguntas sensíveis pode colocar a OpenAI em águas turbulentas em breve.