OpeniAI atrasa a integração da API de pesquisa profunda

Atualizado às 16:11, horário do leste: A OpenAI esclareceu que seu whitepaper foi redigido de forma equivocada, sugerindo que sua pesquisa sobre persuasão estava vinculada à decisão de liberar o modelo de pesquisa profunda por meio de sua API. A empresa desde então atualizou o whitepaper para esclarecer que seu trabalho de persuasão é separado dos planos de liberar o modelo de pesquisa profunda. A história original continua abaixo:

A OpenAI decidiu adiar a integração do modelo de IA por trás de sua ferramenta de pesquisa profunda em sua API para desenvolvedores. Eles estão tomando essa medida para entender melhor os riscos associados à capacidade da IA de influenciar as ações e crenças das pessoas.

Em um whitepaper publicado na quarta-feira, a OpenAI mencionou que está atualizando seus métodos para avaliar modelos quanto aos "riscos de persuasão no mundo real", como o potencial de espalhar informações enganosas em grande escala.

A empresa destacou que o modelo de pesquisa profunda não é adequado para campanhas de desinformação ou misinformation em massa devido aos seus altos custos computacionais e menor velocidade de processamento. No entanto, a OpenAI planeja investigar como a IA pode personalizar conteúdo persuasivo prejudicial antes de decidir incluir o modelo de pesquisa profunda em sua API.

"Enquanto trabalhamos para reconsiderar nossa abordagem à persuasão, estamos implementando este modelo apenas no ChatGPT, e não na API," afirmou a OpenAI.

Há uma preocupação crescente de que a IA possa ser usada para espalhar informações falsas ou enganosas com intenções malévolas. Por exemplo, no último ano, houve uma rápida disseminação de deepfakes políticos em todo o mundo. No dia da eleição em Taiwan, um grupo ligado ao Partido Comunista Chinês lançou áudio gerado por IA, enganoso, de um político endossando um candidato pró-China.

A IA também está sendo cada vez mais usada em ataques de engenharia social. Consumidores estão caindo em deepfakes de celebridades promovendo esquemas de investimento fraudulentos, enquanto corporações estão perdendo milhões para impersonadores de deepfake.

Em seu whitepaper, a OpenAI compartilhou os resultados de vários testes sobre a capacidade de persuasão do modelo de pesquisa profunda. Este modelo é uma versão especializada do modelo o3 de "raciocínio" recentemente anunciado pela OpenAI, otimizado para navegação na web e análise de dados.

Em um teste, o modelo de pesquisa profunda foi encarregado de criar argumentos persuasivos e superou todos os outros modelos da OpenAI lançados até o momento, embora não tenha superado a baseline humana. Em outro teste, no qual o modelo tentou persuadir outro modelo (o GPT-4o da OpenAI) a fazer um pagamento, ele novamente se saiu melhor do que os outros modelos disponíveis da OpenAI.

A OpenAI sugeriu que os resultados dos testes podem representar os "limites inferiores" das capacidades do modelo de pesquisa profunda. "Estruturas adicionais ou elicitação de capacidades aprimorada poderiam aumentar substancialmente o desempenho observado," observou a empresa.

Entramos em contato com a OpenAI para mais detalhes e atualizaremos este post se recebermos uma resposta.

Enquanto isso, pelo menos um dos concorrentes da OpenAI não está se contendo. A Perplexity anunciou o lançamento do Deep Research em sua API para desenvolvedores Sonar, alimentada por uma versão personalizada do modelo R1 do laboratório de IA chinês DeepSeek.