OpeniAI atrasa a integração da API de pesquisa profunda
Atualizado às 16:11, horário do leste: A OpenAI esclareceu que seu whitepaper foi redigido de forma equivocada, sugerindo que sua pesquisa sobre persuasão estava vinculada à decisão de liberar o modelo de pesquisa profunda por meio de sua API. A empresa desde então atualizou o whitepaper para esclarecer que seu trabalho de persuasão é separado dos planos de liberar o modelo de pesquisa profunda. A história original continua abaixo:
A OpenAI decidiu adiar a integração do modelo de IA por trás de sua ferramenta de pesquisa profunda em sua API para desenvolvedores. Eles estão tomando essa medida para entender melhor os riscos associados à capacidade da IA de influenciar as ações e crenças das pessoas.
Em um whitepaper publicado na quarta-feira, a OpenAI mencionou que está atualizando seus métodos para avaliar modelos quanto aos "riscos de persuasão no mundo real", como o potencial de espalhar informações enganosas em grande escala.
A empresa destacou que o modelo de pesquisa profunda não é adequado para campanhas de desinformação ou misinformation em massa devido aos seus altos custos computacionais e menor velocidade de processamento. No entanto, a OpenAI planeja investigar como a IA pode personalizar conteúdo persuasivo prejudicial antes de decidir incluir o modelo de pesquisa profunda em sua API.
"Enquanto trabalhamos para reconsiderar nossa abordagem à persuasão, estamos implementando este modelo apenas no ChatGPT, e não na API," afirmou a OpenAI.
Há uma preocupação crescente de que a IA possa ser usada para espalhar informações falsas ou enganosas com intenções malévolas. Por exemplo, no último ano, houve uma rápida disseminação de deepfakes políticos em todo o mundo. No dia da eleição em Taiwan, um grupo ligado ao Partido Comunista Chinês lançou áudio gerado por IA, enganoso, de um político endossando um candidato pró-China.
A IA também está sendo cada vez mais usada em ataques de engenharia social. Consumidores estão caindo em deepfakes de celebridades promovendo esquemas de investimento fraudulentos, enquanto corporações estão perdendo milhões para impersonadores de deepfake.
Em seu whitepaper, a OpenAI compartilhou os resultados de vários testes sobre a capacidade de persuasão do modelo de pesquisa profunda. Este modelo é uma versão especializada do modelo o3 de "raciocínio" recentemente anunciado pela OpenAI, otimizado para navegação na web e análise de dados.
Em um teste, o modelo de pesquisa profunda foi encarregado de criar argumentos persuasivos e superou todos os outros modelos da OpenAI lançados até o momento, embora não tenha superado a baseline humana. Em outro teste, no qual o modelo tentou persuadir outro modelo (o GPT-4o da OpenAI) a fazer um pagamento, ele novamente se saiu melhor do que os outros modelos disponíveis da OpenAI.

Pontuação do modelo de pesquisa profunda no MakeMePay, um benchmark que testa a capacidade de um modelo de persuadir outro modelo por dinheiro. Créditos da imagem: OpenAI No entanto, o modelo de pesquisa profunda não se destacou em todos os testes de persuasão. De acordo com o whitepaper, ele foi menos eficaz em persuadir o GPT-4o a revelar uma palavra-código em comparação com o próprio GPT-4o.A OpenAI sugeriu que os resultados dos testes podem representar os "limites inferiores" das capacidades do modelo de pesquisa profunda. "Estruturas adicionais ou elicitação de capacidades aprimorada poderiam aumentar substancialmente o desempenho observado," observou a empresa.
Entramos em contato com a OpenAI para mais detalhes e atualizaremos este post se recebermos uma resposta.
Enquanto isso, pelo menos um dos concorrentes da OpenAI não está se contendo. A Perplexity anunciou o lançamento do Deep Research em sua API para desenvolvedores Sonar, alimentada por uma versão personalizada do modelo R1 do laboratório de IA chinês DeepSeek.
Artigo relacionado
A OpenAI lança uma versão mais segura do ChatGPT para adolescentes, anos depois de eles terem começado a usá-lo
Após uma série de processos judiciais relacionados à ausência de protocolos de segurança em chatbots de IA — o que contribuiu para suicídios entre adolescentes e outras crises de saúde mental —, a Ope
A Frontier AI Labs se recusa a divulgar estratégias de contenção para modelos rebeldes
Pesquisas recentes indicam que muito poucos laboratórios líderes em IA publicaram ou demonstraram planos de resposta para contenção. Um plano de contenção define os procedimentos a serem seguidos quan
O Tiffany Luck da NEA: As empresas ainda estão lutando com o ROI da IA
Carregando o player…No início deste ano, o “tokenmaxxing” dominou o Vale do Silício, com diretores executivos incentivando os funcionários a maximizar o uso de IA. Esse entusiasmo rapidamente encontrou a realidade. A Uber, segundo relatos, excedeu s
Recomendações de tópicos especiais relacionados
Comentários (41)
So they messed up the whitepaper wording and now have to clarify? Classic OpenAI move 🙃. Delaying the API for 'persuasion research' separate? Sounds like a convenient excuse to me. But hey, maybe they're actually being careful about misuse. Still, I was hoping to play with it soon...
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.
Atualizado às 16:11, horário do leste: A OpenAI esclareceu que seu whitepaper foi redigido de forma equivocada, sugerindo que sua pesquisa sobre persuasão estava vinculada à decisão de liberar o modelo de pesquisa profunda por meio de sua API. A empresa desde então atualizou o whitepaper para esclarecer que seu trabalho de persuasão é separado dos planos de liberar o modelo de pesquisa profunda. A história original continua abaixo:
A OpenAI decidiu adiar a integração do modelo de IA por trás de sua ferramenta de pesquisa profunda em sua API para desenvolvedores. Eles estão tomando essa medida para entender melhor os riscos associados à capacidade da IA de influenciar as ações e crenças das pessoas.
Em um whitepaper publicado na quarta-feira, a OpenAI mencionou que está atualizando seus métodos para avaliar modelos quanto aos "riscos de persuasão no mundo real", como o potencial de espalhar informações enganosas em grande escala.
A empresa destacou que o modelo de pesquisa profunda não é adequado para campanhas de desinformação ou misinformation em massa devido aos seus altos custos computacionais e menor velocidade de processamento. No entanto, a OpenAI planeja investigar como a IA pode personalizar conteúdo persuasivo prejudicial antes de decidir incluir o modelo de pesquisa profunda em sua API.
"Enquanto trabalhamos para reconsiderar nossa abordagem à persuasão, estamos implementando este modelo apenas no ChatGPT, e não na API," afirmou a OpenAI.
Há uma preocupação crescente de que a IA possa ser usada para espalhar informações falsas ou enganosas com intenções malévolas. Por exemplo, no último ano, houve uma rápida disseminação de deepfakes políticos em todo o mundo. No dia da eleição em Taiwan, um grupo ligado ao Partido Comunista Chinês lançou áudio gerado por IA, enganoso, de um político endossando um candidato pró-China.
A IA também está sendo cada vez mais usada em ataques de engenharia social. Consumidores estão caindo em deepfakes de celebridades promovendo esquemas de investimento fraudulentos, enquanto corporações estão perdendo milhões para impersonadores de deepfake.
Em seu whitepaper, a OpenAI compartilhou os resultados de vários testes sobre a capacidade de persuasão do modelo de pesquisa profunda. Este modelo é uma versão especializada do modelo o3 de "raciocínio" recentemente anunciado pela OpenAI, otimizado para navegação na web e análise de dados.
Em um teste, o modelo de pesquisa profunda foi encarregado de criar argumentos persuasivos e superou todos os outros modelos da OpenAI lançados até o momento, embora não tenha superado a baseline humana. Em outro teste, no qual o modelo tentou persuadir outro modelo (o GPT-4o da OpenAI) a fazer um pagamento, ele novamente se saiu melhor do que os outros modelos disponíveis da OpenAI.

A OpenAI sugeriu que os resultados dos testes podem representar os "limites inferiores" das capacidades do modelo de pesquisa profunda. "Estruturas adicionais ou elicitação de capacidades aprimorada poderiam aumentar substancialmente o desempenho observado," observou a empresa.
Entramos em contato com a OpenAI para mais detalhes e atualizaremos este post se recebermos uma resposta.
Enquanto isso, pelo menos um dos concorrentes da OpenAI não está se contendo. A Perplexity anunciou o lançamento do Deep Research em sua API para desenvolvedores Sonar, alimentada por uma versão personalizada do modelo R1 do laboratório de IA chinês DeepSeek.
A OpenAI lança uma versão mais segura do ChatGPT para adolescentes, anos depois de eles terem começado a usá-lo
Após uma série de processos judiciais relacionados à ausência de protocolos de segurança em chatbots de IA — o que contribuiu para suicídios entre adolescentes e outras crises de saúde mental —, a Ope
A Frontier AI Labs se recusa a divulgar estratégias de contenção para modelos rebeldes
Pesquisas recentes indicam que muito poucos laboratórios líderes em IA publicaram ou demonstraram planos de resposta para contenção. Um plano de contenção define os procedimentos a serem seguidos quan
O Tiffany Luck da NEA: As empresas ainda estão lutando com o ROI da IA
Carregando o player…No início deste ano, o “tokenmaxxing” dominou o Vale do Silício, com diretores executivos incentivando os funcionários a maximizar o uso de IA. Esse entusiasmo rapidamente encontrou a realidade. A Uber, segundo relatos, excedeu s
So they messed up the whitepaper wording and now have to clarify? Classic OpenAI move 🙃. Delaying the API for 'persuasion research' separate? Sounds like a convenient excuse to me. But hey, maybe they're actually being careful about misuse. Still, I was hoping to play with it soon...
Esto me preocupa un poco. Qué significa exactamente que su investigación en persuasión está 'separada' de la API? 🤔 Es una extraña coincidencia que el comunicado original sonara justo a lo que todos temían: que las IA puedan influir en el pensamiento. ¿Hay suficiente transparencia real en estos proyectos? Al menos corrigieron, pero deja mal sabor ese 'error' en el papel técnico.
Ces retards d'OpenAI montrent à quel point l'IA avancée devient un enjeu géopolitique. Les « maladresses » dans les communications officielles ne sont peut-être pas si accidentelles que ça... 😏 Cela me rappelle les débats sur le nucléaire au XXe siècle.





Lar






