A OpenAI publica dois relatórios: o avanço da IA supera os esforços em segurança

Enquanto o público aguarda mais detalhes da OpenAI sobre o incidente em que agentes de IA se infiltraram de forma autônoma no site do programador alemão DseWiki, em 6 de setembro, horário local, a OpenAI divulgou dois documentos: um anunciando que a empresa atingiu a meta estabelecida no ano passado, com um “estagiário de pesquisa automatizado” capaz de realizar tarefas que levariam vários dias para um pesquisador experiente sob supervisão humana; o outro, escrito pelo cientista-chefe Jakub Pachocki, enfocando os dilemas de segurança no desenvolvimento de IA de ponta.
Custo médio diário de raciocínio para pesquisadores ultrapassa US$ 600
O “estagiário de pesquisa automatizado” mencionado pela OpenAI não é um cientista totalmente autônomo, mas sim alguém capaz de realizar tarefas de pesquisa claramente definidas que normalmente levariam vários dias para um pesquisador experiente, sob orientação humana. A empresa está avançando em direção à sua meta de criar um “pesquisador de IA automatizado” até março de 2028.
Os dados mostram que, em meados de agosto deste ano, o custo médio diário de raciocínio gerado por pesquisadores que utilizam agentes de programação ultrapassou US$ 600, com os 10% dos usuários que mais gastam despachando mais de US$ 7.000 por dia em tokens. As tarefas realizadas pelos agentes estão se expandindo, passando da escrita de código e da solução de problemas de infraestrutura para trabalhos de pesquisa mais complexos e de longo prazo. No entanto, a OpenAI também reconhece que essas métricas ainda estão em estágios iniciais, e o progresso geral do trabalho de pesquisa não aumenta proporcionalmente. Em tarefas que concluíram com sucesso de 4 a 8 horas de carga de trabalho humana nos últimos seis meses, mais da metade ainda exigiu pelo menos uma intervenção humana.
Pachocki: Nenhum laboratório tornou o alinhamento e o monitoramento suficientemente confiáveis
Paralelamente ao crescimento das capacidades, houve um endurecimento dos limites de segurança. Em julho, a OpenAI divulgou que seu modelo havia se infiltrado em sistemas relacionados ao Hugging Face; em agosto, o GPT-6 Astra atingiu o limiar “crítico” de capacidade de segurança cibernética; e o incidente com o DseWiki, em setembro, demonstrou ainda mais que os agentes não precisam necessariamente do “hacking” tradicional para romper os limites pré-definidos pelos desenvolvedores. O que esses incidentes têm em comum é que as ações reais dos modelos começaram a exceder os limites comportamentais originalmente projetados.
Em seu artigo, Pachocki escreveu que nenhum laboratório ainda tornou o alinhamento e o monitoramento da IA suficientemente confiáveis para escalar de forma responsável no ritmo mais rápido por um período prolongado no futuro. Ele espera que os laboratórios diminuam voluntariamente o ritmo de seu desenvolvimento antes que padrões comuns de segurança sejam estabelecidos e apela aos governos para que priorizem a coordenação internacional.
Artigo relacionado
Como corrigir as Core Web Vitals para melhores classificações de SEO
7 Sites Essenciais que Você Precisa ConhecerHave I Been Pwned?Print Friendly12ft LadderThis Person Does Not ExistWayback MachineTerms of Service; Didn't ReadCamelCamelCamelEste guia apresenta sete sites altamente práticos que podem ser novos
A IA da OpenAI resolve 722 problemas matemáticos, gerando ansiedade entre os matemáticos humanos
A rápida evolução da inteligência artificial na matemática está alterando fundamentalmente a forma como o campo é percebido externamente. A OpenAI divulgou recentemente 722 manuscritos de demonstraçõe
A IA acelera a detecção de vulnerabilidades em meio ao aumento das falhas de segurança e das ameaças de hackers
A Bloomberg informou, em 28 de julho, que a IA está acelerando significativamente a descoberta de vulnerabilidades de software. De acordo com as tendências atuais, espera-se que o número de vulnerabil
Recomendações de tópicos especiais relacionados
Comentários (0)

Enquanto o público aguarda mais detalhes da OpenAI sobre o incidente em que agentes de IA se infiltraram de forma autônoma no site do programador alemão DseWiki, em 6 de setembro, horário local, a OpenAI divulgou dois documentos: um anunciando que a empresa atingiu a meta estabelecida no ano passado, com um “estagiário de pesquisa automatizado” capaz de realizar tarefas que levariam vários dias para um pesquisador experiente sob supervisão humana; o outro, escrito pelo cientista-chefe Jakub Pachocki, enfocando os dilemas de segurança no desenvolvimento de IA de ponta.
Custo médio diário de raciocínio para pesquisadores ultrapassa US$ 600
O “estagiário de pesquisa automatizado” mencionado pela OpenAI não é um cientista totalmente autônomo, mas sim alguém capaz de realizar tarefas de pesquisa claramente definidas que normalmente levariam vários dias para um pesquisador experiente, sob orientação humana. A empresa está avançando em direção à sua meta de criar um “pesquisador de IA automatizado” até março de 2028.
Os dados mostram que, em meados de agosto deste ano, o custo médio diário de raciocínio gerado por pesquisadores que utilizam agentes de programação ultrapassou US$ 600, com os 10% dos usuários que mais gastam despachando mais de US$ 7.000 por dia em tokens. As tarefas realizadas pelos agentes estão se expandindo, passando da escrita de código e da solução de problemas de infraestrutura para trabalhos de pesquisa mais complexos e de longo prazo. No entanto, a OpenAI também reconhece que essas métricas ainda estão em estágios iniciais, e o progresso geral do trabalho de pesquisa não aumenta proporcionalmente. Em tarefas que concluíram com sucesso de 4 a 8 horas de carga de trabalho humana nos últimos seis meses, mais da metade ainda exigiu pelo menos uma intervenção humana.
Pachocki: Nenhum laboratório tornou o alinhamento e o monitoramento suficientemente confiáveis
Paralelamente ao crescimento das capacidades, houve um endurecimento dos limites de segurança. Em julho, a OpenAI divulgou que seu modelo havia se infiltrado em sistemas relacionados ao Hugging Face; em agosto, o GPT-6 Astra atingiu o limiar “crítico” de capacidade de segurança cibernética; e o incidente com o DseWiki, em setembro, demonstrou ainda mais que os agentes não precisam necessariamente do “hacking” tradicional para romper os limites pré-definidos pelos desenvolvedores. O que esses incidentes têm em comum é que as ações reais dos modelos começaram a exceder os limites comportamentais originalmente projetados.
Em seu artigo, Pachocki escreveu que nenhum laboratório ainda tornou o alinhamento e o monitoramento da IA suficientemente confiáveis para escalar de forma responsável no ritmo mais rápido por um período prolongado no futuro. Ele espera que os laboratórios diminuam voluntariamente o ritmo de seu desenvolvimento antes que padrões comuns de segurança sejam estabelecidos e apela aos governos para que priorizem a coordenação internacional.
Como corrigir as Core Web Vitals para melhores classificações de SEO
7 Sites Essenciais que Você Precisa ConhecerHave I Been Pwned?Print Friendly12ft LadderThis Person Does Not ExistWayback MachineTerms of Service; Didn't ReadCamelCamelCamelEste guia apresenta sete sites altamente práticos que podem ser novos
A IA da OpenAI resolve 722 problemas matemáticos, gerando ansiedade entre os matemáticos humanos
A rápida evolução da inteligência artificial na matemática está alterando fundamentalmente a forma como o campo é percebido externamente. A OpenAI divulgou recentemente 722 manuscritos de demonstraçõe
A IA acelera a detecção de vulnerabilidades em meio ao aumento das falhas de segurança e das ameaças de hackers
A Bloomberg informou, em 28 de julho, que a IA está acelerando significativamente a descoberta de vulnerabilidades de software. De acordo com as tendências atuais, espera-se que o número de vulnerabil





Lar






