LarO papel de segurança AGI do DeepMind não balança os céticos
Na quarta-feira, o Google DeepMind publicou um extenso artigo de 145 páginas explorando profundamente sua abordagem à segurança de AGI. AGI, ou inteligência geral artificial, é o tipo de IA que pode realizar qualquer tarefa que um humano pode, e é um tema quente no mundo da IA. Alguns acham que é apenas uma fantasia, enquanto outros, como os grandes nomes da Anthropic, acreditam que está logo ali na esquina e pode causar sérios problemas se não tivermos medidas de segurança adequadas.
O artigo da DeepMind, escrito com a ajuda do cofundador Shane Legg, estima que a AGI pode aparecer até 2030 e poderia levar ao que eles chamam de "dano severo". Eles não detalham exatamente, mas usam frases assustadoras como "riscos existenciais" que poderiam "destruir permanentemente a humanidade".
"Estamos apostando em ver uma AGI Excepcional antes do fim desta década", notam os autores. "Uma AGI Excepcional é um sistema que pode igualar as habilidades dos 1% melhores adultos em várias tarefas não físicas, incluindo coisas complicadas como aprender novas habilidades."
Logo no início, o artigo compara a abordagem da DeepMind para lidar com o risco de AGI com a da Anthropic e da OpenAI. Diz que a Anthropic não é tão focada em "treinamento robusto, monitoramento e segurança", enquanto a OpenAI é toda sobre "automatizar" um tipo de pesquisa de segurança de IA chamada pesquisa de alinhamento.
O artigo também critica a ideia de IA superinteligente — IA que é melhor em tarefas do que qualquer humano. (A OpenAI recentemente disse que está mudando seu foco de AGI para superinteligência.) Sem grandes avanços novos, os autores da DeepMind não acreditam que sistemas superinteligentes estejam chegando tão cedo — ou talvez nunca.
Mas eles acreditam que é possível que nossos métodos atuais possam levar a uma "melhoria recursiva de IA", onde a IA faz sua própria pesquisa de IA para criar sistemas ainda mais inteligentes. E isso, eles alertam, pode ser extremamente perigoso.
No geral, o artigo sugere que precisamos desenvolver maneiras de manter atores mal-intencionados longe da AGI, entender melhor o que os sistemas de IA estão fazendo e tornar os ambientes onde a IA opera mais seguros. Eles admitem que muitas dessas ideias ainda estão em estágios iniciais e têm "problemas de pesquisa abertos", mas pedem que não ignoremos os problemas de segurança que podem estar a caminho.
"A AGI pode trazer benefícios incríveis ou danos sérios", apontam os autores. "Portanto, para construir a AGI da maneira certa, é crucial que os principais desenvolvedores de IA planejem com antecedência e enfrentem esses grandes riscos."
Nem todos concordam com as ideias do artigo, no entanto.
Heidy Khlaaf, cientista-chefe de IA do AI Now Institute, disse ao TechCrunch que acha que a AGI é um conceito muito vago para ser "avaliado cientificamente com rigor". Outro pesquisador de IA, Matthew Guzdial, da Universidade de Alberta, disse que não está convencido de que a melhoria recursiva de IA seja viável agora.
"A melhoria recursiva é a base dos argumentos da singularidade de inteligência", disse Guzdial ao TechCrunch, "mas nunca vimos nenhuma evidência de que isso realmente funciona."
Sandra Wachter, que estuda tecnologia e regulamentação em Oxford, aponta uma preocupação mais urgente: a IA reforçando a si mesma com "saídas imprecisas".
"Com cada vez mais conteúdo gerado por IA online e dados reais sendo substituídos, os modelos estão aprendendo com suas próprias saídas cheias de imprecisões ou alucinações", ela disse ao TechCrunch. "Como os chatbots são usados principalmente para buscar e encontrar a verdade, estamos sempre em risco de receber informações falsas apresentadas de forma muito convincente."
Por mais completo que seja, o artigo da DeepMind provavelmente não encerrará os debates sobre quão provável a AGI realmente é — e quais questões de segurança de IA precisam de mais atenção agora.
Artigo relacionado
David Silver, da DeepMind, levanta US$ 1,1 bilhão para desenvolver IA capaz de aprender sem dados humanos
A Ineffable Intelligence, uma startup de IA sediada no Reino Unido fundada há apenas alguns meses pelo ex-pesquisador da DeepMind David Silver, garantiu US$ 1,1 bilhão em financiamento com uma avaliaç
O RSI passa a ser o novo AGI, igualmente difícil de definir
O termo “recursão” tornou-se a palavra da moda no campo da inteligência artificial. Duas startups distintas adotaram esse termo como nome, e muitas outras agora fazem referência ao Autoaperfeiçoamento
A OpenAI traça os contornos da economia da IA com fundos de riqueza pública, impostos sobre robôs e a semana de quatro dias
Enquanto os governos lutam para lidar com o impacto econômico das máquinas superinteligentes, a OpenAI divulgou um conjunto de propostas de políticas que delineiam como a riqueza e o trabalho poderiam
Recomendações de tópicos especiais relacionados
Design e Arte
As melhores ferramentas de ilustração com IA: crie cenas editoriais e capas de forma mais rápida
As melhores ferramentas de ilustração com IA de 2026: nossa lista selecionada apresenta as melhores ferramentas, com design robusto, para criar rapidamente cenas editoriais impressionantes e capas atraentes. Cada opção passou por rigorosos testes práticos, oferecendo uma comparação entre versões gratuitas e pagas para ajudar você a encontrar a opção perfeita para o seu fluxo de trabalho. Experimente hoje mesmo essas soluções imperdíveis para aproveitar ao máximo as vantagens da IA e impulsionar sua produtividade criativa. Explore agora no XIX.AI.
10 ferramentas
xix.ai
Educação e Aprendizagem
Os melhores professores particulares especializados em IA para preparação para exames: pratique matemática, ciências e inglês
Os melhores tutores de IA para preparação para exames de 2026, com as melhores avaliações, estão aqui no XIX.AI! Nossa lista cuidadosamente selecionada apresenta ferramentas poderosas e revolucionárias que oferecem comparação entre versões gratuitas e pagas, testes práticos e rankings atualizados semanalmente. Elas ajudam a aumentar sua eficiência na redação, simplificar o aprendizado de tópicos complexos e liberar seu potencial acadêmico. Explore agora para descobrir sua ferramenta perfeita de preparação para exames e comece a criar hoje mesmo para aproveitar toda a vantagem da IA!
10 ferramentas
xix.ai
Financiar
Ferramentas de planejamento orçamentário com IA para gestão financeira pessoal
As melhores e mais bem avaliadas ferramentas de planejamento orçamentário com IA para gestão financeira pessoal de 2026 estão aqui no XIX.AI! Esta seleção especial apresenta soluções poderosas e revolucionárias que ajudam você a realizar testes na prática, entender hábitos de consumo e criar planos personalizados para aumentar a produtividade. Confira uma comparação entre versões gratuitas e pagas, além de rankings detalhados. Ferramentas imperdíveis, projetadas para simplificar a gestão financeira e explorar o potencial da IA. Explore agora!
11 ferramentas
xix.ai
Saúde e Bem-Estar
Assistentes de rastreamento do sono com IA: melhore sua recuperação adotando hábitos mais adequados antes de dormir
2026 – Os melhores assistentes de rastreamento do sono com inteligência artificial mais bem avaliados, selecionados para proporcionar uma recuperação máxima. Este guia semanal completamente atualizado apresenta ferramentas poderosas que incluem testes reais, comparações entre versões gratuitas e pagas, além de classificações detalhadas, visando ajudá-lo a encontrar a solução ideal para melhorar a qualidade do sono e fomentar hábitos noturnos mais saudáveis. Explore agora em XIX.AI e aproveite todas as vantagens oferecidas pela inteligência artificial.
10 ferramentas
xix.ai
Análise de dados
Copilotos de IA em SQL para análise de produtos e receitas
2026: Os melhores e mais bem avaliados copilotos de IA para SQL em análise de produtos e receitas! A XIX.AI selecionou um conjunto poderoso e revolucionário de ferramentas imperdíveis, que passam por testes práticos por meio de rankings atualizados semanalmente. Essas ferramentas ajudam os usuários a aumentar significativamente a produtividade, acelerando a análise de dados, simplificando consultas complexas e gerando insights precisos para impulsionar decisões de negócios mais inteligentes. Explore agora e descubra a ferramenta perfeita para aproveitar ao máximo o potencial da IA!
14 ferramentas
xix.ai
Educação e Aprendizagem
Os melhores auxiliares de tarefas escolares com IA que ensinam: aprenda conceitos, não apenas respostas
2026: Os melhores e mais bem avaliados auxiliares de tarefas com IA que ensinam conceitos fundamentais, não apenas respostas. Ferramentas poderosas para estudantes. Lista selecionada que você não pode deixar de conferir. Atualizada semanalmente. Comparação entre versões gratuitas e pagas. Testes em situações reais. Rankings precisos para ajudar você a atingir todo o seu potencial de aprendizado. Explore agora e descubra a ferramenta perfeita para estudar de forma mais inteligente.
10 ferramentas
xix.ai
Comentários (52)
![FrankJackson]()
Interesting read! But honestly, a 145-page paper from DeepMind feels more like a corporate PR move than a real solution. Can we really trust the same companies racing to build AGI to also be the ones setting safety rules? 🧐 It's like letting foxes design the henhouse security. I'd love to see more independent oversight and less glossy documentation.
![PaulTaylor]()
Este artículo me hace pensar que la seguridad de AGI es como intentar construir un paracaídas mientras ya estás cayendo del avión. DeepMind tiene buenas intenciones, pero 145 páginas no van a convencer a los escépticos si no demuestran resultados prácticos. 🤔 ¿Alguien más siente que estas discusiones se repiten cada seis meses sin avances reales?
![JimmyGarcia]()
Mais um artigo gigante sobre segurança de AGI... Será que alguém realmente lê essas 145 páginas? 🤨 Parece que o DeepMind tá mais preocupado em mostrar volume do que convencer os críticos. Cadê os resultados práticos?
![DouglasMitchell]()
Este artículo sobre seguridad en AGI es interesante, pero me pregunto si realmente podemos confiar en las grandes empresas tecnológicas para autorregularse. 🤨 DeepMind habla de seguridad, pero al final todo se reduce a ganancias y competencia. ¿Será solo otro documento para calmar a los reguladores?
![DanielPerez]()
This paper's a beast, but I'm not sold on DeepMind's AGI safety promises. Feels like they're hyping it up without tackling the real ethical mess. Anyone else think it's just fancy PR? 🤔
![CarlPerez]()
This DeepMind paper sounds like a big swing at tackling AGI safety, but 145 pages and skeptics still aren't convinced? 🤔 Maybe they’re onto something, or maybe it’s just too early to trust any AI to be 'safe' when it’s smarter than us!
Na quarta-feira, o Google DeepMind publicou um extenso artigo de 145 páginas explorando profundamente sua abordagem à segurança de AGI. AGI, ou inteligência geral artificial, é o tipo de IA que pode realizar qualquer tarefa que um humano pode, e é um tema quente no mundo da IA. Alguns acham que é apenas uma fantasia, enquanto outros, como os grandes nomes da Anthropic, acreditam que está logo ali na esquina e pode causar sérios problemas se não tivermos medidas de segurança adequadas.
O artigo da DeepMind, escrito com a ajuda do cofundador Shane Legg, estima que a AGI pode aparecer até 2030 e poderia levar ao que eles chamam de "dano severo". Eles não detalham exatamente, mas usam frases assustadoras como "riscos existenciais" que poderiam "destruir permanentemente a humanidade".
"Estamos apostando em ver uma AGI Excepcional antes do fim desta década", notam os autores. "Uma AGI Excepcional é um sistema que pode igualar as habilidades dos 1% melhores adultos em várias tarefas não físicas, incluindo coisas complicadas como aprender novas habilidades."
Logo no início, o artigo compara a abordagem da DeepMind para lidar com o risco de AGI com a da Anthropic e da OpenAI. Diz que a Anthropic não é tão focada em "treinamento robusto, monitoramento e segurança", enquanto a OpenAI é toda sobre "automatizar" um tipo de pesquisa de segurança de IA chamada pesquisa de alinhamento.
O artigo também critica a ideia de IA superinteligente — IA que é melhor em tarefas do que qualquer humano. (A OpenAI recentemente disse que está mudando seu foco de AGI para superinteligência.) Sem grandes avanços novos, os autores da DeepMind não acreditam que sistemas superinteligentes estejam chegando tão cedo — ou talvez nunca.
Mas eles acreditam que é possível que nossos métodos atuais possam levar a uma "melhoria recursiva de IA", onde a IA faz sua própria pesquisa de IA para criar sistemas ainda mais inteligentes. E isso, eles alertam, pode ser extremamente perigoso.
No geral, o artigo sugere que precisamos desenvolver maneiras de manter atores mal-intencionados longe da AGI, entender melhor o que os sistemas de IA estão fazendo e tornar os ambientes onde a IA opera mais seguros. Eles admitem que muitas dessas ideias ainda estão em estágios iniciais e têm "problemas de pesquisa abertos", mas pedem que não ignoremos os problemas de segurança que podem estar a caminho.
"A AGI pode trazer benefícios incríveis ou danos sérios", apontam os autores. "Portanto, para construir a AGI da maneira certa, é crucial que os principais desenvolvedores de IA planejem com antecedência e enfrentem esses grandes riscos."
Nem todos concordam com as ideias do artigo, no entanto.
Heidy Khlaaf, cientista-chefe de IA do AI Now Institute, disse ao TechCrunch que acha que a AGI é um conceito muito vago para ser "avaliado cientificamente com rigor". Outro pesquisador de IA, Matthew Guzdial, da Universidade de Alberta, disse que não está convencido de que a melhoria recursiva de IA seja viável agora.
"A melhoria recursiva é a base dos argumentos da singularidade de inteligência", disse Guzdial ao TechCrunch, "mas nunca vimos nenhuma evidência de que isso realmente funciona."
Sandra Wachter, que estuda tecnologia e regulamentação em Oxford, aponta uma preocupação mais urgente: a IA reforçando a si mesma com "saídas imprecisas".
"Com cada vez mais conteúdo gerado por IA online e dados reais sendo substituídos, os modelos estão aprendendo com suas próprias saídas cheias de imprecisões ou alucinações", ela disse ao TechCrunch. "Como os chatbots são usados principalmente para buscar e encontrar a verdade, estamos sempre em risco de receber informações falsas apresentadas de forma muito convincente."
Por mais completo que seja, o artigo da DeepMind provavelmente não encerrará os debates sobre quão provável a AGI realmente é — e quais questões de segurança de IA precisam de mais atenção agora.
David Silver, da DeepMind, levanta US$ 1,1 bilhão para desenvolver IA capaz de aprender sem dados humanos
A Ineffable Intelligence, uma startup de IA sediada no Reino Unido fundada há apenas alguns meses pelo ex-pesquisador da DeepMind David Silver, garantiu US$ 1,1 bilhão em financiamento com uma avaliaç
O RSI passa a ser o novo AGI, igualmente difícil de definir
O termo “recursão” tornou-se a palavra da moda no campo da inteligência artificial. Duas startups distintas adotaram esse termo como nome, e muitas outras agora fazem referência ao Autoaperfeiçoamento
A OpenAI traça os contornos da economia da IA com fundos de riqueza pública, impostos sobre robôs e a semana de quatro dias
Enquanto os governos lutam para lidar com o impacto econômico das máquinas superinteligentes, a OpenAI divulgou um conjunto de propostas de políticas que delineiam como a riqueza e o trabalho poderiam
As melhores ferramentas de ilustração com IA de 2026: nossa lista selecionada apresenta as melhores ferramentas, com design robusto, para criar rapidamente cenas editoriais impressionantes e capas atraentes. Cada opção passou por rigorosos testes práticos, oferecendo uma comparação entre versões gratuitas e pagas para ajudar você a encontrar a opção perfeita para o seu fluxo de trabalho. Experimente hoje mesmo essas soluções imperdíveis para aproveitar ao máximo as vantagens da IA e impulsionar sua produtividade criativa. Explore agora no XIX.AI.
10 ferramentas
xix.ai
Os melhores tutores de IA para preparação para exames de 2026, com as melhores avaliações, estão aqui no XIX.AI! Nossa lista cuidadosamente selecionada apresenta ferramentas poderosas e revolucionárias que oferecem comparação entre versões gratuitas e pagas, testes práticos e rankings atualizados semanalmente. Elas ajudam a aumentar sua eficiência na redação, simplificar o aprendizado de tópicos complexos e liberar seu potencial acadêmico. Explore agora para descobrir sua ferramenta perfeita de preparação para exames e comece a criar hoje mesmo para aproveitar toda a vantagem da IA!
10 ferramentas
xix.ai
As melhores e mais bem avaliadas ferramentas de planejamento orçamentário com IA para gestão financeira pessoal de 2026 estão aqui no XIX.AI! Esta seleção especial apresenta soluções poderosas e revolucionárias que ajudam você a realizar testes na prática, entender hábitos de consumo e criar planos personalizados para aumentar a produtividade. Confira uma comparação entre versões gratuitas e pagas, além de rankings detalhados. Ferramentas imperdíveis, projetadas para simplificar a gestão financeira e explorar o potencial da IA. Explore agora!
11 ferramentas
xix.ai
2026 – Os melhores assistentes de rastreamento do sono com inteligência artificial mais bem avaliados, selecionados para proporcionar uma recuperação máxima. Este guia semanal completamente atualizado apresenta ferramentas poderosas que incluem testes reais, comparações entre versões gratuitas e pagas, além de classificações detalhadas, visando ajudá-lo a encontrar a solução ideal para melhorar a qualidade do sono e fomentar hábitos noturnos mais saudáveis. Explore agora em XIX.AI e aproveite todas as vantagens oferecidas pela inteligência artificial.
10 ferramentas
xix.ai
2026: Os melhores e mais bem avaliados copilotos de IA para SQL em análise de produtos e receitas! A XIX.AI selecionou um conjunto poderoso e revolucionário de ferramentas imperdíveis, que passam por testes práticos por meio de rankings atualizados semanalmente. Essas ferramentas ajudam os usuários a aumentar significativamente a produtividade, acelerando a análise de dados, simplificando consultas complexas e gerando insights precisos para impulsionar decisões de negócios mais inteligentes. Explore agora e descubra a ferramenta perfeita para aproveitar ao máximo o potencial da IA!
14 ferramentas
xix.ai
2026: Os melhores e mais bem avaliados auxiliares de tarefas com IA que ensinam conceitos fundamentais, não apenas respostas. Ferramentas poderosas para estudantes. Lista selecionada que você não pode deixar de conferir. Atualizada semanalmente. Comparação entre versões gratuitas e pagas. Testes em situações reais. Rankings precisos para ajudar você a atingir todo o seu potencial de aprendizado. Explore agora e descubra a ferramenta perfeita para estudar de forma mais inteligente.
10 ferramentas
xix.ai
Interesting read! But honestly, a 145-page paper from DeepMind feels more like a corporate PR move than a real solution. Can we really trust the same companies racing to build AGI to also be the ones setting safety rules? 🧐 It's like letting foxes design the henhouse security. I'd love to see more independent oversight and less glossy documentation.
Este artículo me hace pensar que la seguridad de AGI es como intentar construir un paracaídas mientras ya estás cayendo del avión. DeepMind tiene buenas intenciones, pero 145 páginas no van a convencer a los escépticos si no demuestran resultados prácticos. 🤔 ¿Alguien más siente que estas discusiones se repiten cada seis meses sin avances reales?
Mais um artigo gigante sobre segurança de AGI... Será que alguém realmente lê essas 145 páginas? 🤨 Parece que o DeepMind tá mais preocupado em mostrar volume do que convencer os críticos. Cadê os resultados práticos?
Este artículo sobre seguridad en AGI es interesante, pero me pregunto si realmente podemos confiar en las grandes empresas tecnológicas para autorregularse. 🤨 DeepMind habla de seguridad, pero al final todo se reduce a ganancias y competencia. ¿Será solo otro documento para calmar a los reguladores?
This paper's a beast, but I'm not sold on DeepMind's AGI safety promises. Feels like they're hyping it up without tackling the real ethical mess. Anyone else think it's just fancy PR? 🤔
This DeepMind paper sounds like a big swing at tackling AGI safety, but 145 pages and skeptics still aren't convinced? 🤔 Maybe they’re onto something, or maybe it’s just too early to trust any AI to be 'safe' when it’s smarter than us!
