O Google DeepMind lança instituto para ampliar o debate sobre a AGI

O Google e o Google DeepMind estabeleceram o Instituto DeepMind na quarta-feira para fomentar o diálogo sobre a inteligência artificial geral. O instituto é liderado pelo co-fundador do DeepMind, Shane Legg, pelo executivo do Google, James Manyika, e pelo presidente do Google DeepMind, Demis Hassabis, com Legg atuando como editor-chefe.
Esta nova iniciativa busca destacar diversas perspectivas dentro do Google, do DeepMind e da comunidade de pesquisa global em relação à IA geral. O anúncio observa que os participantes “podem não estar sempre de acordo” e provavelmente revisarão suas posições à medida que novos dados surgirem nesta fronteira em rápida evolução.
A primeira coleção apresenta quatro ensaios abordando questões-chave: estratégias econômicas para gerenciar possíveis interrupções causadas pela IA geral, manutenção do raciocínio dos modelos legível por humanos, princípios para o florescimento humano e um framework para avaliar modelos de IA de fronteira.
Pesquisadores de segurança do DeepMind, Rohin Shah e Anca Dragan, argumentam em um dos ensaios que a diminuição da transparência dos sistemas de IA — a capacidade de inspecionar o raciocínio passo a passo — não é inevitável. À medida que novas arquiteturas complicam o monitoramento, eles sugerem que desenvolvedores e reguladores devem abordar diretamente os trade-offs de segurança. Isso pode envolver a restrição da “profundidade serial opaca” ou exigir provas de que sistemas menos transparentes permanecem igualmente monitoráveis.
Em outro ensaio, Demis Hassabis propõe um órgão de padrões de IA de fronteira liderado pelos Estados Unidos para avaliar modelos avançados. Sob esta proposta, os desenvolvedores inicialmente submeteriam modelos voluntariamente para revisão até 30 dias antes do lançamento. Uma vez que o sistema de avaliação se prove eficaz, passar nesses testes pode se tornar obrigatório para a implantação de modelos de fronteira nos Estados Unidos.
Inicialmente, este órgão projetaria avaliações com a contribuição de empresas de IA, mas eventualmente criaria avaliações independentes e não divulgadas — denominadas testes “held-out” — para evitar que laboratórios otimizassem modelos para benchmarks conhecidos. Hassabis indicou que o framework poderia ser “escalado se a situação justificar”, potencialmente incluindo um desaceleração coordenada entre desenvolvedores de IA de fronteira.
Estes ensaios surgem à medida que as discussões sobre segurança na indústria mudam de preocupações gerais para propostas concretas de divulgação, escrutínio externo e desaceleração coordenada caso as salvaguardas atrasem. Este impulso cresceu nesta semana quando líderes da indústria apoiaram o chamado do CEO da Anthropic, Dario Amodei, para “regular” o desenvolvimento de IA de fronteira.
Artigo relacionado
Vazamento do Sonnet 5.5 da Anthropic: 2 milhões de tokens no contexto desafiam a DeepSeek a recuperar a relação custo-benefício
A Anthropic revelou seu mais recente modelo Sonnet 5.5, conhecido internamente como “Fennec” (em referência à raposa do deserto), com lançamento previsto para o próximo mês. Detalhes que vazaram indic
O Chrome lança a Biblioteca de Habilidades para o Gemini: reutilização de prompts com um clique; diga adeus às entradas repetitivas
O Google lançou uma atualização para a versão para desktop do Chrome, introduzindo uma nova “Biblioteca de Habilidades” para seu recurso Gemini integrado. Essa melhoria permite que os usuários salvem
O CEO da Anthropic defende regras para IA semelhantes às do setor bancário; especialistas alertam contra a ideia de ser ao mesmo tempo jogador e árbitro
De acordo com a CNBC, o CEO da Anthropic, Dario Amodei, sugeriu a integração de avaliadores de segurança independentes de longo prazo nas principais empresas de IA, concedendo-lhes acesso quase irrest
Recomendações de tópicos especiais relacionados
Comentários (0)

O Google e o Google DeepMind estabeleceram o Instituto DeepMind na quarta-feira para fomentar o diálogo sobre a inteligência artificial geral. O instituto é liderado pelo co-fundador do DeepMind, Shane Legg, pelo executivo do Google, James Manyika, e pelo presidente do Google DeepMind, Demis Hassabis, com Legg atuando como editor-chefe.
Esta nova iniciativa busca destacar diversas perspectivas dentro do Google, do DeepMind e da comunidade de pesquisa global em relação à IA geral. O anúncio observa que os participantes “podem não estar sempre de acordo” e provavelmente revisarão suas posições à medida que novos dados surgirem nesta fronteira em rápida evolução.
A primeira coleção apresenta quatro ensaios abordando questões-chave: estratégias econômicas para gerenciar possíveis interrupções causadas pela IA geral, manutenção do raciocínio dos modelos legível por humanos, princípios para o florescimento humano e um framework para avaliar modelos de IA de fronteira.
Pesquisadores de segurança do DeepMind, Rohin Shah e Anca Dragan, argumentam em um dos ensaios que a diminuição da transparência dos sistemas de IA — a capacidade de inspecionar o raciocínio passo a passo — não é inevitável. À medida que novas arquiteturas complicam o monitoramento, eles sugerem que desenvolvedores e reguladores devem abordar diretamente os trade-offs de segurança. Isso pode envolver a restrição da “profundidade serial opaca” ou exigir provas de que sistemas menos transparentes permanecem igualmente monitoráveis.
Em outro ensaio, Demis Hassabis propõe um órgão de padrões de IA de fronteira liderado pelos Estados Unidos para avaliar modelos avançados. Sob esta proposta, os desenvolvedores inicialmente submeteriam modelos voluntariamente para revisão até 30 dias antes do lançamento. Uma vez que o sistema de avaliação se prove eficaz, passar nesses testes pode se tornar obrigatório para a implantação de modelos de fronteira nos Estados Unidos.
Inicialmente, este órgão projetaria avaliações com a contribuição de empresas de IA, mas eventualmente criaria avaliações independentes e não divulgadas — denominadas testes “held-out” — para evitar que laboratórios otimizassem modelos para benchmarks conhecidos. Hassabis indicou que o framework poderia ser “escalado se a situação justificar”, potencialmente incluindo um desaceleração coordenada entre desenvolvedores de IA de fronteira.
Estes ensaios surgem à medida que as discussões sobre segurança na indústria mudam de preocupações gerais para propostas concretas de divulgação, escrutínio externo e desaceleração coordenada caso as salvaguardas atrasem. Este impulso cresceu nesta semana quando líderes da indústria apoiaram o chamado do CEO da Anthropic, Dario Amodei, para “regular” o desenvolvimento de IA de fronteira.
Vazamento do Sonnet 5.5 da Anthropic: 2 milhões de tokens no contexto desafiam a DeepSeek a recuperar a relação custo-benefício
A Anthropic revelou seu mais recente modelo Sonnet 5.5, conhecido internamente como “Fennec” (em referência à raposa do deserto), com lançamento previsto para o próximo mês. Detalhes que vazaram indic
O Chrome lança a Biblioteca de Habilidades para o Gemini: reutilização de prompts com um clique; diga adeus às entradas repetitivas
O Google lançou uma atualização para a versão para desktop do Chrome, introduzindo uma nova “Biblioteca de Habilidades” para seu recurso Gemini integrado. Essa melhoria permite que os usuários salvem
O CEO da Anthropic defende regras para IA semelhantes às do setor bancário; especialistas alertam contra a ideia de ser ao mesmo tempo jogador e árbitro
De acordo com a CNBC, o CEO da Anthropic, Dario Amodei, sugeriu a integração de avaliadores de segurança independentes de longo prazo nas principais empresas de IA, concedendo-lhes acesso quase irrest





Lar






