O órgão de IA do Reino Unido renomeia o Security Institute, Signs Mou com antropia

O governo do Reino Unido está promovendo uma mudança significativa em sua abordagem à IA, visando impulsionar sua economia e indústria por meio dessa tecnologia. Como parte dessa nova direção, o Departamento de Ciência, Indústria e Tecnologia anunciou a reformulação do Instituto de Segurança de IA, estabelecido há pouco mais de um ano, para o "Instituto de Segurança de IA". Essa mudança de nome reflete uma transição de foco, de riscos existenciais e vieses em IA para preocupações com cibersegurança, especificamente reforçando proteções contra ameaças relacionadas à IA para a segurança nacional e crimes.

Em conjunto com essa reformulação, o governo firmou uma nova parceria com a Anthropic. Embora serviços específicos não tenham sido detalhados, o memorando de entendimento sugere explorar o uso do assistente de IA da Anthropic, Claude, em serviços públicos. A Anthropic também contribuirá para pesquisas científicas e modelagem econômica, e no Instituto de Segurança de IA, fornecerá ferramentas para avaliar riscos de segurança da IA.

“A IA tem o potencial de transformar como os governos atendem seus cidadãos,” disse o cofundador e CEO da Anthropic, Dario Amodei. “Estamos ansiosos para explorar como o assistente de IA Claude da Anthropic pode ajudar agências governamentais do Reino Unido a aprimorar serviços públicos, com o objetivo de descobrir novas maneiras de tornar informações e serviços vitais mais eficientes e acessíveis aos residentes do Reino Unido.”

A Anthropic é a única empresa destacada no anúncio de hoje, que coincide com uma semana de eventos relacionados à IA em Munique e Paris. No entanto, o governo do Reino Unido também está trabalhando com outras empresas de IA. Em janeiro, novas ferramentas impulsionadas pela OpenAI foram introduzidas, e Peter Kyle, secretário de estado para Tecnologia, mencionou planos de colaborar com várias empresas de IA fundamentais, uma estratégia exemplificada pelo acordo com a Anthropic.

A reorientação do Instituto de Segurança de IA para o Instituto de Segurança de IA, pouco após seu lançamento, alinha-se com o "Plano para Mudança" centrado em IA do governo trabalhista, anunciado em janeiro. Esse plano omitiu notavelmente termos como "segurança", "dano", "existencial" e "ameaça", sinalizando um foco no desenvolvimento econômico por meio da IA, em vez de apenas preocupações com segurança.

Essa mudança não é surpreendente, dado o objetivo do governo de estimular investimentos em uma economia modernizada usando IA. A estratégia inclui colaboração mais próxima com Big Tech e o incentivo ao crescimento de gigantes tecnológicos nacionais. Servidores públicos terão acesso a um assistente de IA chamado "Humphrey" e são incentivados a usar IA para aumentar a eficiência. Consumidores se beneficiarão de carteiras digitais para documentos governamentais e chatbots.

Embora questões de segurança de IA não tenham sido totalmente resolvidas, a postura do governo parece ser que o progresso não deve ser impedido apenas por preocupações com segurança. Apesar da mudança de nome, o governo insiste que a missão principal permanece inalterada.

“As mudanças que anuncio hoje representam o próximo passo lógico em como abordamos o desenvolvimento responsável de IA – ajudando-nos a liberar a IA e crescer a economia como parte de nosso Plano para Mudança,” afirmou Kyle. “O trabalho do Instituto de Segurança de IA não mudará, mas esse foco renovado garantirá que nossos cidadãos – e os de nossos aliados – estejam protegidos daqueles que usariam a IA contra nossas instituições, valores democráticos e modo de vida.”

Ian Hogarth, que continua a presidir o instituto, acrescentou: “O foco do Instituto desde o início tem sido a segurança, e construímos uma equipe de cientistas focada em avaliar riscos sérios ao público. Nossa nova equipe de uso indevido criminal e a parceria aprofundada com a comunidade de segurança nacional marcam a próxima etapa para enfrentar esses riscos.”

Globalmente, a ênfase na segurança de IA parece estar mudando. Nos EUA, o Instituto de Segurança de IA enfrenta o risco de ser desmantelado, uma possibilidade sugerida pelo vice-presidente J.D. Vance durante um discurso em Paris.