O órgão de IA do Reino Unido renomeia o Security Institute, Signs Mou com antropia

O governo do Reino Unido está fazendo uma mudança significativa em sua abordagem à IA, com o objetivo de reforçar sua economia e indústria por meio dessa tecnologia. Como parte dessa nova direção, o Departamento de Ciência, Indústria e Tecnologia anunciou uma rebranding do Instituto de Segurança da IA, estabelecido há pouco mais de um ano, para o "Instituto de Segurança da AI". Essa mudança no nome reflete uma mudança de foco dos riscos e vieses existenciais na IA para preocupações com a segurança cibernética, aumentando especificamente as salvaguardas contra ameaças relacionadas à IA à segurança e crime nacional. Em conjunto com essa rebranding, o governo firmou uma nova parceria com a Anthrópica. Embora os serviços específicos não tenham sido detalhados, o memorando de entendimento sugere explorar o uso do assistente de IA do Antrópico, Claude, em serviços públicos. O Antrópico também contribuirá para a pesquisa científica e a modelagem econômica e, no Instituto de Segurança da IA, fornecerá ferramentas para avaliar os riscos de segurança da IA. "A IA tem o potencial de transformar como os governos servem a seus cidadãos", disse o co-fundador e CEO da Antrópico, Dario Amodei. "Estamos ansiosos para explorar como Claude, assistente de IA da Anthropic, pode ajudar as agências governamentais do Reino Unido a melhorar os serviços públicos, com o objetivo de descobrir novas maneiras de tornar as informações e serviços vitais mais eficientes e acessíveis aos residentes do Reino Unido". A Anthropic é a única empresa destacada no anúncio de hoje, que se alinha a uma semana de eventos relacionados à IA em Munique e Paris. No entanto, o governo do Reino Unido também está trabalhando com outras empresas de IA. Em janeiro, foram introduzidas novas ferramentas alimentadas pelo OpenAI, e Peter Kyle, o secretário de Estado da Tecnologia, mencionou planos de colaborar com várias empresas de IA fundamentais, uma estratégia exemplificada pelo acordo com a Antrópica. A reorientação do Instituto de Segurança da IA ​​ao Instituto de Segurança da IA, logo após seu lançamento, se alinha ao "Plano de Mudança", centrado no governo trabalhista, anunciado em janeiro. Esse plano omitiu notavelmente termos como "segurança", "dano", "existencial" e "ameaça", sinalizando um foco no desenvolvimento econômico através da IA, em vez de apenas sobre preocupações de segurança. Essa mudança não é surpreendente, dado o objetivo do governo de estimular o investimento em uma economia modernizada usando a IA. A estratégia inclui uma colaboração mais detalhada com a Big Tech e promove o crescimento dos gigantes da tecnologia caseira. Os funcionários públicos terão acesso a um assistente de IA chamado "Humphrey" e são incentivados a usar a IA para aumentar a eficiência. Os consumidores se beneficiarão de carteiras digitais para documentos e chatbots do governo. Embora os problemas de segurança da IA ​​não tenham sido totalmente resolvidos, a posição do governo parece ser que o progresso não deve ser prejudicado apenas por preocupações de segurança. Apesar da mudança de nome, o governo insiste que a missão principal permanece inalterada. "As mudanças que estou anunciando hoje representam o próximo passo lógico na maneira como abordamos o desenvolvimento responsável da IA ​​- ajudando -nos a liberar IA e aumentar a economia como parte do nosso plano de mudança", afirmou Kyle. "O trabalho do Instituto de Segurança da AI não mudará, mas esse foco renovado garantirá que nossos cidadãos - e os de nossos aliados - estejam protegidos daqueles que procuram usar a IA contra nossas instituições, valores democráticos e modo de vida". Ian Hogarth, que continua presidindo o Instituto, acrescentou: “O foco do Instituto desde o início tem sido a segurança e construímos uma equipe de cientistas focada na avaliação de riscos sérios para o público. Nossa nova equipe de uso criminal e aprofundando a parceria com a comunidade de segurança nacional marcam o próximo estágio de enfrentar esses riscos.” Globalmente, a ênfase na segurança da IA ​​parece estar mudando. Nos EUA, o Instituto de Segurança da IA ​​enfrenta o risco de ser desmontado, uma possibilidade sugerida pelo vice -presidente JD Vance durante um discurso em Paris.

Artigo relacionado

Comentários (30)