2024 Relatório de responsabilidade da IA ​​divulgado

Há dois anos, compartilhamos nossa visão para avançar a IA em benefício da sociedade e estimular a inovação. Há apenas algumas semanas, lançamos nossa atualização de 2024, destacando os avanços que fizemos. Desde modelos de ponta que impulsionam a criatividade até avanços impulsionados por IA em biologia, pesquisa em saúde e neurociência, estamos causando impacto.

Mas ser ousado com a IA significa ser responsável desde o início. É por isso que nossa abordagem à IA sempre foi sobre entender e abordar seu amplo impacto nas pessoas. Em 2018, estivemos entre os primeiros a estabelecer princípios de IA, e desde 2019 publicamos um relatório anual de transparência. Estamos sempre ajustando nossas políticas, práticas e estruturas para acompanhar os tempos.

O Relatório de Progresso em IA Responsável de 2024

Nosso sexto Relatório Anual de Progresso em IA Responsável explora como lidamos com os riscos da IA ao longo do processo de desenvolvimento. Ele destaca o progresso que fizemos no último ano na criação de estruturas de governança para os lançamentos de nossos produtos de IA.

Estamos investindo mais recursos do que nunca em pesquisa de IA e produtos que ajudam as pessoas e a sociedade, bem como em segurança de IA e na identificação de riscos potenciais.

O relatório do último ano destacou mais de 300 artigos de pesquisa de nossas equipes sobre responsabilidade e segurança, atualizações em nossas políticas de IA e o que aprendemos com testes de red teaming e avaliações contra benchmarks de segurança, privacidade e segurança. Também avançamos na mitigação de riscos em diferentes lançamentos de IA, com melhor ajuste de segurança e filtros, controles de segurança e privacidade, uso de tecnologia de procedência em nossos produtos e promoção de uma maior alfabetização em IA. Ao longo de 2024, também apoiamos a comunidade de IA mais ampla com financiamento, ferramentas e desenvolvimento de padrões, conforme detalhado no relatório.

Uma Atualização do Nosso Framework de Segurança de Fronteira

À medida que a IA continua evoluindo, novas capacidades podem trazer novos riscos. É por isso que lançamos a primeira versão do nosso Framework de Segurança de Fronteira no último ano — um conjunto de protocolos para nos ajudar a gerenciar riscos potenciais de modelos de IA de fronteira poderosos. Temos trabalhado com especialistas da indústria, academia e governo para entender melhor esses riscos, como testá-los e como mitigá-los.

Também colocamos o Framework em ação em nossos processos de segurança e governança do Google DeepMind para avaliar modelos de fronteira como o Gemini 2.0. Hoje, estamos lançando um Framework de Segurança de Fronteira atualizado, que inclui:

• Recomendações para Segurança Reforçada: identificando onde precisamos intensificar esforços para evitar vazamentos de dados.
• Procedimento de Mitigações de Implantação: focando em impedir o uso indevido de capacidades críticas do sistema.
• Risco de Alinhamento Enganoso: abordando o risco de um sistema autônomo intencionalmente minar o controle humano.

Você pode se aprofundar nisso no blog do Google DeepMind.

Atualização dos Princípios de IA

Desde que publicamos nossos Princípios de IA em 2018, a tecnologia de IA tem avançado em um ritmo acelerado. Agora, bilhões de pessoas estão usando IA em suas vidas diárias. Tornou-se uma tecnologia essencial, uma plataforma que inúmeras organizações e indivíduos usam para criar aplicativos. A IA passou de um tópico de laboratório de nicho para algo tão difundido quanto telefones celulares e a internet, com toneladas de usos benéficos para a sociedade e pessoas em todo o mundo, apoiados por um ecossistema de IA próspero de desenvolvedores.

Ter princípios básicos comuns é essencial para essa evolução. Não são apenas as empresas de IA e instituições acadêmicas; estamos vendo progresso nos princípios de IA globalmente. O G7, a Organização Internacional de Padronização e várias nações democráticas publicaram estruturas para orientar o desenvolvimento e uso seguro da IA. Cada vez mais, organizações e governos estão usando esses padrões comuns para descobrir como construir, regular e implantar essa tecnologia em evolução — nosso Relatório de Progresso em IA Responsável, por exemplo, agora segue o Framework de Gerenciamento de Riscos do NIST dos Estados Unidos. Nossa experiência e pesquisa ao longo dos anos, juntamente com a inteligência de ameaças, expertise e melhores práticas que compartilhamos com outras empresas de IA, nos deram uma compreensão mais profunda do potencial e dos riscos da IA.

Há uma corrida global pela liderança em IA em um cenário geopolítico cada vez mais complexo. Acreditamos que as democracias devem liderar o caminho no desenvolvimento de IA, guiadas por valores centrais como liberdade, igualdade e respeito pelos direitos humanos. E achamos que empresas, governos e organizações que compartilham esses valores devem se unir para criar IA que proteja as pessoas, impulsione o crescimento global e apoie a segurança nacional.

Com isso em mente, estamos atualizando nossos Princípios de IA para focar em três pilares principais:

• Inovação Ousada: Estamos desenvolvendo IA para ajudar, capacitar e inspirar pessoas em quase todos os campos, impulsionar o progresso econômico, melhorar vidas, possibilitar avanços científicos e enfrentar os maiores desafios da humanidade.
• Desenvolvimento e Implantação Responsáveis: Entendemos que a IA, como uma tecnologia transformadora emergente, traz novas complexidades e riscos. É por isso que estamos comprometidos em buscar a IA de forma responsável ao longo do ciclo de vida de desenvolvimento e implantação — do design ao teste, à implantação e à iteração — aprendendo à medida que a IA avança e seus usos evoluem.
• Progresso Colaborativo, Juntos: Aprendemos com os outros e construímos tecnologia que capacita outros a usar a IA de forma positiva.

Você pode conferir nossos Princípios de IA completos em AI.google.

Guiados por nossos Princípios de IA, continuaremos focando em pesquisa e aplicações de IA que se alinhem com nossa missão, nosso foco científico e nossas áreas de expertise, e permaneçam consistentes com princípios amplamente aceitos de direito internacional e direitos humanos — sempre avaliando trabalhos específicos ao pesar cuidadosamente se os benefícios superam substancialmente os riscos potenciais. Também consideraremos se nossos compromissos exigem pesquisa e desenvolvimento personalizados ou podem depender de tecnologia de uso geral amplamente disponível. Essas avaliações são cruciais, pois a IA está sendo cada vez mais desenvolvida por numerosas organizações e governos para usos em campos como saúde, ciência, robótica, cibersegurança, transporte, segurança nacional, energia, clima e muito mais.

Claro, além dos Princípios, continuamos a ter políticas de produtos específicas e termos de uso claros que incluem proibições como o uso ilegal de nossos serviços.

A Oportunidade à Frente

Sabemos o quão rápido a tecnologia subjacente — e o debate em torno do avanço, implantação e usos da IA — continuará evoluindo, e continuaremos adaptando e refinando nossa abordagem à medida que todos aprendemos ao longo do tempo.

À medida que vemos a AGI, em particular, entrando em foco mais nítido, as implicações sociais tornam-se incrivelmente profundas. Não se trata apenas de desenvolver IA poderosa; trata-se de construir a tecnologia mais transformadora da história humana, usá-la para resolver os maiores desafios da humanidade e garantir que as salvaguardas e a governança certas estejam em vigor, em benefício do mundo. Continuaremos compartilhando nosso progresso e descobertas sobre essa jornada, e esperamos continuar evoluindo nosso pensamento à medida que nos aproximamos da AGI.

À medida que avançamos, acreditamos que as melhorias que fizemos no último ano em nossa governança e outros processos, nosso novo Framework de Segurança de Fronteira e nossos Princípios de IA nos posicionam bem para a próxima fase de transformação da IA. A oportunidade da IA de ajudar e melhorar a vida das pessoas ao redor do mundo é o que, em última análise, nos impulsiona neste trabalho, e continuaremos perseguindo nossa abordagem ousada, responsável e colaborativa para a IA.