Antrópica remove a política de IA Biden do site silenciosamente

A Anthropic, uma empresa focada no desenvolvimento de IA, removeu recentemente vários compromissos voluntários de segurança de IA de seu site, que foram feitos em colaboração com a administração Biden em 2023. Esses compromissos, voltados para promover uma IA segura e confiável, incluíam compartilhar informações sobre gerenciamento de riscos de IA e conduzir pesquisas sobre viés e discriminação em IA. O grupo de vigilância de IA, The Midas Project, destacou que esses compromissos foram retirados do centro de transparência da Anthropic na última semana. No entanto, os compromissos relacionados à redução de abuso sexual baseado em imagens geradas por IA ainda estão em vigor.

A Anthropic não fez nenhum anúncio sobre essa mudança e não respondeu imediatamente aos pedidos de comentário. A empresa, junto com outras como OpenAI, Google, Microsoft, Meta e Inflection, havia concordado em seguir certas medidas voluntárias de segurança de IA propostas pela administração Biden em julho de 2023. Essas medidas envolviam testes de segurança internos e externos dos sistemas de IA antes de seu lançamento, investimento em cibersegurança para proteger dados sensíveis de IA e desenvolvimento de formas de marcar conteúdo gerado por IA.

Vale notar que a Anthropic já implementava muitas dessas práticas, e o acordo não era juridicamente vinculativo. O objetivo da administração Biden era destacar suas prioridades de política de IA antes que a Ordem Executiva de IA mais abrangente fosse implementada alguns meses depois.

Por outro lado, a administração Trump sinalizou uma abordagem diferente para a governança de IA. Em janeiro, o presidente Trump revogou a Ordem Executiva de IA, que havia orientado o Instituto Nacional de Padrões e Tecnologia a criar diretrizes para empresas identificarem e corrigirem falhas em modelos de IA, incluindo vieses. Aliados de Trump criticaram a ordem por seus requisitos pesados de relatórios, que, segundo eles, forçavam as empresas a revelar seus segredos comerciais.

Logo após revogar a Ordem Executiva de IA, Trump emitiu uma nova diretiva para agências federais apoiarem o desenvolvimento de IA "livre de viés ideológico" que promoveria "o florescimento humano, competitividade econômica e segurança nacional". Diferentemente da iniciativa de Biden, a ordem de Trump não abordou o combate à discriminação por IA.

The Midas Project destacou no X que os compromissos da era Biden não indicavam que eram temporários ou dependentes do partido político no poder. Após a eleição em novembro, várias empresas de IA reafirmaram seus compromissos.

A Anthropic não é a única empresa a ajustar suas políticas públicas desde que Trump assumiu o cargo. A OpenAI declarou recentemente que defenderá "a liberdade intelectual ... independentemente de quão desafiador ou controverso um tópico possa ser" e garantirá que sua IA não censure certos pontos de vista. A OpenAI também removeu uma página de seu site que anteriormente destacava sua dedicação à diversidade, equidade e inclusão (DEI). Esses programas enfrentaram críticas da administração Trump, levando muitas empresas a abandonar ou modificar significativamente suas iniciativas de DEI.

Alguns dos conselheiros de IA de Trump no Vale do Silício, incluindo Marc Andreessen, David Sacks e Elon Musk, acusaram empresas como Google e OpenAI de censurar IA ao restringir as respostas de seus chatbots. No entanto, laboratórios como a OpenAI negaram que os ajustes em suas políticas sejam devido a pressão política.

Tanto a OpenAI quanto a Anthropic estão atualmente mantendo ou buscando ativamente contratos governamentais.

Várias horas após a publicação deste artigo, a Anthropic forneceu ao TechCrunch a seguinte declaração:

"Permanecemos comprometidos com os compromissos voluntários de IA estabelecidos sob a administração Biden. Esse progresso e ações específicas continuam a ser refletidos em [nosso] centro de transparência dentro do conteúdo. Para evitar mais confusão, adicionaremos uma seção citando diretamente onde nosso progresso está alinhado."

Atualizado às 11:25 da manhã, horário do Pacífico: Adicionada uma declaração da Anthropic.