Oportunidade perdida da cúpula da IA, diz CEO antrópico

Em um comunicado divulgado na terça-feira, Dario Amodei, CEO da startup de IA Anthropic, expressou sua decepção com a Cúpula de Ação em IA realizada em Paris esta semana, classificando-a como uma "oportunidade perdida". Ele pediu que tanto a indústria de IA quanto os funcionários do governo ajam com mais rapidez e clareza.

"Estávamos felizes em participar da Cúpula de Ação em IA em Paris e elogiamos o governo francês por unir empresas de IA, pesquisadores e formuladores de políticas globalmente," afirmou Amodei. "No entanto, a urgência e o foco necessários em questões-chave não acompanharam o rápido avanço da tecnologia."

A crítica de Amodei à cúpula, que faz parte de uma série de conferências destinadas a forjar um consenso sobre a governança de IA, ecoou os sentimentos de vários acadêmicos que criticaram o evento no início da semana. Um acadêmico comentou ao Transformer que os compromissos da cúpula, que não foram assinados pelos EUA e pelo Reino Unido, eram essencialmente "promessas vazias envoltas em clichês."

Na conferência, o vice-presidente dos EUA, JD Vance, apresentou uma perspectiva bem diferente, criticando o que descreveu como regulamentações excessivamente restritivas sobre IA propostas pela Europa. Ele também questionou o foco da conferência na moderação de conteúdo, rejeitando os termos "sustentável" e "inclusivo" nos compromissos como tentativas veladas de "censura autoritária."

Amodei destacou a rápida evolução da IA, alertando sobre possíveis resultados catastróficos se não for devidamente regulamentada. "Pense nos sistemas de IA como uma nova nação cheia de seres altamente inteligentes entrando na arena global," ele explicou. "A IA avançada representa sérias ameaças à segurança global, particularmente pelo uso indevido por atores não estatais... É crucial que nações democráticas liderem o desenvolvimento de IA, evitando que regimes autoritários alcancem superioridade militar global por meio da IA."

Ele instou os governos a monitorar ativamente o uso da IA e implementar políticas que garantam benefícios econômicos equitativos das tecnologias avançadas de IA. Amodei também enfatizou a necessidade de maior transparência governamental em relação à segurança e proteção da IA, juntamente com estratégias para avaliar os riscos da IA.

Essa perspectiva contrasta com a da OpenAI, que expressou confiança de que a conferência de Paris marcou "outro marco importante para o desenvolvimento responsável e benéfico da IA para todos."

A Anthropic historicamente tem sido mais aberta à regulação da IA. Amodei já expressou preocupações sobre os possíveis impactos negativos da IA não regulamentada na economia, sociedade e segurança. A Anthropic apoiou sutilmente o projeto de lei SB 1047 da Califórnia, uma legislação abrangente de regulação de IA que gerou muito debate antes de ser vetada pelo Anno Domini pelo governador Gavin Newsom no último outono. Em contrapartida, a OpenAI se opôs ao projeto.

No entanto, vale notar que a posição da Anthropic não é puramente altruísta. Similar aos recentes escritos do CEO da OpenAI, Sam Altman, Amodei não forneceu propostas específicas sobre como garantir que os benefícios da IA avançada sejam amplamente e igualmente distribuídos.

Leia nossa cobertura abrangente da Cúpula de Ação em Inteligência Artificial em Paris.