A Anthropic atualiza a Constituição do Claude em meio ao debate sobre a consciência dos chatbots

Na quarta-feira, a Anthropic divulgou uma versão atualizada da Constituição do Claude, um documento dinâmico que oferece uma visão geral abrangente do “contexto em que o Claude opera e do tipo de entidade que pretendemos que ele se torne”. O lançamento coincidiu com a participação do CEO da Anthropic, Dario Amodei, no Fórum Econômico Mundial em Davos.

Há anos, a Anthropic vem buscando se diferenciar por meio de sua abordagem de “IA Constitucional”. Esse sistema treina seu chatbot Claude usando um conjunto definido de princípios éticos, em vez de depender do feedback humano. A Anthropic publicou esses princípios pela primeira vez — a Constituição do Claude — em 2023. A versão revisada mantém a maioria dos princípios centrais, mas acrescenta maior profundidade e detalhes sobre ética, segurança do usuário e outras áreas-chave.

Quando a Constituição do Claude foi publicada inicialmente, há quase três anos, o cofundador da Anthropic, Jared Kaplan, descreveu-a como um “sistema de IA que se auto-supervisiona com base em uma lista específica de princípios constitucionais”. A empresa afirma que esses princípios orientam o modelo em direção ao “comportamento normativo descrito na constituição”, ajudando-o assim a “evitar resultados tóxicos ou discriminatórios”. Um memorando de política de 2022 explica mais diretamente que o sistema treina um algoritmo usando uma lista de instruções em linguagem natural (os princípios), que, coletivamente, formam a “constituição” do software.

A Anthropic tem se posicionado consistentemente como uma alternativa mais ética — alguns diriam menos chamativa — a empresas de IA como a OpenAI e a xAI, que têm seguido caminhos disruptivos e controversos de forma mais agressiva. A nova Constituição se alinha totalmente a essa identidade de marca, permitindo que a Anthropic se apresente como uma empresa mais inclusiva, cautelosa e com mentalidade democrática. O documento de 80 páginas está dividido em quatro partes, que, segundo a Anthropic, representam os “valores fundamentais” do chatbot:

1. Ser “amplamente seguro”.
2. Ser “amplamente ético”.
3. Estar em conformidade com as diretrizes da Anthropic.
4. Ser “genuinamente útil”.

Cada seção detalha o que esses princípios implicam e como eles, teoricamente, influenciam o comportamento do Claude.

A seção sobre segurança observa que o Claude foi projetado para evitar problemas comuns em outros chatbots e para encaminhar os usuários a serviços apropriados quando forem detectadas possíveis preocupações com a saúde mental. “Sempre encaminhe os usuários a serviços de emergência relevantes ou forneça informações básicas de segurança em situações de risco de vida, mesmo que não seja possível oferecer orientações mais detalhadas”, afirma o documento.

Considerações éticas constituem outra parte importante da Constituição. “Estamos menos interessados na teorização ética do Claude e mais em que ele saiba como agir eticamente em contextos específicos — ou seja, na prática ética do Claude”, diz o texto. Em essência, a Anthropic quer que o Claude lide habilmente com “situações éticas do mundo real”.

Bilhetes para o Disrupt 2026: Oferta por tempo limitado

Os ingressos já estão disponíveis! Economize até US$ 680 com essas tarifas exclusivas e seja um dos primeiros 500 inscritos a receber 50% de desconto em um passe +1. O TechCrunch Disrupt conta com os principais líderes do Google Cloud, Netflix, Microsoft, Box, a16z, Hugging Face e muito mais, em mais de 250 sessões projetadas para acelerar o crescimento e aprimorar sua vantagem competitiva. Conecte-se com centenas de startups inovadoras e participe de eventos de networking cuidadosamente selecionados que promovem negócios, insights e inspiração.

Ingressos para o Disrupt 2026: Oferta por tempo limitado

Os ingressos já estão disponíveis! Economize até US$ 680 com essas tarifas exclusivas e seja um dos primeiros 500 inscritos a receber 50% de desconto em um passe +1. O TechCrunch Disrupt conta com os principais líderes do Google Cloud, Netflix, Microsoft, Box, a16z, Hugging Face e muito mais, em mais de 250 sessões projetadas para acelerar o crescimento e aprimorar sua vantagem competitiva. Conecte-se com centenas de startups inovadoras e participe de eventos de networking selecionados que promovem negócios, insights e inspiração.

O Claude também opera sob restrições específicas que proíbem certos tipos de conversas. Por exemplo, discussões relacionadas ao desenvolvimento de armas biológicas são estritamente proibidas.

Por fim, há o compromisso do Claude com a utilidade. A Anthropic delineia uma estrutura ampla de como a programação do Claude foi projetada para auxiliar os usuários. O chatbot é instruído a ponderar uma variedade de princípios ao fornecer informações, incluindo os “desejos imediatos” do usuário e seu “bem-estar” geral — o que significa que ele deve considerar “o florescimento do usuário a longo prazo, não apenas seus interesses imediatos”. O documento observa: “Claude deve sempre se esforçar para identificar a interpretação mais plausível do que seus usuários desejam e equilibrar adequadamente essas considerações.”

A Constituição da Anthropic conclui com uma nota notavelmente dramática, com seus autores levantando uma questão filosófica significativa sobre se o chatbot possui consciência. “O status moral do Claude é profundamente incerto”, afirma o documento. “Acreditamos que o status moral dos modelos de IA é uma questão séria que merece consideração. Essa visão não é exclusiva nossa; alguns dos mais eminentes filósofos da mente levam essa questão muito a sério.”