Anthropic actualiza la constitución de Claude en medio del debate sobre la conciencia de los chatbots

El miércoles, Anthropic presentó una versión actualizada de la Constitución de Claude, un documento en constante evolución que ofrece una visión general completa del «contexto en el que opera Claude y el tipo de entidad en la que queremos que se convierta». El lanzamiento coincidió con la participación del director ejecutivo de Anthropic, Dario Amodei, en el Foro Económico Mundial de Davos.

Durante años, Anthropic se ha propuesto diferenciarse mediante su enfoque de «IA constitucional». Este sistema entrena a su chatbot Claude utilizando un conjunto definido de principios éticos en lugar de basarse en la retroalimentación humana. Anthropic publicó por primera vez estos principios —la Constitución de Claude— en 2023. La versión revisada mantiene la mayoría de los principios fundamentales, pero añade mayor profundidad y detalle en materia de ética, seguridad del usuario y otras áreas clave.

Cuando se publicó inicialmente la Constitución de Claude hace casi tres años, el cofundador de Anthropic, Jared Kaplan, la describió como un «sistema de IA que se supervisa a sí mismo basándose en una lista específica de principios constitucionales». La empresa afirma que estos principios guían al modelo hacia el «comportamiento normativo descrito en la constitución», ayudándole así a «evitar resultados tóxicos o discriminatorios». Un memorándum de política de 2022 explica más directamente que el sistema entrena un algoritmo utilizando una lista de instrucciones en lenguaje natural (los principios), que en conjunto forman la «constitución» del software.

Anthropic se ha posicionado sistemáticamente como una alternativa más ética —algunos dirían que menos llamativa— frente a empresas de IA como OpenAI y xAI, que han seguido de forma más agresiva caminos disruptivos y controvertidos. La nueva Constitución se alinea plenamente con esta identidad de marca, lo que permite a Anthropic presentarse como una empresa más inclusiva, cautelosa y con mentalidad democrática. El documento de 80 páginas se divide en cuatro partes, que según Anthropic representan los «valores fundamentales» del chatbot:

1. Ser «ampliamente seguro».
2. Ser «ampliamente ético».
3. Cumplir con las directrices de Anthropic.
4. Ser «verdaderamente útil».

Cada sección detalla lo que implican estos principios y cómo influyen teóricamente en el comportamiento de Claude.

La sección sobre seguridad señala que Claude está diseñado para evitar problemas comunes en otros chatbots y para derivar a los usuarios a los servicios adecuados cuando se detectan posibles problemas de salud mental. «Deriva siempre a los usuarios a los servicios de emergencia pertinentes o proporciona información básica de seguridad en situaciones que pongan en peligro la vida, incluso si no es posible ofrecer una orientación más detallada», afirma el documento.

Las consideraciones éticas constituyen otra parte importante de la Constitución. «Nos interesa menos la teorización ética de Claude y más que Claude sepa cómo actuar éticamente en contextos específicos; es decir, la práctica ética de Claude», reza el texto. En esencia, Anthropic quiere que Claude sepa desenvolverse con destreza en «situaciones éticas del mundo real».

Entradas para Disrupt 2026: oferta por tiempo limitado

¡Las entradas ya están disponibles! Ahorra hasta 680 $ con estas tarifas exclusivas y sé uno de los primeros 500 inscritos en recibir un 50 % de descuento en un pase +1. TechCrunch Disrupt cuenta con los principales líderes de Google Cloud, Netflix, Microsoft, Box, a16z, Hugging Face y muchos más en más de 250 sesiones diseñadas para acelerar el crecimiento y afinar tu ventaja competitiva. Conecta con cientos de startups innovadoras y participa en eventos de networking cuidadosamente seleccionados que fomentan los acuerdos, las ideas y la inspiración.

Entradas para Disrupt 2026: Oferta por tiempo limitado

¡Las entradas ya están disponibles! Ahorra hasta 680 $ con estas tarifas exclusivas y sé uno de los primeros 500 inscritos en recibir un 50 % de descuento en un pase +1. TechCrunch Disrupt cuenta con los principales líderes de Google Cloud, Netflix, Microsoft, Box, a16z, Hugging Face y muchos más, en más de 250 sesiones diseñadas para acelerar el crecimiento y afinar tu ventaja competitiva. Conecta con cientos de startups innovadoras y participa en eventos de networking seleccionados que fomentan los acuerdos, las ideas y la inspiración.

Claude también opera bajo restricciones específicas que prohíben ciertos tipos de conversaciones. Por ejemplo, las discusiones relacionadas con el desarrollo de armas biológicas están estrictamente prohibidas.

Por último, está el compromiso de Claude con la utilidad. Anthropic esboza un marco general sobre cómo está diseñada la programación de Claude para ayudar a los usuarios. Se le indica al chatbot que sopese una variedad de principios al proporcionar información, incluyendo los «deseos inmediatos» del usuario y su «bienestar» general, lo que significa que debe tener en cuenta «el desarrollo a largo plazo del usuario, no solo sus intereses inmediatos». El documento señala: «Claude debe esforzarse siempre por identificar la interpretación más plausible de lo que quieren sus usuarios y equilibrar adecuadamente estas consideraciones».

La Constitución de Anthropic concluye con una nota notablemente dramática, en la que sus autores plantean una importante cuestión filosófica sobre si el chatbot posee conciencia. «El estatus moral de Claude es profundamente incierto», afirma el documento. «Creemos que el estatus moral de los modelos de IA es una cuestión seria que merece ser considerada. Esta opinión no es exclusiva nuestra; algunos de los filósofos de la mente más eminentes se toman esta cuestión muy en serio».