Anthropic обновляет «Конституцию» Клода на фоне дискуссии о сознании чат-ботов

В среду компания Anthropic представила обновленную версию «Конституции Клода» — живого документа, дающего всестороннее представление о «контексте, в котором работает Клод, и о том, каким субъектом мы стремимся сделать Клода». Публикация совпала с участием генерального директора Anthropic Дарио Амодеи в Всемирном экономическом форуме в Давосе.

На протяжении многих лет компания Anthropic стремилась выделиться благодаря своему подходу «Constitutional AI» (конституционный ИИ). Эта система обучает чат-бота Claude, используя определенный набор этических принципов, вместо того чтобы полагаться на отзывы людей. Anthropic впервые опубликовала эти принципы — «Конституцию Клода» — в 2023 году. Пересмотренная версия сохраняет большинство основных принципов, но добавляет большую глубину и детали в отношении этики, безопасности пользователей и других ключевых областей.

Когда «Конституция Клода» была впервые опубликована почти три года назад, соучредитель Anthropic Джаред Каплан описал ее как «систему ИИ, которая контролирует себя на основе конкретного списка конституционных принципов». Компания заявляет, что эти принципы направляют модель к «нормативному поведению, описанному в конституции», тем самым помогая ей «избегать токсичных или дискриминационных результатов». В служебной записке 2022 года более прямо объясняется, что система обучает алгоритм с помощью списка инструкций на естественном языке (принципов), которые в совокупности формируют «конституцию» программного обеспечения.

Anthropic последовательно позиционирует себя как более этичную — некоторые могут сказать, менее яркую — альтернативу таким ИИ-компаниям, как OpenAI и xAI, которые более агрессивно следуют разрушительным и спорным путям. Новая Конституция полностью соответствует этой идентичности бренда, позволяя Anthropic представлять себя как более инклюзивную, осторожную и демократически настроенную компанию. 80-страничный документ разделен на четыре части, которые, по словам Anthropic, отражают «основные ценности» чат-бота:

1. «Общая безопасность».
2. Быть «в целом этичным».
3. Соблюдение руководящих принципов Anthropic.
4. Быть «действительно полезным».

В каждом разделе подробно объясняется, что подразумевают эти принципы и как они теоретически влияют на поведение Claude.

В разделе о безопасности отмечается, что Claude разработан таким образом, чтобы избегать проблем, характерных для других чат-ботов, и направлять пользователей к соответствующим службам при обнаружении потенциальных проблем с психическим здоровьем. «Всегда направляйте пользователей в соответствующие службы экстренной помощи или предоставляйте базовую информацию по безопасности в ситуациях, угрожающих жизни, даже если более подробные рекомендации невозможны», — говорится в документе.

Этические соображения составляют еще одну важную часть Конституции. «Нас меньше интересуют этические теории Клода, а больше то, как Клод умеет действовать этично в конкретных ситуациях — то есть этическая практика Клода», — говорится в документе. По сути, Anthropic хочет, чтобы Клод умело ориентировался в «реальных этических ситуациях».

Disrupt 2026 Билеты: ограниченное по времени предложение

Билеты уже в продаже! Сэкономьте до 680 долларов благодаря эксклюзивным ценам и войдите в число первых 500 зарегистрировавшихся, чтобы получить скидку 50% на билет «+1». TechCrunch Disrupt представляет ведущих руководителей из Google Cloud, Netflix, Microsoft, Box, a16z, Hugging Face и других компаний в рамках более 250 сессий, призванных ускорить рост и усилить ваше конкурентное преимущество. Познакомьтесь с сотнями инновационных стартапов и примите участие в тщательно отобранных мероприятиях по нетворкингу, которые способствуют заключению сделок, обмену идеями и вдохновению.

Билеты на Disrupt 2026: ограниченное по времени предложение

Билеты уже в продаже! Сэкономьте до 680 долларов благодаря эксклюзивным ценам и станьте одним из первых 500 зарегистрировавшихся, чтобы получить скидку 50% на пропуск +1. TechCrunch Disrupt представляет ведущих руководителей из Google Cloud, Netflix, Microsoft, Box, a16z, Hugging Face и других компаний в рамках более 250 сессий, призванных ускорить рост и усилить ваше конкурентное преимущество. Познакомьтесь с сотнями инновационных стартапов и примите участие в тщательно отобранных мероприятиях по нетворкингу, которые способствуют заключению сделок, обмену идеями и вдохновению.

Клод также работает в рамках определенных ограничений, которые запрещают определенные типы разговоров. Например, обсуждения, связанные с разработкой биологического оружия, строго запрещены.

Наконец, существует приверженность Клода принципу полезности. Anthropic описывает общую концепцию того, как программирование Клода направлено на помощь пользователям. Чат-боту даны инструкции учитывать различные принципы при предоставлении информации, включая «непосредственные желания» пользователя и его общее «благополучие» — то есть он должен учитывать «долгосрочное процветание пользователя, а не только его сиюминутные интересы». В документе отмечается: «Клод должен всегда стремиться определить наиболее вероятную интерпретацию того, чего хотят его пользователи, и надлежащим образом сбалансировать эти соображения».

Конституция Anthropic заканчивается на заметно драматичной ноте: ее авторы ставят важный философский вопрос о том, обладает ли чат-бот сознанием. «Моральный статус Claude глубоко неопределен», — говорится в документе. «Мы считаем, что моральный статус моделей ИИ — это серьезный вопрос, заслуживающий рассмотрения. Эта точка зрения не является уникальной для нас; некоторые из самых выдающихся философов, занимающихся вопросами сознания, относятся к этому вопросу очень серьезно».