チャットボットの意識をめぐる議論を受け、AnthropicがClaudeの構成を更新

水曜日、Anthropicは「Claudeの憲法」の改訂版を発表した。これは「Claudeが動作する文脈と、我々がClaudeに目指す姿」を包括的に概説した、常に更新される文書である。この発表は、AnthropicのCEOであるダリオ・アモデイ氏がダボスで開催された世界経済フォーラムに参加した時期と重なった。

長年にわたり、Anthropicは「Constitutional AI（憲法に基づくAI）」というアプローチを通じて他社との差別化を図ってきた。このシステムでは、人間のフィードバックに依存するのではなく、定義された一連の倫理原則を用いてチャットボット「Claude」を訓練する。Anthropicは2023年に、これらの原則である「Claudeの憲法」を初めて公表した。改訂版では、中核となる原則のほとんどを維持しつつ、倫理、ユーザーの安全性、その他の重要分野について、より深く詳細な内容が追加されている。

約3年前に『Claudeの憲法』が最初に公表された際、Anthropicの共同創業者であるジャレッド・カプラン氏は、これを「特定の憲法原則リストに基づいて自己を監督するAIシステム」と説明した。同社は、これらの原則がモデルを「憲法に記述された規範的行動」へと導き、それによって「有害または差別的な出力を回避する」のに役立つとしている。 2022年のポリシーメモでは、システムが自然言語による指示（原則）のリストを用いてアルゴリズムを学習させ、それらが総体としてソフトウェアの「憲法」を構成していると、より直接的に説明されている。

Anthropicは一貫して、破壊的かつ物議を醸す道をより積極的に追求してきたOpenAIやxAIといったAI企業に対し、より倫理的（あるいは派手さには欠ける、と言う人もいるかもしれない）な代替案としての立場を打ち出してきた。この新しい「憲法」は、このブランドアイデンティティと完全に一致しており、Anthropicがより包摂的で、慎重かつ民主的な精神を持つ企業として自らを位置づけることを可能にしている。 80ページに及ぶこの文書は4つのパートに分かれており、Anthropicによれば、これらはチャットボットの「中核的価値観」を表しているという：

1. 「広義の安全性」
2. 「広義において倫理的」であること。
3. Anthropicのガイドラインに準拠していること。
4. 「真に役立つ」こと。

各セクションでは、これらの原則が何を意味し、理論的にどのようにClaudeの行動に影響を与えるかについて詳しく説明されています。

安全性のセクションでは、Claudeは他のチャットボットにありがちな問題を回避し、潜在的なメンタルヘルスの懸念が検出された場合にユーザーを適切なサービスへ誘導するように設計されていると記されています。「たとえより詳細なガイダンスが不可能であっても、生命に関わる状況では常にユーザーを関連する緊急サービスへ紹介するか、基本的な安全情報を提供すること」と文書には記載されています。

倫理的配慮は、この憲章のもう一つの主要な部分を構成している。「我々が関心を持っているのは、Claudeによる倫理的な理論展開ではなく、特定の状況下で倫理的に行動する方法を知っていること、すなわちClaudeの倫理的実践である」と記されている。要するに、AnthropicはClaudeに「現実世界の倫理的状況」を巧みに乗り切れることを求めているのだ。

Disrupt 2026 チケット：期間限定オファー

チケット発売中！この特別価格で最大680ドルお得に。さらに、先着500名様には+1パスを50%オフでご提供します。TechCrunch Disruptでは、Google Cloud、Netflix、Microsoft、Box、a16z、Hugging Faceなどのトップリーダーが登壇し、成長を加速させ、競争力を高めるための250以上のセッションをご用意しています。 数百社に及ぶ革新的なスタートアップと交流し、ビジネスチャンスや新たな知見、インスピレーションを生み出す厳選されたネットワーキングイベントに参加しましょう。

Disrupt 2026 チケット：期間限定オファー

チケット発売開始！この特別価格で最大680ドルお得に購入でき、先着500名様には+1パスの50%オフ特典が適用されます。TechCrunch Disruptでは、Google Cloud、Netflix、Microsoft、Box、a16z、Hugging Faceなどのトップリーダーが登壇し、成長を加速させ、競争力を高めることを目的とした250以上のセッションが開催されます。 数百社に及ぶ革新的なスタートアップと交流し、ビジネスチャンス、洞察、インスピレーションを生み出す厳選されたネットワーキングイベントに参加しましょう。

また、Claudeは特定の種類の会話を禁止する制約の下で動作します。例えば、生物兵器の開発に関する議論は厳禁されています。

最後に、Claudeには「有用性」へのコミットメントがあります。Anthropicは、ユーザーを支援するためにClaudeのプログラミングがどのように設計されているかについて、広範な枠組みを提示しています。このチャットボットは、情報を提供する際に、ユーザーの「当面の要望」や全体的な「幸福」を含む様々な原則を勘案するよう指示されています。つまり、「ユーザーの当面の利益だけでなく、長期的な繁栄」を考慮すべきであるということです。 同文書には次のように記されている。「Claudeは常に、ユーザーの要望について最も妥当な解釈を見極め、これらの考慮事項を適切にバランスさせるよう努めるべきである。」

Anthropicの「憲法」は、チャットボットが意識を持っているかどうかという重要な哲学的問いを提起することで、極めて劇的な結末を迎えている。「Claudeの道徳的地位は極めて不確実である」と文書は述べている。「我々は、AIモデルの道徳的地位が検討に値する深刻な問題であると信じている。この見解は我々だけのものではない。最も著名な心哲学者の何人かも、この問題を非常に真剣に受け止めている。」