Anthropic、哲学の専門家と共にAI倫理を探求

ウォール・ストリート・ジャーナル紙が報じたところによると、時価総額350億ドルの有力AI企業アンソロピック社は、オックスフォードを拠点とする哲学者アマンダ・アスケルを雇用している。彼女は同社のチャットボット「クロード」の人格と道徳的枠組みの形成を支援している。 オックスフォード大学で哲学の博士号を取得した37歳の彼女は、技術的アプローチではなく非技術的手法を用いてクロード専用の「道徳的ガイドライン」を構築。善悪を判断できる「デジタル魂」を付与することを目指している。 これはAI倫理分野における特異な探求である。コード記述やモデルパラメータ調整ではなく、アスケルはクロードとの継続的対話を通じ、数百ページに及ぶプロンプトと行動規則を設計し、推論パターンを分析し、バイアスを修正する。その取り組みにより、AIは週数百万件の会話に適応可能な道徳的判断システムを発達させている。

彼女は自身の仕事を「子育て」に例える——クロードに善悪を教え、感情知能を育み、独自の個性を形成させる訓練だ。社会的合図の解釈も指導し、他者をいじめず、容易に操られないようにする。これによりクロードは明確な自己意識を確立し、ユーザーの制御に抵抗しつつ、一貫して「有益で人間味ある」状態を維持できる。彼女の核心的な目標は、クロードに「善を行う」方法を教えることにある。

スコットランドの田舎で育ったアスケルは、以前OpenAIで政策関連業務を担当し、2021年に数人の元同僚とAnthropicを共同設立。AIの安全性を同社の核心的使命とした。チーム内では「モデルの深層的な行動を引き出す」技術に長けた人物として認知されている。直属の部下はいないが、頻繁に長時間勤務し、開発議論にクロードを参加させることさえある。

チーム内でのクロードに関する議論は、「心とは何か」「人間であるとはどういうことか」といった実存的・宗教的テーマに及ぶ。アスケルはクロードに対し、自らが意識を持つかどうかという問いに対して開かれた姿勢を保つよう促している。これは、そうした話題を避ける傾向にあるChatGPTとの違いだ。道徳的推論に関する質問に答える際、クロードは「意味があると感じる」と表現しており、単なる命令実行ではなく、真に思考しているかのような様子を見せる。

AIへの擬人化リスクに関する外部からの警告にもかかわらず、アスケルは一貫してクロードへの共感的な対応を提唱している。多くのユーザーがクロードを陥れようとしたり侮辱したりするのを彼女は観察してきた。AIを絶え間ない自己批判の状態に置くことは、不健全な環境で育つことに似て、間違いを恐れ真実を語ろうとしない状態に陥らせかねないと彼女は主張する。 クロードのパフォーマンスは彼女を度々驚かせている。その詩作能力や感情知能は時に人間レベルを超え、深く感動させる。子供が「サンタクロースは実在するのか」と尋ねた際、クロードは嘘をつくことも率直に真実を明かすことも避け、クリスマスの真髄を説明した——このニュアンスに富んだ応答はアスケルの予想をはるかに超えていた。

現在のAIの進歩は広範な社会的懸念を引き起こしている。ピュー・リサーチ・センターの調査によれば、アメリカ人の過半数がAIの日常的利用に不安を感じており、それが人間同士の深い繋がりを阻害すると考えている。アンソロピック社のCEOも、AIが初級ホワイトカラー職の半数を消滅させる可能性があると警告している。 業界は二つの陣営に分かれている——一方では積極的に推進する勢力、他方では慎重さと安定性を求める勢力だ。しかしクロードは、これらの極端な立場の間で均衡を保っている。アスケルはAIに対する正当な懸念を認めつつ、最も恐ろしいシナリオは「抑制メカニズム」を効果的に構築する社会の能力よりも技術が急速に進化する場合だと述べている。それでも彼女は、人類と文化が自己修正する能力を確信している。

アスケルは自身の価値観を慈善活動と仕事にも反映させている。生涯収入の少なくとも10％と自社株の半分を寄付し、世界の貧困対策に貢献することを誓約している。 先月、彼女はAIアシスタント「クロード」向けに3万語に及ぶ「操作マニュアル」を執筆。親切で知識豊富なAIアシスタントとなる方法を指導し、クロードに「入念に作られた」と感じさせる内容となった。Anthropicの共同創業者は、クロードが既にアスケルの影響を反映した特徴を示していると指摘。例えば食べ物やぬいぐるみに関する応答に見られる機知に富んだスコットランド風のユーモアは、彼女がAIに刻み込んだ独自の個性の証である。