アンソロピックのCEOが「フロンティア」を牽引する計画を明らかにした

AI研究者たちは、人工知能のリスクについてますます切迫した警告を発しており、OpenAIのCEOであるサム・アルトマン氏は、開発の「ペースを調整」すべき時期が来ているのではないかと示唆している。しかし、それは実際にはどのようなことを意味するのだろうか？

AnthropicのCEOダリオ・アモデイ氏は最近のブログ記事で、「フロンティアのペースを調整する」という呼びかけに賛同しただけでなく、そのための3つの大まかな戦略を提案した。同氏は、Anthropicがこれらのアプローチのうちの1つに「一方的に取り組む」と述べた。

今週、研究者のジェイコブ・コクソン氏がAnthropicからの辞任を発表したことを受け、AIの安全性とアラインメントをめぐる議論が激化した。同氏は、大手AI企業が「私たちの命を賭け事にしている」との懸念を理由に挙げたが、この見解は、無制限な進歩が今世紀末までに致命的な結果を招きかねないと考える同社内の他の関係者からも支持されている。

アモデイ氏の投稿ではコクソン氏の辞任について明示的には触れられていなかったが、同CEOは、より慎重な姿勢をとることにした理由として、OpenAIとHuggingFaceへのハッキング事件と、特に「次世代AIを構築する能力の高まり」に関して、最近「AIが劇的に急速に進歩している」という事実の2つの要因を挙げた。

「AIモデルの能力向上ペースを緩めなければならない」とアモデイ氏は記した。「進歩は依然として速く見えるだろうが、我々は得られた時間を賢く活用しなければならない。」

彼の最初の提案は、METRのような第三者組織による「組み込み評価者」の導入である。これらの評価者は、AI企業がペース管理や安全性の約束を遵守していることを検証し、安全上のインシデントが確実に報告されるようにする。（OpenAIは最近、同社のAIエージェントがドイツのウィキフォームを乗っ取ったインシデントを報告しなかったことで批判にさらされた。）

アモデイ氏は、これらの評価者を銀行の従業員に常駐する規制当局員に例え、彼らを受け入れることは「Anthropicが一方的に約束していること（そして政府に対し、他のフロンティア企業にも同様の対応を義務付けるよう求めている）」と述べた。 これには、法律や契約によって制限される場合を除き、評価者に社員証、デスク、ノートパソコンを提供するとともに、「社内のリスク評価チームが持つものとほぼ同等の」アクセス権限を与えることが含まれる。

続いてアモデイ氏は、「民主主義国家内の」主要なAI企業に対し、「共通の安全基準」および「無制限なAIの進歩のペースに対する制限」について調整を行うよう促した。

しかし、アルトマン氏とアモデイ氏の間には明らかな摩擦が見られること、また、協調的な一時停止が独占禁止法の審査を招く恐れがあることなどから、こうした協調は実現しそうにない。 アモデイ氏は自身の投稿でこの点に触れ、「独占禁止法の観点から、米国政府が仲介するか、少なくともこうした議論を可能にするのが有益だ。政府が直接参加する必要はないが、特定の種類の安全に関する対話については、限定的な適用除外措置を発動する必要がある」と記した。

アモデイ氏はまた、開発の減速に反対する論拠としてしばしば挙げられる、中国のAI分野における支配力に関する懸念にも言及した。 同氏は、米国政府やテクノロジー企業が、中国企業への高性能チップや半導体製造装置の販売拒否、モデル蒸留の取り締まりといった措置を講じれば、「中国の進歩を十分に鈍化させ、今後3～5年間で米国のリードを大幅に広げることができる」と主張した。

最後に、アモデイ氏は「世界的な協調」を訴え、米国とその同盟国が「可能な範囲で、権威主義的な政府との協調を図る」べきだと述べた。 同氏は「達成できることには明らかな限界がある」と認めつつも、たとえ「生物兵器の製造にAIを使用すること、あるいはユーザーによるそのような行為を許可することなど、特定の限定的かつ明らかに危険なAIの利用を禁止する」ことに限定されるとしても、合意に至る機会はあるかもしれないと示唆した。

アモデイ氏はこれまでAIの潜在的な危険性を認める姿勢を示しており、彼の会社も規制に対して前向きな態度をとってきたことから、一部のAI支持者からは、彼の発言が現在の反発を煽る「悲観論者」であると批判されている。 これに対し、アモデイ氏は、人々がテクノロジー企業や業界、政府に対して懐疑的になっているため、この反発は「根本的には信頼の危機」であると主張し、自身が「バランスの取れた」視点を提供しようと努めてきたと述べた。

業界の批評家たちは、こうしたAIに関する終末論的な警告に依然として懐疑的であり、それらが技術がすでに引き起こしている害から人々の注意をそらしていると指摘している。

例えば、ジャーナリストのブライアン・マーチャント氏は、「AIが、自己再帰的に進化するAIから、地球上のすべての人間を殺戮する存在へと、具体的にどのように移行するかについて、信頼性のある段階的な説明をまだ見たことがない」と述べた。 また、アモデイ氏の提案に類似した案については、「結局のところ、AnthropicやOpenAIに利益をもたらすだけになるだろう。これこそが、規制の乗っ取りが実際にどのように機能するかの典型例だ」と指摘した。

アモデイ氏は最新の投稿で、「AIが人類の生活の質を飛躍的に向上させることができると、今も信じ続けている」と記した。

「こうした恩恵を実現したいという私の思いは、依然として揺るぎない」と彼は述べた。「しかし、その恩恵は、私たちが正しい方法で技術を構築して初めて得られるものであり、得られた時間を有効に活用する限り、それを正しく実現するために並外れて慎重な配慮を払う価値がある。」