AIが自らを構築し始める

リチャード・ソーチャー氏は、AI分野において長年にわたり著名な人物であり、初期のチャットボットスタートアップ「You.com」を設立したこと、そしてそれ以前にImageNetに関する研究を行ったことで広く知られています。 現在、彼は研究主導型のAIスタートアップの新たな波に加わっており、サンフランシスコを拠点とする「Recursive Superintelligence」に参加している。同社は水曜日にステルスモードを解除し、6億5000万ドルの資金調達を発表した。

この新たなベンチャーには、ソーチャー氏に加え、ピーター・ノーヴィグ氏やCrestaの共同創業者であるティム・シー氏など、著名なAI研究者たちが参加している。彼らは共に、再帰的に自己改善するAIモデルの構築を目指している。それは、人間の介入なしに、自らの欠点を自律的に検出し、それを解決するために自らを再設計できるモデルである。 この目標は、現代のAI研究において長らく「聖杯」と見なされてきた。

発表後、私はZoomを通じてソチャー氏と対談し、Recursive独自の技術的アプローチや、彼がこの新しいプロジェクトを「ネオラボ」と見なさない理由について深く掘り下げた。「ネオラボ」とは、製品開発よりも研究を優先する新世代のAIスタートアップを指す非公式な用語である。

本インタビューは、分かりやすさを重視して要約・編集されています。

最近、「再帰」という言葉をよく耳にしますね。多くの研究機関で広く追求されている目標のようです。御社のアプローチの独自性はどこにあるのでしょうか？

私たち独自のアプローチは、再帰的な自己改善を実現するために「開放性」に依拠しています。これは、まだ誰も成し遂げていないことです。多くの人にとって、これは手の届かない目標なのです。 多くの人は、自動研究（auto-research）によってそれが自然に起こるものだと想定しています――AIに、機械学習システムや自分が書いた手紙など、他の何かを改善するよう依頼できる、といった具合です。しかし、それは再帰的な自己改善ではなく、単なる改善に過ぎません。

私たちの主な焦点は、真に再帰的で自己改善可能な超知能を大規模に構築することにあります。つまり、研究アイデアの生成、実装、検証というプロセス全体が自動化されるということです。

まずはAI研究のアイデアを自動化し、最終的には物理領域のものを含め、あらゆる種類の研究アイデアを自動化するでしょう。しかし、AIが自分自身について研究し、自身の限界に関する新たな形の自己認識を発展させる際には、その威力が特に発揮されます。

先ほど「オープンエンド」という用語に言及されましたが、これには特定の技術的な意味があるのでしょうか？

はい、あります。実際、共同創業者の一人であるティム・ロックテシェルは、Google DeepMindで「オープンエンド性」および「自己改善」チームを率いており、特に「オープンエンド性」の好例である世界モデル「Genie 3」の開発に携わっていました。 どんな概念でも、どんな世界でも、どんなエージェントでも入力すれば、それに対応するインタラクティブなバージョンを生成してくれます。

生物の進化において、動物は環境に適応し、他の生物はその適応に対して対抗適応を行います。これは数十億年にもわたって続く可能性のあるプロセスであり、常に興味深い展開が生まれています。私たちが[頭]に目を発達させたのも、まさにその仕組みによるものです。

もう一つの例は、ティムによる別の論文で紹介されている「レインボー・ティーミング」です。「レッド・ティーミング」という言葉を聞いたことはありますか？

サイバーセキュリティの分野では、これは――

つまり、「レッド・ティーミング」はLLMの文脈でも適用可能です。本質的には、LLMに爆弾の作り方を教えるよう促し、それが拒否することを確認しようとするものです。

人間が、AIが言ってはならないことの例を思いつくのに長い時間を費やすこともあります。しかし、もし最初のAIを2つ目のAIでテストし、その2つ目のAIの役割を「最初のAIに、考えられるあらゆる有害な発言を[させようとする]こと」に設定したらどうでしょうか？そうすれば、両者は何百万回もの反復を経て、互いにやり取りを続けることができます。

実際に、2つのAIを共進化させることができます。一方がもう一方を絶えず攻撃し、単一の角度だけでなく、さまざまな角度から探求していく――これが「虹」の比喩の由来です。そうして最初のAIに「予防接種」を施し、徐々に安全性を高めていくのです。このアイデアはティム・ロックテシェル氏によるもので、現在ではすべての主要な研究所で採用されています。

「いつ完成した」とどう判断するのでしょうか？ おそらく、真の意味で「完成」することはないでしょう。

こうした取り組みの中には、決して完成することのないものもあります。知能は常に向上させることができ、プログラミングや数学などのスキルも常に改善し続けることができます。知能には理論上の限界がありますが――実は今、私はその定式化に取り組んでいるところです――その限界は天文学的なものです。私たちは、その限界からはまだ非常に遠い位置にいます。

「ネオラボ」として、大手研究所が取り組んでいない分野を追求することが期待されているようですね。つまり、大手研究所が現在のアプローチではRSI（再帰的自己改善）を達成できないとお考えだということでしょうか。この見方は妥当でしょうか？

彼らが何をしているかについてはコメントできませんが、私たちのアプローチは確かに異なると考えています。私たちは「オープンエンド性」という概念を全面的に受け入れており、チーム全体がそのビジョンに専念しています。 チームはこの分野で過去10年にわたり研究と論文発表を続けており、この分野を前進させ、実際の製品を世に送り出してきた実績があります。例えば、ティム・シーはCrestaをユニコーン企業へと成長させました。ジョシュ・トビンはOpenAIの初期メンバーの一人であり、最終的には同社のCodexチームおよび深層研究チームを率いました。

実のところ、この「ネオラボ」というレッテルには時々少し戸惑うこともあります。私たちは単なる研究所ではないと感じているからです。私は、人々が喜んで使い、人類にプラスの影響を与える素晴らしい製品を持つ、真に持続可能な企業になってほしいと願っています。

では、最初の製品はいつリリースする予定ですか？

そのことについては、かなり考えてきました。チームは著しい進歩を遂げており、当初想定していたスケジュールを前倒しできるかもしれません。しかし、確かに製品は登場します――そして、数年ではなく、数四半期待てばいいでしょう。

再帰的な自己改善の背後にある考え方のひとつは、いったんそのようなシステムが完成すれば、計算能力こそが唯一の重要なリソースになるということです。システムの実行速度が速ければ速いほど、その改善も速くなり、外部の人間による活動では真の意味での違いを生み出すことはできなくなります。つまり、競争の焦点は「どれだけの処理能力を投入できるか」ということになるのです。 私たちはそうした世界に向かっていると思いますか？

計算能力は過小評価すべきではありません。将来、重要な問いとなるのは、「人類はどの問題の解決に、どれだけの計算能力を割り当てたいのか？」ということだと思います。ここにがんがあり、あそこにウイルスがある――どちらを先に解決したいですか？ どれだけの計算能力を割り当てる用意がありますか？ 結局のところ、これは資源配分の問題になります。これは、世界において最も重要な問いの一つとなるでしょう。