AI Power Surge：人類のCEOが人種を理解するよう警告する

パリでのAIアクションサミットが終了した直後、Anthropicの共同設立者兼CEOであるDario Amodeiは抑制されませんでした。彼はこのイベントを「機会を逃した」と呼び、AI Techがどれだけ速く動いているかを考慮して、いくつかの重要な問題に対する焦点と緊急性を高める必要があると強調しました。彼は火曜日に発表された声明でこれらの考えを共有しました。

人類は、パリでの開発者中心のイベントのためにフランスのスタートアップダストと協力しました。そこでは、TechCrunchがステージでAmodeiとチャットしました。彼は自分の視点を共有し、AIの革新とガバナンスへのバランスのとれたアプローチを求め、極端な楽観主義と厳しい批判の両方を避けました。

かつて神経科学者だったアモデイは、「私は基本的に生計のために本物の脳の中を探していました。そして今、私たちは生計のために人工の脳を探しています。しかし、彼はまた、それが人種だと指摘しました。 「それはモデルをより強力にすることの間の競争であり、それは私たちにとって信じられないほど速く、他の人にとっては信じられないほど速いです。あなたは本当に遅くなることはできません。...私たちの理解は、物事を構築する能力に追いつく必要があります。それが唯一の方法だと思います」と彼は付け加えました。

英国のブレッチリーでの最初のAIサミット以来、AIガバナンスに関する会話は、現在の地政学的な気候の影響を受けて、大きく変わりました。 AI Action Summitで話しているJD Vance米国副大統領は、「数年前に会議のタイトルであったAIの安全について話すために今朝ここにいない。私はAIの機会について話すためにここにいる」と述べた。

しかし、Amodeiは、安全性と機会の間のギャップを埋めようとしています。彼は、安全にもっと集中することが実際に機会になる可能性があると考えています。 「元のサミットである英国のブレッチリー・サミットでは、さまざまなリスクのテストと測定に関する多くの議論がありました。そして、これらのことがテクノロジーをまったく減速したとは思わない」と彼は人類のイベントで述べた。 「どちらかといえば、この種の測定を行うことで、私たちのモデルをよりよく理解することができました。

安全性を強調したとしても、Amodeiは、人類がフロンティアAIモデルを構築することに依然としてすべてになっていることを明らかにしました。 「私は約束を減らすために何もしたくありません。私たちは、人々が建設できるモデルを毎日提供しており、驚くべきことをするために使用されています。そして、私たちは間違いなくそれをやめるべきではありません」と彼は言いました。後で、彼は、「人々がリスクについて多くのことを話しているとき、私はちょっとイライラし、「ああ、誰もこのテクノロジーがどれほど素晴らしいかを本当にレイアウトする良い仕事をしていない」と言いました。」

このトピックが中国のLLMメーカーのDeepseekの最近のモデルに目を向けたとき、Amodeiは彼らの業績を軽視し、公共の反応を「無機」と呼びました。彼は、「正直なところ、私の反応は非常に少なかった。私たちは12月にDeepseek R1の基本モデルであるV3を見たことがありました。それは印象的なモデルでした。彼の注意を引いたのは、モデルがGoogle、Openai、人類のような米国の通常の「3つまたは4つのフロンティアラボ」から来ていないということでした。彼は、技術を支配する権威主義政府について懸念を表明した。 Deepseekの主張されたトレーニング費用に関しては、彼はそれらを「正確ではなく、事実に基づいていない」と却下しました。

Amodeiはイベントで新しいモデルを発表しませんでしたが、彼は推論機能が強化された今後のリリースをほのめかしました。 「私たちは一般的に、より良い差別化された推論モデルを自分で考えようとしていることに焦点を当てています。十分な能力があることを確認し、モデルがより賢くなり、安全性を心配することを心配しています」と彼は言いました。

人類は、モデル選択の課題にも取り組んでいます。たとえば、ChatGpt Plusユーザーの場合、次のメッセージに使用するモデルを決定するのは難しい場合があります。

Amodeiは、通常のモデルと推論モデルの区別に疑問を呈しました。 「私たちは、通常のモデルがあり、推論モデルがあるという考えに少し困惑しており、それらは互いに異なるものです」と彼は言いました。 「私があなたと話している場合、あなたは2つの脳を持っていないので、そのうちの1つはすぐに反応し、同様に、もう1つはより長い時間を待ちます。」

彼は、Claude 3.5 SonnetやGPT-4Oなどの事前に訓練されたモデルと、OpenaiのO1やDeepseekのR1などのチェーンオブサベート（COT）を生成できる強化学習で訓練されたモデルとの間に、よりスムーズな移行が必要だと考えています。 「これらは1つの継続的なエンティティの一部として存在するはずだと思います。そして、私たちはまだそこにいないかもしれませんが、人類は本当にその方向に物事を動かしたいと思っています」とAmodeiは言いました。 「私たちは、それから事前に訓練されたモデルへのよりスムーズな移行をする必要があります。

人類のようなAI企業はより良いモデルを押し出し続けているため、Amodeiは業界全体の混乱の大きな可能性を見ています。 「私たちはいくつかの製薬会社と協力してクロードを使用して臨床研究を書いており、12週間から3日間の臨床研究報告書を書くのにかかる時間を短縮することができました」と彼は言いました。

彼は、法律、財務、保険、生産性、ソフトウェア、エネルギーなどのセクター全体のAIアプリケーションにおける「破壊的なイノベーションのルネッサンス」を想定しています。 「基本的には、AIアプリケーション分野で破壊的な革新のルネッサンスがあるだろうと思います。そして、私たちはそれを助けたいと思っています。

パリでの人工知能アクションサミットの完全な報道をご覧ください。

TechCrunchにはAIに焦点を当てたニュースレターがあります！ここでサインアップして、毎週水曜日に受信トレイで入手してください。