AIサミットは機会を逃した、と人類のCEOは言います

火曜日に発表された声明で、AIスタートアップAnthropicのCEOであるダリオ・アモデイは、今週パリで開催されたAIアクションサミットに失望を表明し、「機会を逃した」と評した。彼はAI業界と政府関係者に対し、より迅速かつ明確に行動するよう求めた。

「パリでのAIアクションサミットに参加でき、フランス政府がAI企業、研究者、政策立案者を世界的に結集させたことを称賛します」とアモデイは述べた。「しかし、主要な課題に対する緊急性と焦点は、技術の急速な進歩に追いついていません。」

AIガバナンスに関する合意形成を目指す一連のカンファレンスの一環であるこのサミットに対するアモデイの批判は、週初めにイベントを批判した数人の学者の意見と共鳴した。ある学者はTransformerに対し、米国と英国が署名しなかったサミットの約束は、基本的には「空虚な約束に包まれた決まり文句」だと述べた。

カンファレンスでは、米国副大統領JDバンスが全く異なる視点を示し、ヨーロッパが提案するAIに対する過度に制限的な規制を批判した。彼はまた、コンテンツモデレーションに焦点を当てたカンファレンスの姿勢に異議を唱え、約束に含まれる「持続可能」や「包括的」という言葉を「権威主義的検閲」の隠れた試みとして退けた。

アモデイはAIの急速な進化を強調し、適切に規制されない場合の壊滅的な結果を警告した。「AIシステムを、非常に知的な存在が集まる新たな国家がグローバルな舞台に登場したと想像してください」と彼は説明した。「高度なAIは、特に非国家主体による悪用から、グローバルな安全保障に深刻な脅威をもたらします…民主国家がAI開発をリードし、権威主義体制がAIを通じて世界的な軍事優位性を獲得するのを防ぐことが極めて重要です。」

彼は政府に対し、AIの使用を積極的に監視し、高度なAI技術から公平な経済的利益を確保する政策を導入するよう促した。アモデイはまた、AIの安全性とセキュリティに関する政府の透明性の向上と、AIリスクを評価する戦略の必要性を強調した。

この視点は、OpenAIの立場と対照的で、OpenAIはパリのカンファレンスが「すべての人にとって責任ある有益なAI開発に向けたもう一つの重要なマイルストーン」と自信を示した。

Anthropicは歴史的にAI規制に対してよりオープンである。アモデイは以前、規制されていないAIが経済、社会、セキュリティに及ぼす潜在的な悪影響について懸念を表明していた。Anthropicは、昨年秋にガビン・ニューサム知事によって拒否権が発動された包括的なAI規制法案であるカリフォルニア州のSB 1047を控えめに支持していた。これに対し、OpenAIは同法案に反対した。

ただし、Anthropicの姿勢が純粋に利他的ではない点に注意が必要だ。OpenAIのCEOサム・アルトマンの最近の著作と同様に、アモデイは高度なAIの利益が広く公平に分配される方法について具体的な提案を示さなかった。

パリでの人工知能アクションサミットの包括的な報道をお読みください。