AIレース：猛スピードと安全性の両立は可能か？

OpenAIの研究者が競合他社に向けたAIの安全性に関する批判は、業界のより深い闘い、つまり自分自身との闘いを明らかにしている。

その発端は、現在休職中でOpenAIで安全性に取り組んでいるハーバード大学のボアズ・バラック教授が、xAIのGrokモデルのリリースを "完全に無責任 "と呼んだことだった。彼の批判は、見出しを飾るようなふざけた行為についてではなく、むしろ欠けていたもの、つまり、公開システムカード、詳細な安全性評価、そして脆弱な業界規範となっている透明性の基本的な成果物についてだった。

これは明確で必要な行動への呼びかけだった。しかし、OpenAIの元エンジニア、カルヴィン・フレンチ・オーウェンが退社からわずか3週間後に発表した率直な反省文は、物語の裏側を明らかにしている。

French-Owenの説明によれば、OpenAIの従業員のかなりの数が、ヘイトスピーチ、生物兵器、自傷行為といった非常に現実的な脅威に対処し、確かに安全性に注力している。しかし、彼は重要な洞察を提供している。"行われている仕事のほとんどは公表されていない "と彼は書いており、OpenAIは "本当はもっと公表すべきだ "と付け加えている。

ここで、責任ある行為者が無責任な行為者を叱責するという単純なストーリーは破綻する。その代わりに、業界の真のジレンマが露わになった。AI分野全体が、「安全性と速度のパラドックス」とでも呼ぶべきものにとらわれているのだ。猛スピードで進歩しようとする競争圧力と、人々の安全を守るために慎重に進まなければならないという倫理的要請との間の、深い構造的な対立である。

フレンチ・オーウェンによれば、オープンAIは制御されたカオスの状態で運営されている。同社はわずか1年で従業員を3倍の3,000人以上に増やした。この混沌としたエネルギーは、グーグルやアンソロピックと直接競合する人工知能に向けた「3頭立ての競争」と彼が表現する巨大なプレッシャーによってもたらされている。その結果、驚異的なスピードと同時に秘密主義という文化が生まれた。

オープンAIのコーディング・エージェントであるCodexの開発を考えてみよう。フレンチ・オーウェンはこのプロジェクトを「猛ダッシュ・スプリント」と表現し、小さなチームがわずか7週間でゼロから画期的な製品を作り上げたと説明する。

これはベロシティの教科書的な例であり、実現するために夜中まで、さらには週末まで働き続けた。これは、このようなスピードがもたらす人的コストである。このように急速に変化する環境では、AIの安全性研究を発表するためのゆっくりとした几帳面な作業が、レースから気をそらすように感じられても不思議ではないだろう。

このパラドックスは悪意から生じているのではなく、強力で相互に結びついた力の組み合わせから生じている。

一番にならなければならないという競争圧力があるのは明らかだ。また、これらの研究所の文化的DNAもある。研究所の起源は「科学者と鋳掛け屋」の非公式なコミュニティであり、体系的なプロセスよりも画期的なイノベーションを重視する。スピードやパフォーマンスを追跡するのは簡単だが、回避に成功した災害を数値化するのは非常に難しい。

今日の役員会議では、安全性という目に見えない成功よりも、進歩という目に見える指標がほとんど常に優位を占めるだろう。しかし、業界が前進するためには、責任の所在を明らかにすることから、ゲームのルールを根本的に変えることに焦点を移さなければならない。

私たちは、製品を発売することの意味を再定義し、セーフティケースの公表をコードそのものと同様に不可欠なものにしなければならない。どの企業も真摯に取り組むことで競争上不利にならないような業界全体の基準が必要であり、安全性をオプション的な機能から、共有され、譲れない基盤へと変えていかなければならない。

そして何よりも、安全部門だけでなく、すべてのエンジニアが責任感を感じられるような文化をAIラボ内に醸成しなければならない。

AGIを創造する競争は、誰が最初にそこに到達するかということだけでなく、どのように到達するかということでもある。最終的な勝者は、単に最速の企業ではなく、野心と責任がともに前進できる、そして前進しなければならないことを世界に示した企業となるだろう。

こちらもご覧ください：Anthropic、OpenAI、Google、xAIが軍事AI契約を獲得

AIとビッグデータについて、業界のリーダーからもっと学びたいですか？アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoをチェックしてください。この包括的なイベントは、Intelligent Automation Conference、BlockX、Digital Transformation Week、Cyber Security & Cloud Expoなど、他の主要なカンファレンスと併催されています。

テックフォージが提供するその他の企業向けテクノロジーイベントやウェビナーについては、こちらをご覧ください。