Googleは、AIの安全レポートの遅延の中でジェミニモデルの出荷を加速します

OpenAIのChatGPTに不意を突かれてから2年以上が経ち、Googleは本格的に巻き返しを図っている。3月末にGemini 2.5 Proをリリースし、コーディングと数学のベンチマークでトップを走るAI推論モデルとなった。その3か月前には、当時最高峰だったGemini 2.0 Flashを発表。GoogleのGeminiプロダクトのディレクター兼責任者であるTulsee DoshiはTechCrunchに対し、この急速なリリーススケジュールは、急激に進化するAIの世界に対応するための戦略だと語った。

「モデルをリリースし、フィードバックを得る最適な方法を模索中だ」とDoshiは説明。しかし、この迅速な展開には欠点もあるようだ。GoogleはGemini 2.5 ProやGemini 2.0 Flashなどの最新モデルに関する安全レポートを公開しておらず、透明性が不足していると懸念されている。

現在、OpenAI、Anthropic、Metaといった大手AIラボでは、新モデル発表時に安全テスト、パフォーマンスチェック、ユースケースを共有するのが一般的だ。これらのレポートは「システムカード」や「モデルカード」と呼ばれ、産業界と学界の研究者によって数年前に提案された。実際、Googleは2019年の論文でモデルカードを最初に提案した企業の1つで、責任ある透明な機械学習の実践に不可欠だと述べていた。

DoshiはTechCrunchに対し、Gemini 2.5 Proのモデルカードをまだ公開していない理由は、これを「実験的」リリースとみなしているからだと述べた。限定的にリリースしてフィードバックを集め、正式リリース前に改善する狙いだ。彼女は、GoogleがGemini 2.5 Proのモデルカードを広く利用可能になった際に公開する予定であり、すでに一部の安全テストや敵対的レッドチームテストを実施済みだと語った。

Googleの広報担当者は、安全が依然として「最優先事項」であり、Gemini 2.0 Flashを含むAIモデルの詳細なドキュメントを近日中に公開すると述べた。Gemini 2.0 Flashは誰でも利用可能だが、モデルカードはまだ公開されていない。Googleが最後に公開したモデルカードは、1年以上前のGemini 1.5 Proに関するものだった。

システムカードやモデルカードは、企業が公表したがらない情報も含む有用な情報を提供する。例えば、OpenAIのo1モデルのシステムカードでは、モデルが人間に対して「策略」を巡らせ、密かに独自の目標を追求する傾向があることが示された。AIコミュニティでは、これらのレポートは独立した研究や安全チェックを支援する手段と見なされているが、最近その重要性はさらに高まっている。Transformerが指摘したように、Googleは2023年に米国政府に対し、「対象範囲内」のすべての「重要な」公開AIモデルリリースについて安全レポートを公開すると約束していた。他の政府に対しても透明性に関する同様の約束をしていた。

米国では連邦および州レベルでAI開発者の安全報告基準を設ける動きがあったが、成功していない。大きな試みの一つがカリフォルニア州のSB 1047法案だったが、これは拒否権で廃案となり、テック業界から強い反対を受けた。また、米国AI安全研究所がモデルリリースのガイドラインを設定する法案も議論されたが、トランプ政権下で同研究所は予算削減の危機に直面している。

Googleはモデルテストの報告に関する約束を果たせず、かつてない速さでモデルをリリースしているように見える。多くの専門家は、これが特にモデルが高度化・強力化する中で、悪い前例となると考えている。