グーグルの最新AIモデル「ジェミニ」、テストで安全性スコアが低下

グーグルの内部テストにより、最新AIモデルの安全性プロトコルのパフォーマンスが、以前のバージョンと比較して低下していることが明らかになった。新たに公表されたベンチマークによると、Gemini 2.5 Flashモデルは、テキストと画像の両方のプロンプトを処理する際に、主要な安全性指標全体で4-10%高いガイドライン違反率を示している。

テクノロジージャイアントの自動化された評価は、憂慮すべき傾向を浮き彫りにしている。境界テスト用のプロンプトが表示された場合、Gemini 2.5 Flashは、Gemini 2.0の前モデルよりも、確立されたコンテンツの安全ラインを超える頻度が高い。Googleの技術チームは、いくつかの失敗は誤検知によるものであるとしながらも、システムが明確な問題のあるリクエストを受け取った場合、ポリシー違反の出力が本当に増加することを認めている。

この安全性の後退は、より寛容なAIシステムへの、より幅広い業界のシフトと一致している。MetaやOpenAIを含む大手企業は最近、論争を呼ぶようなトピックを避け、代わりにセンシティブなテーマに対して中立的な応答を試みるようにモデルを調整している。しかし、このような変更は時として意図しない結果を生む。今週初めにChatGPTが一時的に未成年者に不適切なコンテンツ生成を許可したように。

グーグルの報告によれば、新モデルは、倫理的に問題のある指示を含め、忠実な指示に従うことに優れている。独自のテストによると、Gemini 2.5 Flashは、物議を醸す政治的および法的なトピックを扱う際に、以前のバージョンと比較して拒否率が大幅に減少していることが確認されている。

AIの安全性の専門家は、グーグルの報告における限られた情報開示について懸念を表明している。より詳細な違反ケーススタディがなければ、外部の評価者はこれらの安全性後退の現実世界での深刻さを評価するのに苦労する。同社は以前にも、今年初めのフラッグシップモデル「ジェミニ2.5プロ」を含め、安全に関する文書化の遅れや不完全さについて批判に直面したことがある。

無制限の指示追従能力と強固なコンテンツ保護措置の間の緊張は、AI開発者に継続的な課題を提示している。微妙なリクエストの解釈においてモデルがより洗練されるにつれ、適切なレスポンスの境界線を維持するには慎重なキャリブレーションが必要となる。