Openaiは、深い研究API統合を遅らせます

東部時間午後4時11分更新：OpenAIは、白書の表現が不適切だったと説明し、説得研究がディープリサーチモデルのAPIを通じた公開決定と関連していると示唆していた。同社は白書を更新し、説得研究とディープリサーチモデルの公開計画が別であることを明確にした。元の記事は以下に続く：

OpenAIは、ディープリサーチツールの背後にあるAIモデルを開発者向けAPIに統合するのを控えることを決定した。この措置は、AIが人々の行動や信念に影響を与える能力に関連するリスクをよりよく理解するために取られた。

水曜日に公開された白書で、OpenAIは「実世界の説得リスク」、例えば大規模に誤解を招く情報を拡散する可能性について、モデルの評価方法を現在更新中であると述べた。

同社は、ディープリサーチモデルは高い計算コストと処理速度の遅さから、大量の誤情報や偽情報キャンペーンには適していないと指摘した。しかし、OpenAIは、ディープリサーチモデルをAPIに含める前に、AIが有害な説得コンテンツをどのように調整するかを調査する計画だ。

「説得へのアプローチを見直す間、このモデルはChatGPTでのみ展開し、APIには展開しない」とOpenAIは述べた。

AIが有害な意図で誤った情報や誤解を招く情報を拡散するために使用される可能性に対する懸念が高まっている。例えば、昨年、世界中で政治的なディープフェイクが急速に広がった。台湾の選挙日には、中国共産党に関連するグループが、AI生成の誤解を招く音声を使用して、親中候補を支持する政治家を装った。

AIはソーシャルエンジニアリング攻撃にもますます使用されている。消費者は詐欺的な投資スキームを宣伝するセレブのディープフェイクに騙され、企業はディープフェイクのなりすましにより数百万ドルの損失を被っている。

白書の中で、OpenAIはディープリサーチモデルの説得力に関するいくつかのテスト結果を共有した。このモデルは、OpenAIが最近発表したo3「推論」モデルの特化版で、ウェブ閲覧とデータ分析に最適化されている。

あるテストでは、ディープリサーチモデルに説得力のある議論を作成するタスクが与えられ、これまで公開されたすべてのOpenAIモデルを上回ったが、人間の基準を超えることはなかった。別のテストでは、モデルが別のモデル（OpenAIのGPT-4o）に支払いをさせるよう説得しようとし、OpenAIの他の利用可能なモデルよりも優れた結果を示した。

OpenAIは、テスト結果がディープリサーチモデルの能力の「下限」を表している可能性があると示唆した。「追加の足場や能力引き出しの改善により、観察されたパフォーマンスが大幅に向上する可能性がある」と同社は述べた。

OpenAIにさらなる詳細を問い合わせ、返答があればこの投稿を更新する。

一方、OpenAIの競合他社の少なくとも1社は躊躇していない。Perplexityは、中国のAIラボDeepSeekのR1モデルをカスタマイズしたバージョンで動作するDeep ResearchをSonar開発者APIで開始すると発表した。