AIに生成された紙がピアレビューに合格する、とサカナは主張していますが、詳細は微妙です

日本のAIスタートアップSakanaは最近、そのAIシステム「The AI Scientist-v2」が、査読付きの科学的出版物を最初に生成したと主張し、話題を呼んだ。しかし、あまり興奮する前に考慮すべき重要な詳細がいくつかある。

科学におけるAIの役割についての議論が熱を帯びている。一部の研究者は、AIが「共同科学者」として準備ができていないと考える一方で、可能性を見出しつつもまだ初期段階にあると認識する研究者もいる。Sakanaは後者のグループに属する。

同社はThe AI Scientist-v2を使用して、ICLRという高く評価されているAI会議のワークショップに提出する論文を作成した。Sakanaはブリティッシュコロンビア大学およびオックスフォード大学と協力して、このワークショップにAIが生成した3つの論文を提出した。AIは仮説から実験、コード、データ分析、視覚化、そしてタイトルまで、すべてを担当した。

「ワークショップの概要と説明をAIに提供することで、研究アイデアを生成した」と、Sakanaの研究科学者であり創設メンバーであるRobert Langeは、TechCrunchにメールで語った。「これにより、生成された論文がテーマに沿った適切な提出物となるようにした。」

3つの論文のうち1つがICLRワークショップで受理された。その論文は、AIモデルのトレーニング技術を批判することに焦点を当てていた。しかし、SakanaはICLRの慣習に対する透明性と敬意を理由に、論文が公開される前に取り下げた。

しかし、まだ過度に興奮するのはやめよう。Sakanaはブログ投稿で、AIが「恥ずかしい」引用エラーを犯したと認めた。例えば、ある手法を1997年のオリジナル作品ではなく2016年の論文に帰属させるなどだ。

また、この論文は他の査読付き出版物ほど厳密な精査を受けなかった。初期の査読後に取り下げられたため、ワークショップ主催者による「メタレビュー」を受けることがなく、却下された可能性もあった。

もう一つ考慮すべき点は、会議のワークショップはメイントラックに比べて受理率が高いことが多いということだ。Sakanaはブログ投稿でこれを認め、AI生成の研究はいずれもICLRのメイントラックに対する内部基準を満たさなかったと述べた。

アルバータ大学のAI研究者で助教授のMatthew Guzdialは、Sakanaの結果を「やや誤解を招く」と呼んだ。

「Sakanaのメンバーは、生成された論文の中からいくつかを選び、受理される可能性があると人間の判断で選んだ」と彼はメールで述べた。「これは、AI単独で科学的進歩を生み出せるのではなく、人間とAIが一緒になって効果を発揮できることを示していると思う。」

キングス・カレッジ・ロンドンのAI専門研究フェローであるMike Cookは、査読者とワークショップの厳密さに疑問を呈した。

「このような新しいワークショップは、若い研究者によってレビューされることが多い」と彼はTechCrunchに語った。「また、このワークショップは否定的な結果や困難について扱うもので、それは素晴らしいし、私も似たようなワークショップを開催したことがあるが、AIが失敗について説得力のある文章を書くのは比較的簡単だと言える。」

Cookは、AIが人間らしい文章を書くのが得意であるため、査読を通過することに驚きはないと述べた。彼は、部分的にAIが生成した論文がジャーナルの査読を通過することは新しいことではなく、科学界にとって倫理的な問題を提起すると指摘した。

AIの技術的問題、例えば「ハルシネーション（幻覚）」の傾向は、多くの科学者が真剣な仕事に使うことに慎重になる理由だ。また、AIが科学的文献にノイズを追加するだけで、知識の進歩に貢献しないのではないかという懸念もある。

「Sakanaの結果が、AIが実験を設計・実施する能力についてなのか、それともAIがすでに得意である人間にアイデアを売り込む能力についてなのか、自問する必要がある」とCookは述べた。「査読を通過することと、分野に知識を貢献することには違いがある。」

Sakanaの功績として、彼らはAIが画期的または特に新規な科学的成果を生み出せると主張していない。彼らの目標は「AI生成研究の質を調査する」ことと、「AI生成科学に関する規範」の必要性を強調することだった。

「[AI生成の]科学が偏見を避けるためにまずその価値で判断されるべきかという難しい質問がある」と同社は書いた。「今後、研究コミュニティとこの技術の現状について意見を交換し続け、将来的に査読を通過することだけを目的として科学的な査読プロセスの意味を大きく損なう状況に発展しないようにする。」