AIは「共同科学者」として準備ができていない、と専門家は言う

Googleは最近、科学者が仮説と研究計画を生み出すのを支援することを目的としたAIツールである「AI共科学者」を導入しました。同社はそれを新しい知識を発見するためのゲームチェンジャーとして宣伝しましたが、専門家はその現実の影響について懐疑的です。

「この予備的なツールは、興味深いものの、真剣に使用されているとは思わない」とMITのコンピュータービジョン研究者であるSara Beery氏は、TechCrunchとのインタビューで述べた。 「科学界からこのタイプの仮説生成システムの需要があるかどうかはわかりません。」

Googleは、AIが科学研究に革命をもたらすと主張する最新のハイテク大手です。 Openai CEOのSam Altmanは、今年の初めのエッセイで、「緊密な」AIは「科学的発見と革新を大幅に加速することができる」と書いています。同様に、人類のCEOであるDario Amodeiは、AIがほとんどの癌の治療法の開発に役立つと予測しています。

しかし、多くの研究者は、今日のAIツールはこれらの野心的な主張に及ばないと感じています。彼らは、GoogleのAI共同科学者のようなアプリケーションは物質よりも誇大宣伝に関するものであり、約束を裏付ける経験的データがないと主張しています。

たとえば、AIの共同科学者に関するGoogleのブログ投稿は、骨髄に影響を与える血液がんの一種である急性骨髄性白血病の薬物再利用の可能性について誇っていました。しかし、アリゾナ州のノースウエストメディカルセンター - トゥッソンの病理学者であるファビア・デュビクによると、結果は非常に曖昧で「合法的な科学者はそれらを真剣に受け止めません」。

「それは研究者にとって良い出発点かもしれませんが、詳細の欠如は気になり、それを信頼するように貸すことはありません」とDubykはTechCrunchに語った。 「提供された情報の欠如は、これが本当に役立つかどうかを理解するのが本当に難しくなります。」

Googleが他の人が結果を再現するのに十分な詳細を提供せずにAIのブレークスルーを促進したとして科学コミュニティから批判に直面したのはこれが初めてではありません。

2020年に、Googleは、乳房腫瘍を検出するように訓練されたAIシステムの1つが、人間の放射線科医を上回ると主張しました。しかし、ハーバード大学とスタンフォード大学の研究者は、Googleの研究に詳細な方法とコードの欠如が「科学的価値を損なう」と主張して、本質的に反論を発表しました。

科学者はまた、材料工学などの分野でのAIツールの制限を軽視しているとGoogleを批判しています。 2023年、同社は、AIシステムであるGnomeの助けを借りて、約40の「新しい材料」が合成されたと主張しました。しかし、独立した分析では、これらの材料はどれも実際には新しいものではないことがわかりました。

TechCrunchとのインタビューで、Rochester Institute of Technologyのソフトウェア工学の助教授であるAshique Khudabukhsh氏は、次のように述べています。 「AIは、制御された環境ではしばしばうまく機能しますが、大規模に適用すると失敗する可能性があります。」

複雑なプロセス

科学的発見を支援するためのAIツールの開発は、作品にレンチを投げる可能性のあるすべての要因を予測するのが難しいため、難しいです。 AIは、可能性の膨大なリストをふるいにかけるのに役立ちますが、大きなブレークスルーにつながるような創造的な問題解決を処理できるかどうかはあまり明確ではありません。

「mRNAワクチンの開発のような最も重要な科学的進歩のいくつかは、懐疑に直面した人間の直観と忍耐によって駆動されていることを歴史を通じて見てきました」とクダブフシュは言いました。 「AIは、今日のように、それを再現するのに適していないかもしれません。」

日本のSony Computer Science LaboratoriesのAI研究者であるLana Sinapayenは、GoogleのAI共同科学者のようなツールが科学的研究の間違った側面に焦点を当てていると考えています。

Sinapayenは、新しい学術文献を要約したり、助成金申請書を書式したりするなど、退屈なタスクを自動化できるAIの価値を見ています。しかし、彼女は、多くの研究者が知的にやりがいがあると感じるタスクである仮説を生成するAIの共同科学者に対する需要はほとんどないと主張しています。

「私も含めて、多くの科学者にとって、仮説を生成することは仕事の中で最も楽しい部分です」とシナパイエンはTechCrunchに語った。 「なぜ私は自分の楽しみをコンピューターに外注し、それから自分自身を行うための努力だけを残したいのですか？一般的に、多くの生成的なAIの研究者は、なぜ人間が彼らがすることをするのか誤解しているように見えます。

Beeryは、科学プロセスの最も厳しい部分は、現在のAIシステムが苦労している仮説をテストするために研究を設計および実施することであることが多いことを指摘しました。 AIは実験を物理的に行うことができず、データが不足している問題に苦しんでいることがよくあります。

「ほとんどの科学は完全に事実上行うことはできません。多くの場合、新しいデータを収集したり、ラボで実験を行ったりするなど、物理的な科学プロセスの重要な要素があります」とBeery氏は言います。 「GoogleのAI共同科学者のようなシステムの大きな制限の1つは、その使いやすさを確実に制限することです。これは、システムと特定の研究目標、過去の仕事、スキルセット、およびアクセスできるリソースを使用して、ラボと研究者に関するコンテキストです。」

AIがリスクがあります

AIの技術的な制限とリスクは、誤った情報を「幻覚」したり生成したりする傾向があり、科学者が深刻な仕事のためにそれに依存することに慎重にします。

Khudabukhshは、AIツールが進歩を進めるのではなく、ノイズで科学文献をあふれさせることになる可能性があることを心配しています。

それはすでに起こっています。最近の研究では、AIに生成された「ジャンクサイエンス」がGoogle Scholar、Googleの学術文献の無料検索エンジンにあふれていることがわかりました。

「慎重に監視されていないとしても、AIに生成された研究は、科学的分野に低品質または誤解を招く研究であふれ、ピアレビュープロセスを圧倒する可能性があります」とKhudabukhsh氏は述べています。 「圧倒されたピアレビュープロセスは、トップカンファレンスが提出物の指数関数的な増加を見たコンピューターサイエンスのような分野では、すでに課題です。」

よく設計された研究でさえ、AIの不正行為によって妥協される可能性がある、とシナパエンは警告した。彼女は、文献のレビューと統合を支援できるツールのアイデアを高く評価していますが、彼女は今日のAIがその仕事を確実に行うことを信頼していません。

「これらは、さまざまな既存のツールが主張していることですが、それらは私が個人的に現在のAIに任せる仕事ではありません」とシナパイエンは言いました。彼女はまた、AIシステムの訓練方法と彼らが消費するエネルギーについて懸念を提起しました。 「たとえすべての倫理的問題が解決されたとしても、現在のAIは、私が自分の作業を何らかの形で出力に基づくほど信頼できないだけです。」