ワシントン州立大学の研究により、複雑な科学的判断におけるChatGPTの重大な矛盾が明らかになった

ワシントン州立大学(WSU)による最近の研究によると、ChatGPTは自信を持って回答する一方で、複雑な科学的な記述への対応は、まるで無作為に当てずっぽうで答えているかのようであることが明らかになった。この研究では、精度が限られているだけでなく、同じ質問に対して矛盾した回答が頻繁に返されることも指摘されている。
メスット・チチェク教授とそのチームは、2021年以降に発行されたビジネス系学術誌から719件の研究仮説を抽出し、それらの真偽を検証するためにモデルに繰り返し入力した。
ChatGPTの表面上の精度は約80%に見えるものの、無作為な推測の影響を考慮すると、その実際の性能は50%のコイン投げよりもわずか60%程度優れているに過ぎない。研究者らはこれを「低いD評価」と評した。 特に、虚偽の記述を特定する能力は著しく低く、虚偽の命題を正しく判定できたのはわずか16.4%にとどまった。
研究者らは各仮説をモデルに10回ずつ入力したところ、モデルが一貫した見解を維持するのに苦労していることが判明した:
回答の変動:約73%のケースで、モデルは10回の反復を通じて一貫した結論を維持した。
極端な矛盾:場合によっては、モデルが「真」と「偽」の回答を交互に返すこともあり、まったく同じプロンプトを使用しているにもかかわらず、半数が「真」、半数が「偽」という極端な事例も見られた。
この研究では、ユーザーはAIの流暢で説得力のある言葉に容易に惑わされやすいが、これは真の推論能力を示すものではないと指摘している。
真の理解の欠如:人間が世界や自身の発言を真に理解するのとは異なり、このモデルは記憶とパターンマッチングに依存している。
バージョンの進歩は限定的:テストの結果、更新されたChatGPT-5 mini(2025年にテスト実施)は、この特定のタスクにおいて以前のバージョンと同等のパフォーマンスを示し、著しい改善は見られなかった。
これらの知見に基づき、チチェク氏は経営幹部に対し、複雑な意思決定を行う際には高い懐疑心を保つよう助言している。生成AIを専門家の判断に取って代わる「権威」と見なすべきではなく、すべての出力を手動で検証しなければならない。組織は、従業員がAIツールの強みと限界の両方を理解できるよう研修を強化し、盲目的な信頼による意思決定のバイアスを防ぐべきである。
本研究は、AIの急速な発展にもかかわらず、この技術の深い論理的推論能力や証拠評価能力には依然として改善の余地があることを改めて示唆するものである。
関連記事
コアウェブバイタルを修正してSEOランキングを向上させる方法
動画と音声からテキストへの変換に最適なAIツール目次:はじめにWeet.io - 動画からテキストへの変換YouTubeの字幕と文字起こしFigo.com - 高速な動画からテキストへの変換Black Box - 動画からテキストへの変換のスクリーンショットYouTubeショート文字起こし長所および ### 短所動画からテキストへの変換結論よくある質問追加リソース記事: 上位10のツールで動画をテキストに変換する方法はじめに今日のデジタル環境において、動画をテキストに変換することは、コンテンツク
広州の小鹏人型ロボット工場が試作生産を開始、2026年の量産を見据える
小鵬の人間型ロボットは、広州の工場において小規模な試作生産段階に入りました。量産ラインは現在最終的な統合作業を進めており、本格製造へのカウントダウンが開始されたことを示しています。以前、小鵬グループの会長兼CEOである何小鹏氏は、ロボット部門の「CEO」の役割を担い、その商業化を監督・加速してきました。ロボット事業の内部動員計画によると、同社は2026年までに人間型ロボットの量産達成を目指しています。2027年からは、これらのロボットが小鵬のオフライン店舗やその他の商業施設に段階的に導入され、顧
ムスク、AI大手にモデルの相互テストと競合他社からの批判の受容を呼びかけ
9月15日のAll-Inサミットにおいて、世界で最も豊かな個人であるイーロン・マスクは、ビデオ経由でリモート参加した。人工知能(AI)について言及し、彼は主要なAI企業に対し、モデルを一般公開する前に相互にテストすることを求め、そのようなグローバルな枠組みを遅滞なく確立すべきだと強調した。マスクは、業界の自己規制を促進し、AI安全プロトコルに関する合意を迅速化するためには、「テストハーネス」アプローチが必要であると主張した。彼は、すべてのAI開発者が独自のツールを用いて競合他社のモデルを評価し
関連特集おすすめ
コメント (1)
0/500

ワシントン州立大学(WSU)による最近の研究によると、ChatGPTは自信を持って回答する一方で、複雑な科学的な記述への対応は、まるで無作為に当てずっぽうで答えているかのようであることが明らかになった。この研究では、精度が限られているだけでなく、同じ質問に対して矛盾した回答が頻繁に返されることも指摘されている。
メスット・チチェク教授とそのチームは、2021年以降に発行されたビジネス系学術誌から719件の研究仮説を抽出し、それらの真偽を検証するためにモデルに繰り返し入力した。
ChatGPTの表面上の精度は約80%に見えるものの、無作為な推測の影響を考慮すると、その実際の性能は50%のコイン投げよりもわずか60%程度優れているに過ぎない。研究者らはこれを「低いD評価」と評した。 特に、虚偽の記述を特定する能力は著しく低く、虚偽の命題を正しく判定できたのはわずか16.4%にとどまった。
研究者らは各仮説をモデルに10回ずつ入力したところ、モデルが一貫した見解を維持するのに苦労していることが判明した:
回答の変動:約73%のケースで、モデルは10回の反復を通じて一貫した結論を維持した。
極端な矛盾:場合によっては、モデルが「真」と「偽」の回答を交互に返すこともあり、まったく同じプロンプトを使用しているにもかかわらず、半数が「真」、半数が「偽」という極端な事例も見られた。
この研究では、ユーザーはAIの流暢で説得力のある言葉に容易に惑わされやすいが、これは真の推論能力を示すものではないと指摘している。
真の理解の欠如:人間が世界や自身の発言を真に理解するのとは異なり、このモデルは記憶とパターンマッチングに依存している。
バージョンの進歩は限定的:テストの結果、更新されたChatGPT-5 mini(2025年にテスト実施)は、この特定のタスクにおいて以前のバージョンと同等のパフォーマンスを示し、著しい改善は見られなかった。
これらの知見に基づき、チチェク氏は経営幹部に対し、複雑な意思決定を行う際には高い懐疑心を保つよう助言している。生成AIを専門家の判断に取って代わる「権威」と見なすべきではなく、すべての出力を手動で検証しなければならない。組織は、従業員がAIツールの強みと限界の両方を理解できるよう研修を強化し、盲目的な信頼による意思決定のバイアスを防ぐべきである。
本研究は、AIの急速な発展にもかかわらず、この技術の深い論理的推論能力や証拠評価能力には依然として改善の余地があることを改めて示唆するものである。
コアウェブバイタルを修正してSEOランキングを向上させる方法
動画と音声からテキストへの変換に最適なAIツール目次:はじめにWeet.io - 動画からテキストへの変換YouTubeの字幕と文字起こしFigo.com - 高速な動画からテキストへの変換Black Box - 動画からテキストへの変換のスクリーンショットYouTubeショート文字起こし長所および ### 短所動画からテキストへの変換結論よくある質問追加リソース記事: 上位10のツールで動画をテキストに変換する方法はじめに今日のデジタル環境において、動画をテキストに変換することは、コンテンツク
広州の小鹏人型ロボット工場が試作生産を開始、2026年の量産を見据える
小鵬の人間型ロボットは、広州の工場において小規模な試作生産段階に入りました。量産ラインは現在最終的な統合作業を進めており、本格製造へのカウントダウンが開始されたことを示しています。以前、小鵬グループの会長兼CEOである何小鹏氏は、ロボット部門の「CEO」の役割を担い、その商業化を監督・加速してきました。ロボット事業の内部動員計画によると、同社は2026年までに人間型ロボットの量産達成を目指しています。2027年からは、これらのロボットが小鵬のオフライン店舗やその他の商業施設に段階的に導入され、顧
ムスク、AI大手にモデルの相互テストと競合他社からの批判の受容を呼びかけ
9月15日のAll-Inサミットにおいて、世界で最も豊かな個人であるイーロン・マスクは、ビデオ経由でリモート参加した。人工知能(AI)について言及し、彼は主要なAI企業に対し、モデルを一般公開する前に相互にテストすることを求め、そのようなグローバルな枠組みを遅滞なく確立すべきだと強調した。マスクは、業界の自己規制を促進し、AI安全プロトコルに関する合意を迅速化するためには、「テストハーネス」アプローチが必要であると主張した。彼は、すべてのAI開発者が独自のツールを用いて競合他社のモデルを評価し





家






