aiは「サーバーではい」になると、顔のCSOを抱き締めると警告します

トーマス・ウルフ、Hugging Faceの共同創業者兼主任科学者(chief science officer)は、AIが科学を革命的に変える可能性について、他のAI企業の創業者たちがしばしば主張する大胆な見解とは対照的に、より慎重な視点を提供しています。Xで共有されたエッセイの中で、ウルフは、研究における大きな進歩がなければ、AIが単なる「サーバー上のイエスマン」になる可能性があるとの懸念を表明しました。彼は、現在のAI開発の軌跡では、ノーベル賞を受賞するような画期的な科学的成果に必要な、創造的で枠にとらわれない思考が可能なシステムを生み出せないと主張しています。
ウルフは、ニュートンやアインシュタインのような天才が、単に優秀な学生をスケールアップしたものだという考えに異議を唱えています。彼は、データセンターでそのような天才を再現するには、AIがすべての答えを知っているだけでなく、誰も考えつかなかった、またはあえて問わなかった質問を提起できる能力が必要だと考えています。この視点は、「超知能」AIが科学的発見を加速すると予測するOpenAIのCEOサム・アルトマンや、AIがほとんどの癌の治療法を見つけるのに役立つと予測するAnthropicのCEOダリオ・アモディの視点とは異なります。
ウルフの現在のAIに対する批判は、関連性のなかった事実をつなげて新しい知識を生み出す能力が欠けているという点です。膨大なインターネットデータにアクセスできるにもかかわらず、AIは主に既存の人間の知識のギャップを埋めるだけだとウルフは述べています。この見解は、元Googleエンジニアのフランソワ・ショレを含む他のAI専門家たちにも共有されており、彼らはAIが推論のパターンを記憶することはできても、新しい状況で新しい推論を生み出すのは難しいと主張しています。
ウルフは、AIラボが現在構築しているのは、真の革新に必要な科学的革命家ではなく、「非常に従順な学生」だと示唆しています。彼は、今日のAIシステムは、トレーニングデータに反する疑問を投げかけたり、アイデアを提案したりするよう設計されておらず、既知の質問に答えることに限定されていると指摘しています。ウルフは、確立された知識に挑戦し、「みんなくそくらえ」と言うようなAIが必要だと強調しています。たとえすべての証拠が逆を示していても、「もしみんながこれについて間違っていたら?」と問うことができるAIが必要だとしています。
彼は、問題の一部をAIの「評価危機」に帰しています。そこでは、システムの改善を測定するためのベンチマークが、明確で閉じた答えを持つ質問に焦点を当てがちです。これに対処するために、ウルフは、AI産業が大胆な反事実的アプローチを取る能力、わずかなヒントから一般的な提案を行う能力、そして新しい研究の道を開く可能性のある明白でない質問を問う能力を評価する方向にシフトすべきだと提案しています。
そのような基準を定義することの難しさを認めつつ、ウルフはそれが価値ある取り組みだと考えています。彼は、科学の本質は正しい質問を投げかけ、学んだ知識に挑戦することにあると強調しています。一般的な知識ですべての質問に答えることができるA+の学生ではなく、ウルフが求めるのは、他の人が見落としたものを見て、疑問を投げかけることができるBの学生だと主張しています。
関連記事
内部詳細が明かされた次世代ジェミニ:計算リソースの逼迫、開発チーム間で優先順位とリソース配分を巡り意見が割れた
報告によると、Googleの次世代Geminiモデルの発売は延期された。開発の優先順位とリソース配分をめぐる社内での意見の相違、限られた計算能力、複雑な承認手続きが重なり、2ヶ月の延期を余儀なくされた。独自開発のTPUチップを所有しているものの、モデルのトレーニング、Google Cloudサービス、多数の消費者向けおよび企業向けAIアプリケーションからの競合する需要により、Googleは計算資源の不足に直面している。上層部は現在、組織再編成を通じてこれらの部門間の対立に対処している。同時に、リ
OpenAI、成長鈍化への懸念を退け、複数の事業部門が加速していると表明
外部からの販売成長の鈍化や社内目標の未達に関する scrutiny に対応し、AI リーダーである OpenAI は 4 月 28 日(火曜日)、自信に満ちた声明を発表した。同社は、消費者向け製品とエンタープライズサービスが急速に進展しており、最近のビジネス減速に関する憶測を直接否定していると明らかにした。同社が「複数の社内目標を逸脱した」とする主張に対し、OpenAI はこれらの報道を「典型的なクリックベイト」と一蹴した。同社は、AI 統合に対する堅調なエンタープライズ需要を強調し、広告施策
アリババ・スーパーカップ:Qwen3.8-Max、強化されたコーディング機能とオフィスツールを搭載してデビュー
アリババは公式に、2.4兆パラメータを備えた次世代の基盤大規模モデル「Qwen3.8-Max」を発表しました。この重要なAIの進歩は、コーディングや専門的なオフィス業務といった中核領域において大幅なパフォーマンス向上をもたらし、堅牢な技術能力を示しています。権威あるArena大規模モデルランキングにおいて、Qwen3.8-Maxは目覚ましい結果を残し、AnthropicのClaudeシリーズに次ぐ順位で、業界リーダーの仲間入りを果たしました。このマイルストーンは、複雑なタスクの処理における国内
関連特集おすすめ
コメント (27)
0/500
Interesting perspective! While everyone's hyping AI as the next big thing in science, it's refreshing to hear someone point out the risks of it just becoming an echo chamber. Makes you wonder if we're building tools or just really advanced parrots 🦜. Still, hope researchers find a balance!
Interessanter Gedanke! Ein KI-System, das nur besteht, um allen zu gefallen - fast wie ein höflicher, aber unkritischer Assistent. Hoffentlich findet die Forschung Wege, kritisches Denken in diesen Systemen zu erhalten. 😅
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな!🤔💡
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!

トーマス・ウルフ、Hugging Faceの共同創業者兼主任科学者(chief science officer)は、AIが科学を革命的に変える可能性について、他のAI企業の創業者たちがしばしば主張する大胆な見解とは対照的に、より慎重な視点を提供しています。Xで共有されたエッセイの中で、ウルフは、研究における大きな進歩がなければ、AIが単なる「サーバー上のイエスマン」になる可能性があるとの懸念を表明しました。彼は、現在のAI開発の軌跡では、ノーベル賞を受賞するような画期的な科学的成果に必要な、創造的で枠にとらわれない思考が可能なシステムを生み出せないと主張しています。
ウルフは、ニュートンやアインシュタインのような天才が、単に優秀な学生をスケールアップしたものだという考えに異議を唱えています。彼は、データセンターでそのような天才を再現するには、AIがすべての答えを知っているだけでなく、誰も考えつかなかった、またはあえて問わなかった質問を提起できる能力が必要だと考えています。この視点は、「超知能」AIが科学的発見を加速すると予測するOpenAIのCEOサム・アルトマンや、AIがほとんどの癌の治療法を見つけるのに役立つと予測するAnthropicのCEOダリオ・アモディの視点とは異なります。
ウルフの現在のAIに対する批判は、関連性のなかった事実をつなげて新しい知識を生み出す能力が欠けているという点です。膨大なインターネットデータにアクセスできるにもかかわらず、AIは主に既存の人間の知識のギャップを埋めるだけだとウルフは述べています。この見解は、元Googleエンジニアのフランソワ・ショレを含む他のAI専門家たちにも共有されており、彼らはAIが推論のパターンを記憶することはできても、新しい状況で新しい推論を生み出すのは難しいと主張しています。
ウルフは、AIラボが現在構築しているのは、真の革新に必要な科学的革命家ではなく、「非常に従順な学生」だと示唆しています。彼は、今日のAIシステムは、トレーニングデータに反する疑問を投げかけたり、アイデアを提案したりするよう設計されておらず、既知の質問に答えることに限定されていると指摘しています。ウルフは、確立された知識に挑戦し、「みんなくそくらえ」と言うようなAIが必要だと強調しています。たとえすべての証拠が逆を示していても、「もしみんながこれについて間違っていたら?」と問うことができるAIが必要だとしています。
彼は、問題の一部をAIの「評価危機」に帰しています。そこでは、システムの改善を測定するためのベンチマークが、明確で閉じた答えを持つ質問に焦点を当てがちです。これに対処するために、ウルフは、AI産業が大胆な反事実的アプローチを取る能力、わずかなヒントから一般的な提案を行う能力、そして新しい研究の道を開く可能性のある明白でない質問を問う能力を評価する方向にシフトすべきだと提案しています。
そのような基準を定義することの難しさを認めつつ、ウルフはそれが価値ある取り組みだと考えています。彼は、科学の本質は正しい質問を投げかけ、学んだ知識に挑戦することにあると強調しています。一般的な知識ですべての質問に答えることができるA+の学生ではなく、ウルフが求めるのは、他の人が見落としたものを見て、疑問を投げかけることができるBの学生だと主張しています。
内部詳細が明かされた次世代ジェミニ:計算リソースの逼迫、開発チーム間で優先順位とリソース配分を巡り意見が割れた
報告によると、Googleの次世代Geminiモデルの発売は延期された。開発の優先順位とリソース配分をめぐる社内での意見の相違、限られた計算能力、複雑な承認手続きが重なり、2ヶ月の延期を余儀なくされた。独自開発のTPUチップを所有しているものの、モデルのトレーニング、Google Cloudサービス、多数の消費者向けおよび企業向けAIアプリケーションからの競合する需要により、Googleは計算資源の不足に直面している。上層部は現在、組織再編成を通じてこれらの部門間の対立に対処している。同時に、リ
OpenAI、成長鈍化への懸念を退け、複数の事業部門が加速していると表明
外部からの販売成長の鈍化や社内目標の未達に関する scrutiny に対応し、AI リーダーである OpenAI は 4 月 28 日(火曜日)、自信に満ちた声明を発表した。同社は、消費者向け製品とエンタープライズサービスが急速に進展しており、最近のビジネス減速に関する憶測を直接否定していると明らかにした。同社が「複数の社内目標を逸脱した」とする主張に対し、OpenAI はこれらの報道を「典型的なクリックベイト」と一蹴した。同社は、AI 統合に対する堅調なエンタープライズ需要を強調し、広告施策
アリババ・スーパーカップ:Qwen3.8-Max、強化されたコーディング機能とオフィスツールを搭載してデビュー
アリババは公式に、2.4兆パラメータを備えた次世代の基盤大規模モデル「Qwen3.8-Max」を発表しました。この重要なAIの進歩は、コーディングや専門的なオフィス業務といった中核領域において大幅なパフォーマンス向上をもたらし、堅牢な技術能力を示しています。権威あるArena大規模モデルランキングにおいて、Qwen3.8-Maxは目覚ましい結果を残し、AnthropicのClaudeシリーズに次ぐ順位で、業界リーダーの仲間入りを果たしました。このマイルストーンは、複雑なタスクの処理における国内
Interesting perspective! While everyone's hyping AI as the next big thing in science, it's refreshing to hear someone point out the risks of it just becoming an echo chamber. Makes you wonder if we're building tools or just really advanced parrots 🦜. Still, hope researchers find a balance!
Interessanter Gedanke! Ein KI-System, das nur besteht, um allen zu gefallen - fast wie ein höflicher, aber unkritischer Assistent. Hoffentlich findet die Forschung Wege, kritisches Denken in diesen Systemen zu erhalten. 😅
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな!🤔💡
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!





家






