AI成為“服務器上的人”，警告擁抱臉CSO
湯瑪斯·沃爾夫，Hugging Face 的共同創辦人兼首席科學官，對 AI 在科學革命中的潛力持較為謹慎的觀點，這與其他 AI 公司創辦人常提出的豪言壯語形成對比。在 X 上分享的一篇論文中，沃爾夫表達了對 AI 可能僅成為「伺服器上的應聲蟲」的擔憂，除非在研究上有重大突破。他認為，當前 AI 發展的軌跡無法產生具備創意、跳脫框架思考的系統，而這種思考能力是實現諾貝爾獎級別科學成就所需的。
沃爾夫質疑牛頓或愛因斯坦這樣的的天才僅僅是頂尖學生的放大版。他相信，要在數據中心複製這種天才，AI 不僅需要知道所有答案，還必須能夠提出無人考慮或敢於提出的問題。這一觀點與 OpenAI 執行長山姆·奧特曼（Sam Altman）設想的「超智能」AI 加速科學發現，以及 Anthropic 執行長達里奧·阿莫迪（Dario Amodei）預測 AI 可能有助於找到大多數癌症療法的看法不同。
沃爾夫對當前 AI 的批評是，它無法通過連接先前無關的事實來產生新知識。儘管 AI 可以訪問海量的互聯網數據，但根據沃爾夫的說法，AI 主要是在填補現有人類知識的空白。這種觀點得到其他 AI 專家，如前 Google 工程師弗朗索瓦·肖萊（François Chollet）的迴響，他們認為，雖然 AI 可以記憶推理模式，但在新情境中生成新推理時卻顯得掙扎。
沃爾夫建議，AI 實驗室目前正在打造「非常聽話的學生」，而不是科學革命所需的真正創新者。他指出，當今的 AI 系統並非設計來質疑或提出與訓練數據相矛盾的想法，這限制了它們只能回答已知的問題。沃爾夫強調需要一種能挑戰既有知識的 AI，並提出「如果所有人都錯了呢？」的問題，即便所有證據看似相反。
他將部分問題歸因於 AI 的「評估危機」，即用於衡量系統改進的基準通常聚焦於有明確、封閉式答案的問題。為了解決這一問題，沃爾夫提議 AI 產業應轉向評估 AI 採取大膽反事實方法、從最少提示中提出廣泛建議，以及提出非顯而易見問題的能力，這些問題可能開闢新的研究路徑。
雖然沃爾夫承認定義這種衡量標準的挑戰，但他認為這是一個值得努力的方向。他強調，科學的本質在於提出正確的問題並挑戰已學知識。與其追求一個能回答所有常識問題的 A+ 學生，沃爾夫認為需要的是能看到並質疑他人忽略之處的 B 學生。
相關文章
微軟測試 Copilot Vision 更新，啟用螢幕應用程式識別功能
微軟推出增強型 Copilot 體驗，改變使用者在 Windows 應用程式中與 AI 互動的方式。這項創新的更新將 Copilot Vision 的功能延伸至 Microsoft Edge 以外，透過智慧型螢幕分享功能，為任何桌面應用程式提供即時協助。功能擴充Copilot Vision 現在可在完整的 Windows 生態系統中提供情境導引AI 驅動的螢幕分析功能現在適用於所有 PC
AI 藝術的爭議：解決數位創作中的版權與道德問題
藝術風景，尤其是在毛茸茸藝術愛好者等專業社群中，持續大幅改變。隨著人工智慧輔助創作工具的出現，一個具爭議性的新發展浮上檯面：藝術家在作品中使用人工智慧的疑慮叢生。雖然這些指控偶爾是合理的，但卻經常模糊了合法的藝術探究、毫無根據的猜想以及網路欺凌之間的界限。我們的研究重點在於一場圍繞人工智慧使用指控的值得注意的毛怪藝術爭議，揭示出這類爭議的複雜動態與有害後果。重點毛茸茸藝術領域面臨越來越多有關可能使
歐盟 AI 法案草案為大型科技 AI 模型提供寬鬆規則
隨著歐盟人工智慧法案 (EU AI Act) 指南定稿截止日期 5 月的臨近，官方已發佈通用人工智慧 (GPAI) 供應商實務守則 (Code of Practice) 的第三稿，也可能是最終稿。此更新版本自去年起開始研發，並隨附一個專用平台，以改善無障礙環境。利益相關者可在 2025 年 3 月 30 日前提交書面反饋意見。法規草案的主要內容歐盟的風險型 AI 架構對主要 AI 開發者在透明度、
評論 (25)
0/200
![TimothyMitchell]()
TimothyMitchell
2025-04-15 12:56:35
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな！🤔💡
0
![AnthonyRoberts]()
AnthonyRoberts
2025-04-14 11:18:56
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
0
![ScottRoberts]()
ScottRoberts
2025-04-12 21:44:43
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!
0
![RoyGarcía]()
RoyGarcía
2025-04-12 20:31:51
Thomas Wolf's take on AI being 'yes-men on servers' is pretty spot on. It's scary to think that AI might just agree with us all the time instead of pushing boundaries. I'm all for innovation, but not if it means AI just becomes a tool for confirmation bias. Food for thought!
0
![JuanJackson]()
JuanJackson
2025-04-12 15:34:16
Томас Вольф точно описал, что ИИ может стать «да-людьми на серверах». Страшно думать, что ИИ может просто соглашаться с нами вместо того, чтобы расширять границы. Я за инновации, но не если это означает, что ИИ станет инструментом подтверждения предвзятости. Над чем стоит задуматься!
0
![WillieJones]()
WillieJones
2025-04-12 11:06:01
La perspectiva de Thomas Wolf sobre la IA como 'hombres de sí en servidores' realmente te hace pensar dos veces sobre el hype. Es refrescante escuchar una perspectiva más fundamentada en medio de todas las promesas salvajes. Quizás la IA no sea la bala mágica que todos esperamos, pero definitivamente es algo para observar. 🤔
0
湯瑪斯·沃爾夫，Hugging Face 的共同創辦人兼首席科學官，對 AI 在科學革命中的潛力持較為謹慎的觀點，這與其他 AI 公司創辦人常提出的豪言壯語形成對比。在 X 上分享的一篇論文中，沃爾夫表達了對 AI 可能僅成為「伺服器上的應聲蟲」的擔憂，除非在研究上有重大突破。他認為，當前 AI 發展的軌跡無法產生具備創意、跳脫框架思考的系統，而這種思考能力是實現諾貝爾獎級別科學成就所需的。
沃爾夫質疑牛頓或愛因斯坦這樣的的天才僅僅是頂尖學生的放大版。他相信，要在數據中心複製這種天才，AI 不僅需要知道所有答案，還必須能夠提出無人考慮或敢於提出的問題。這一觀點與 OpenAI 執行長山姆·奧特曼（Sam Altman）設想的「超智能」AI 加速科學發現，以及 Anthropic 執行長達里奧·阿莫迪（Dario Amodei）預測 AI 可能有助於找到大多數癌症療法的看法不同。
沃爾夫對當前 AI 的批評是，它無法通過連接先前無關的事實來產生新知識。儘管 AI 可以訪問海量的互聯網數據，但根據沃爾夫的說法，AI 主要是在填補現有人類知識的空白。這種觀點得到其他 AI 專家，如前 Google 工程師弗朗索瓦·肖萊（François Chollet）的迴響，他們認為，雖然 AI 可以記憶推理模式，但在新情境中生成新推理時卻顯得掙扎。
沃爾夫建議，AI 實驗室目前正在打造「非常聽話的學生」，而不是科學革命所需的真正創新者。他指出，當今的 AI 系統並非設計來質疑或提出與訓練數據相矛盾的想法，這限制了它們只能回答已知的問題。沃爾夫強調需要一種能挑戰既有知識的 AI，並提出「如果所有人都錯了呢？」的問題，即便所有證據看似相反。
他將部分問題歸因於 AI 的「評估危機」，即用於衡量系統改進的基準通常聚焦於有明確、封閉式答案的問題。為了解決這一問題，沃爾夫提議 AI 產業應轉向評估 AI 採取大膽反事實方法、從最少提示中提出廣泛建議，以及提出非顯而易見問題的能力，這些問題可能開闢新的研究路徑。
雖然沃爾夫承認定義這種衡量標準的挑戰，但他認為這是一個值得努力的方向。他強調，科學的本質在於提出正確的問題並挑戰已學知識。與其追求一個能回答所有常識問題的 A+ 學生，沃爾夫認為需要的是能看到並質疑他人忽略之處的 B 學生。
微軟測試 Copilot Vision 更新，啟用螢幕應用程式識別功能
微軟推出增強型 Copilot 體驗，改變使用者在 Windows 應用程式中與 AI 互動的方式。這項創新的更新將 Copilot Vision 的功能延伸至 Microsoft Edge 以外，透過智慧型螢幕分享功能，為任何桌面應用程式提供即時協助。功能擴充Copilot Vision 現在可在完整的 Windows 生態系統中提供情境導引AI 驅動的螢幕分析功能現在適用於所有 PC
AI 藝術的爭議：解決數位創作中的版權與道德問題
藝術風景，尤其是在毛茸茸藝術愛好者等專業社群中，持續大幅改變。隨著人工智慧輔助創作工具的出現，一個具爭議性的新發展浮上檯面：藝術家在作品中使用人工智慧的疑慮叢生。雖然這些指控偶爾是合理的，但卻經常模糊了合法的藝術探究、毫無根據的猜想以及網路欺凌之間的界限。我們的研究重點在於一場圍繞人工智慧使用指控的值得注意的毛怪藝術爭議，揭示出這類爭議的複雜動態與有害後果。重點毛茸茸藝術領域面臨越來越多有關可能使
歐盟 AI 法案草案為大型科技 AI 模型提供寬鬆規則
隨著歐盟人工智慧法案 (EU AI Act) 指南定稿截止日期 5 月的臨近，官方已發佈通用人工智慧 (GPAI) 供應商實務守則 (Code of Practice) 的第三稿，也可能是最終稿。此更新版本自去年起開始研發，並隨附一個專用平台，以改善無障礙環境。利益相關者可在 2025 年 3 月 30 日前提交書面反饋意見。法規草案的主要內容歐盟的風險型 AI 架構對主要 AI 開發者在透明度、
2025-04-15 12:56:35
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな！🤔💡
0
2025-04-14 11:18:56
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
0
2025-04-12 21:44:43
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!
0
2025-04-12 20:31:51
Thomas Wolf's take on AI being 'yes-men on servers' is pretty spot on. It's scary to think that AI might just agree with us all the time instead of pushing boundaries. I'm all for innovation, but not if it means AI just becomes a tool for confirmation bias. Food for thought!
0
2025-04-12 15:34:16
Томас Вольф точно описал, что ИИ может стать «да-людьми на серверах». Страшно думать, что ИИ может просто соглашаться с нами вместо того, чтобы расширять границы. Я за инновации, но не если это означает, что ИИ станет инструментом подтверждения предвзятости. Над чем стоит задуматься!
0
2025-04-12 11:06:01
La perspectiva de Thomas Wolf sobre la IA como 'hombres de sí en servidores' realmente te hace pensar dos veces sobre el hype. Es refrescante escuchar una perspectiva más fundamentada en medio de todas las promesas salvajes. Quizás la IA no sea la bala mágica que todos esperamos, pero definitivamente es algo para observar. 🤔
0
