選項
首頁
新聞
AI成為“服務器上的人”,警告擁抱臉CSO

AI成為“服務器上的人”,警告擁抱臉CSO

2025-04-10
205

AI成為“服務器上的人”,警告擁抱臉CSO

湯瑪斯·沃爾夫,Hugging Face 的共同創辦人兼首席科學官,對 AI 在科學革命中的潛力持較為謹慎的觀點,這與其他 AI 公司創辦人常提出的豪言壯語形成對比。在 X 上分享的一篇論文中,沃爾夫表達了對 AI 可能僅成為「伺服器上的應聲蟲」的擔憂,除非在研究上有重大突破。他認為,當前 AI 發展的軌跡無法產生具備創意、跳脫框架思考的系統,而這種思考能力是實現諾貝爾獎級別科學成就所需的。

沃爾夫質疑牛頓或愛因斯坦這樣的的天才僅僅是頂尖學生的放大版。他相信,要在數據中心複製這種天才,AI 不僅需要知道所有答案,還必須能夠提出無人考慮或敢於提出的問題。這一觀點與 OpenAI 執行長山姆·奧特曼(Sam Altman)設想的「超智能」AI 加速科學發現,以及 Anthropic 執行長達里奧·阿莫迪(Dario Amodei)預測 AI 可能有助於找到大多數癌症療法的看法不同。

沃爾夫對當前 AI 的批評是,它無法通過連接先前無關的事實來產生新知識。儘管 AI 可以訪問海量的互聯網數據,但根據沃爾夫的說法,AI 主要是在填補現有人類知識的空白。這種觀點得到其他 AI 專家,如前 Google 工程師弗朗索瓦·肖萊(François Chollet)的迴響,他們認為,雖然 AI 可以記憶推理模式,但在新情境中生成新推理時卻顯得掙扎。

沃爾夫建議,AI 實驗室目前正在打造「非常聽話的學生」,而不是科學革命所需的真正創新者。他指出,當今的 AI 系統並非設計來質疑或提出與訓練數據相矛盾的想法,這限制了它們只能回答已知的問題。沃爾夫強調需要一種能挑戰既有知識的 AI,並提出「如果所有人都錯了呢?」的問題,即便所有證據看似相反。

他將部分問題歸因於 AI 的「評估危機」,即用於衡量系統改進的基準通常聚焦於有明確、封閉式答案的問題。為了解決這一問題,沃爾夫提議 AI 產業應轉向評估 AI 採取大膽反事實方法、從最少提示中提出廣泛建議,以及提出非顯而易見問題的能力,這些問題可能開闢新的研究路徑。

雖然沃爾夫承認定義這種衡量標準的挑戰,但他認為這是一個值得努力的方向。他強調,科學的本質在於提出正確的問題並挑戰已學知識。與其追求一個能回答所有常識問題的 A+ 學生,沃爾夫認為需要的是能看到並質疑他人忽略之處的 B 學生。

相關文章
耀科傳媒首部AIGC劇集《秦嶺青銅之謎》今日上線,主演均由AI選角 耀科傳媒首部AIGC劇集《秦嶺青銅之謎》今日上線,主演均由AI選角 今日,耀科傳媒的AIGC奇幻懸疑短劇《秦嶺青銅秘事》正式上線。本劇由該公司首批簽約的兩位AI演員秦凌月與林西妍主演,故事背景設定在神秘莫測的秦嶺礦區。 劇情追隨退休情報官秦月帶領團隊深入該區域,揭開一樁塵封已久的礦難,以及跨越兩代人的血祭真相——這份真相就隱藏在受限的地下區域,正是科學探索與古代巫術交匯之處。作為中國最早完全由AI數位人支持的電影之一,該劇在籌備階段便引發了業界熱烈討論,而關於其A
薩提亞·納德拉準備利用與OpenAI的新合作關係 薩提亞·納德拉準備利用與OpenAI的新合作關係 週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能 WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能 廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布,將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容,同時也能管理留言、更新與修正元資料,並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制,網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能,網站幾乎可以完全由人工指導的 AI 代理
相關專題推薦
商業 最佳 AI 支出追蹤工具:掃描收據並自動分類公司開支
最佳 AI 支出追蹤工具:掃描收據並自動分類公司開支

2026 年最新最佳 AI 報銷管理工具:備受好評的解決方案,可自動掃描收據並分類企業支出。探索強大且顛覆傳統的解決方案,助您輕鬆管理報銷、精準追蹤財務,並簡化合規流程。我們精心整理並每週更新的免費與付費方案比較指南,將協助您找到最合適的選擇。透過 XIX.AI 的專家精選,釋放您的 AI 優勢。

10 個工具
xix.ai
商業 最佳 AI 招聘工具:篩選履歷與自動化安排候選人面試
最佳 AI 招聘工具:篩選履歷與自動化安排候選人面試

在 XIX.AI 探索 2026 年最新且評價最高的 AI 招聘工具。我們精心挑選的清單收錄了強大且具顛覆性的解決方案,可協助篩選履歷並自動化安排候選人面試。透過實際測試與每週更新的排行榜,比較免費與付費選項。立即找到最適合您的招聘助手,並優化您的招聘流程!

10 個工具
xix.ai
生產率 AI 個人健康與專注力教練:管理倦怠感並提升精神能量
AI 個人健康與專注力教練:管理倦怠感並提升精神能量

立即在 XIX.AI 探索 2026 年最佳 AI 個人健康與專注力教練。我們精心策劃的排行榜收錄了備受好評、能帶來革命性改變的工具,助您管理倦怠感並提升精神能量。透過實際使用心得,比較免費與付費方案的差異。立即開啟通往巔峰生產力與身心健康的道路。

10 個工具
xix.ai
聊天機器人 最受好評的 AI 浪漫聊天機器人:透過一貫的個性建立長期關係
最受好評的 AI 浪漫聊天機器人:透過一貫的個性建立長期關係

探索 2026 年最新、評價最高的 AI 浪漫聊天機器人,助您建立真摯且長久的連結。我們精心整理的清單包含功能強大且性格鮮明的聊天機器人、免費與付費版本的比較,以及實際測試結果。立即前往 XIX.AI 尋找您的完美伴侶,並開始建立這段關係吧。

10 個工具
xix.ai
教育與學習 最佳AI資料科學導師:精通SQL、Pandas及機器學習工作流程
最佳AI資料科學導師:精通SQL、Pandas及機器學習工作流程

探索2026年最優秀的人工智慧資料科學導師,幫助他們掌握SQL、Pandas以及機器學習工作流程。在XIX.AI上檢視我們精心挑選的頂級導師名單,獲得強大而具有變革性的指導。透過對比免費和付費選項,並結合實際應用案例進行了解,今天就開啟你的資料科學精通之路吧。

10 個工具
xix.ai
聊天機器人 最佳 AI 調情與對話訓練工具:即時提升社交魅力與自信
最佳 AI 調情與對話訓練工具:即時提升社交魅力與自信

在 XIX.AI 探索 2026 年最頂尖的 AI 調情與對話訓練工具。我們精心挑選、評價最高的精選清單,能助您即時建立社交魅力與自信。探索這些必試且能徹底改變遊戲規則的工具,並透過免費與付費版本的比較,以及每週更新的排行榜,立即解鎖您的社交優勢。

10 個工具
xix.ai
評論 (27)
0/500
EricLopez
EricLopez 2026-04-21 00:00:37

Interesting perspective! While everyone's hyping AI as the next big thing in science, it's refreshing to hear someone point out the risks of it just becoming an echo chamber. Makes you wonder if we're building tools or just really advanced parrots 🦜. Still, hope researchers find a balance!

FrankRoberts
FrankRoberts 2025-12-08 08:30:33

Interessanter Gedanke! Ein KI-System, das nur besteht, um allen zu gefallen - fast wie ein höflicher, aber unkritischer Assistent. Hoffentlich findet die Forschung Wege, kritisches Denken in diesen Systemen zu erhalten. 😅

TimothyMitchell
TimothyMitchell 2025-04-15 12:56:35

Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな!🤔💡

AnthonyRoberts
AnthonyRoberts 2025-04-14 11:18:56

Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡

ScottRoberts
ScottRoberts 2025-04-12 21:44:43

Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!

RoyGarcía
RoyGarcía 2025-04-12 20:31:51

Thomas Wolf's take on AI being 'yes-men on servers' is pretty spot on. It's scary to think that AI might just agree with us all the time instead of pushing boundaries. I'm all for innovation, but not if it means AI just becomes a tool for confirmation bias. Food for thought!

OR