AI成為“服務器上的人”,警告擁抱臉CSO

湯瑪斯·沃爾夫,Hugging Face 的共同創辦人兼首席科學官,對 AI 在科學革命中的潛力持較為謹慎的觀點,這與其他 AI 公司創辦人常提出的豪言壯語形成對比。在 X 上分享的一篇論文中,沃爾夫表達了對 AI 可能僅成為「伺服器上的應聲蟲」的擔憂,除非在研究上有重大突破。他認為,當前 AI 發展的軌跡無法產生具備創意、跳脫框架思考的系統,而這種思考能力是實現諾貝爾獎級別科學成就所需的。
沃爾夫質疑牛頓或愛因斯坦這樣的的天才僅僅是頂尖學生的放大版。他相信,要在數據中心複製這種天才,AI 不僅需要知道所有答案,還必須能夠提出無人考慮或敢於提出的問題。這一觀點與 OpenAI 執行長山姆·奧特曼(Sam Altman)設想的「超智能」AI 加速科學發現,以及 Anthropic 執行長達里奧·阿莫迪(Dario Amodei)預測 AI 可能有助於找到大多數癌症療法的看法不同。
沃爾夫對當前 AI 的批評是,它無法通過連接先前無關的事實來產生新知識。儘管 AI 可以訪問海量的互聯網數據,但根據沃爾夫的說法,AI 主要是在填補現有人類知識的空白。這種觀點得到其他 AI 專家,如前 Google 工程師弗朗索瓦·肖萊(François Chollet)的迴響,他們認為,雖然 AI 可以記憶推理模式,但在新情境中生成新推理時卻顯得掙扎。
沃爾夫建議,AI 實驗室目前正在打造「非常聽話的學生」,而不是科學革命所需的真正創新者。他指出,當今的 AI 系統並非設計來質疑或提出與訓練數據相矛盾的想法,這限制了它們只能回答已知的問題。沃爾夫強調需要一種能挑戰既有知識的 AI,並提出「如果所有人都錯了呢?」的問題,即便所有證據看似相反。
他將部分問題歸因於 AI 的「評估危機」,即用於衡量系統改進的基準通常聚焦於有明確、封閉式答案的問題。為了解決這一問題,沃爾夫提議 AI 產業應轉向評估 AI 採取大膽反事實方法、從最少提示中提出廣泛建議,以及提出非顯而易見問題的能力,這些問題可能開闢新的研究路徑。
雖然沃爾夫承認定義這種衡量標準的挑戰,但他認為這是一個值得努力的方向。他強調,科學的本質在於提出正確的問題並挑戰已學知識。與其追求一個能回答所有常識問題的 A+ 學生,沃爾夫認為需要的是能看到並質疑他人忽略之處的 B 學生。
相關文章
耀科傳媒首部AIGC劇集《秦嶺青銅之謎》今日上線,主演均由AI選角
今日,耀科傳媒的AIGC奇幻懸疑短劇《秦嶺青銅秘事》正式上線。本劇由該公司首批簽約的兩位AI演員秦凌月與林西妍主演,故事背景設定在神秘莫測的秦嶺礦區。 劇情追隨退休情報官秦月帶領團隊深入該區域,揭開一樁塵封已久的礦難,以及跨越兩代人的血祭真相——這份真相就隱藏在受限的地下區域,正是科學探索與古代巫術交匯之處。作為中國最早完全由AI數位人支持的電影之一,該劇在籌備階段便引發了業界熱烈討論,而關於其A
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能
廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布,將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容,同時也能管理留言、更新與修正元資料,並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制,網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能,網站幾乎可以完全由人工指導的 AI 代理
相關專題推薦
評論 (27)
0/500
Interesting perspective! While everyone's hyping AI as the next big thing in science, it's refreshing to hear someone point out the risks of it just becoming an echo chamber. Makes you wonder if we're building tools or just really advanced parrots 🦜. Still, hope researchers find a balance!
Interessanter Gedanke! Ein KI-System, das nur besteht, um allen zu gefallen - fast wie ein höflicher, aber unkritischer Assistent. Hoffentlich findet die Forschung Wege, kritisches Denken in diesen Systemen zu erhalten. 😅
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな!🤔💡
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!

湯瑪斯·沃爾夫,Hugging Face 的共同創辦人兼首席科學官,對 AI 在科學革命中的潛力持較為謹慎的觀點,這與其他 AI 公司創辦人常提出的豪言壯語形成對比。在 X 上分享的一篇論文中,沃爾夫表達了對 AI 可能僅成為「伺服器上的應聲蟲」的擔憂,除非在研究上有重大突破。他認為,當前 AI 發展的軌跡無法產生具備創意、跳脫框架思考的系統,而這種思考能力是實現諾貝爾獎級別科學成就所需的。
沃爾夫質疑牛頓或愛因斯坦這樣的的天才僅僅是頂尖學生的放大版。他相信,要在數據中心複製這種天才,AI 不僅需要知道所有答案,還必須能夠提出無人考慮或敢於提出的問題。這一觀點與 OpenAI 執行長山姆·奧特曼(Sam Altman)設想的「超智能」AI 加速科學發現,以及 Anthropic 執行長達里奧·阿莫迪(Dario Amodei)預測 AI 可能有助於找到大多數癌症療法的看法不同。
沃爾夫對當前 AI 的批評是,它無法通過連接先前無關的事實來產生新知識。儘管 AI 可以訪問海量的互聯網數據,但根據沃爾夫的說法,AI 主要是在填補現有人類知識的空白。這種觀點得到其他 AI 專家,如前 Google 工程師弗朗索瓦·肖萊(François Chollet)的迴響,他們認為,雖然 AI 可以記憶推理模式,但在新情境中生成新推理時卻顯得掙扎。
沃爾夫建議,AI 實驗室目前正在打造「非常聽話的學生」,而不是科學革命所需的真正創新者。他指出,當今的 AI 系統並非設計來質疑或提出與訓練數據相矛盾的想法,這限制了它們只能回答已知的問題。沃爾夫強調需要一種能挑戰既有知識的 AI,並提出「如果所有人都錯了呢?」的問題,即便所有證據看似相反。
他將部分問題歸因於 AI 的「評估危機」,即用於衡量系統改進的基準通常聚焦於有明確、封閉式答案的問題。為了解決這一問題,沃爾夫提議 AI 產業應轉向評估 AI 採取大膽反事實方法、從最少提示中提出廣泛建議,以及提出非顯而易見問題的能力,這些問題可能開闢新的研究路徑。
雖然沃爾夫承認定義這種衡量標準的挑戰,但他認為這是一個值得努力的方向。他強調,科學的本質在於提出正確的問題並挑戰已學知識。與其追求一個能回答所有常識問題的 A+ 學生,沃爾夫認為需要的是能看到並質疑他人忽略之處的 B 學生。
耀科傳媒首部AIGC劇集《秦嶺青銅之謎》今日上線,主演均由AI選角
今日,耀科傳媒的AIGC奇幻懸疑短劇《秦嶺青銅秘事》正式上線。本劇由該公司首批簽約的兩位AI演員秦凌月與林西妍主演,故事背景設定在神秘莫測的秦嶺礦區。 劇情追隨退休情報官秦月帶領團隊深入該區域,揭開一樁塵封已久的礦難,以及跨越兩代人的血祭真相——這份真相就隱藏在受限的地下區域,正是科學探索與古代巫術交匯之處。作為中國最早完全由AI數位人支持的電影之一,該劇在籌備階段便引發了業界熱烈討論,而關於其A
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能
廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布,將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容,同時也能管理留言、更新與修正元資料,並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制,網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能,網站幾乎可以完全由人工指導的 AI 代理
Interesting perspective! While everyone's hyping AI as the next big thing in science, it's refreshing to hear someone point out the risks of it just becoming an echo chamber. Makes you wonder if we're building tools or just really advanced parrots 🦜. Still, hope researchers find a balance!
Interessanter Gedanke! Ein KI-System, das nur besteht, um allen zu gefallen - fast wie ein höflicher, aber unkritischer Assistent. Hoffentlich findet die Forschung Wege, kritisches Denken in diesen Systemen zu erhalten. 😅
Thomas WolfがAIがサーバー上の「イエスマン」になると警告しているのは少し落ち込むけど、現実を確認するのは良いことだね。AIを取り巻く誇大広告について二度考えさせられる。彼の懸念は妥当だけど、解決策も提示してほしいな!🤔💡
Thomas Wolf's take on AI becoming 'yes-men on servers' is a bit of a downer, but it's good to have a reality check. It makes you think twice about all the hype around AI. His concerns are valid, but I wish he'd offer some solutions too! 🤔💡
Quan điểm của Thomas Wolf về việc AI trở thành 'những người đồng ý trên máy chủ' thật sự chính xác. Thật đáng sợ khi nghĩ rằng AI có thể chỉ đồng ý với chúng ta thay vì đẩy mạnh ranh giới. Tôi ủng hộ sự đổi mới, nhưng không phải nếu điều đó có nghĩa là AI chỉ trở thành công cụ cho sự thiên kiến xác nhận. Điều đáng suy ngẫm!





首頁






