AI領導者討論AGI：基於現實

在最近一次與舊金山商業領袖的晚餐上，我提出了一個似乎讓現場冷場的問題：今天的人工智能是否能達到或超越人類的智能？這是一個比你預期的更能引發爭議的話題。

到了2025年，科技CEO們對像ChatGPT和Gemini背後的大型語言模型（LLM）充滿了樂觀情緒。他們相信這些模型很快就能達到人類級別甚至超人類的智能。以Anthropic的Dario Amodei為例，他撰寫了文章，建議到2026年，我們可能會看到在各個領域比諾貝爾獎得主更聰明的AI。與此同時，OpenAI的Sam Altman一直公開表示知道如何建造“超級智能”AI，預測它能夠加速科學發現。

但並不是每個人都對這種樂觀的圖景買帳。一些AI領袖對LLM達到AGI，甚至超級智能表示懷疑，除非有重大突破。這些懷疑者，過去曾保持沉默，現在則更加積極發聲。

AI社群中的懷疑論

以Hugging Face的聯合創始人兼首席科學官Thomas Wolf為例，他在最近的一篇文章中稱Amodei的願景部分是“最好的情況下也是願望思考”。憑藉他在統計和量子物理學的博士學位，Wolf主張諾貝爾級別的突破來自於提出新的問題，而不僅僅是回答已知問題——這是AI擅長的，但對於開創新想法並不特別出色。

“我很想看到這個‘愛因斯坦模型’出現，但我們需要深入研究如何實現它，”Wolf在接受TechCrunch採訪時分享道。他寫這篇文章是因為他感覺對AGI的炒作掩蓋了對如何實現它的嚴肅討論的需要。Wolf看到一個AI改變世界的未來，但不一定是達到人類級別智能或超級智能的未來。

AI社群經常被那些相信AGI和那些不相信的人所分裂，後者有時被標籤為“反技術”或只是悲觀主義者。然而，Wolf認為自己是一個“有知識的樂觀主義者”，推動AI進步的同時，保持現實的立場。

AI辯論中的其他聲音

據報導，Google DeepMind的CEO Demis Hassabis告訴他的團隊，AGI可能還要十年才能實現，並指出AI還無法處理許多任務。Meta的首席AI科學家Yann LeCun也對LLM實現AGI表示懷疑，在Nvidia GTC上稱這個想法是“胡說八道”，並推動開發新的架構來支撐超級智能。

Kenneth Stanley，OpenAI的前首席研究員，現在是Lila Sciences的高管，正在致力於建造高級AI的細節。他的初創公司最近籌集了2億美元，專注於自動化科學創新。Stanley的工作探討了AI生成原始、創造性想法的能力——這一領域被稱為開放性。

“我有點希望我寫了[Wolf的]這篇文章，因為它真的反映了我的感受，”Stanley告訴TechCrunch。他同意Wolf的觀點，知識豐富並不自動導致原創想法。

AI中的創造力角色

Stanley認為創造力對於AGI至關重要，但承認這是一個難題。儘管像Amodei這樣的樂觀主義者強調AI“推理”模型是邁向AGI的一步，Stanley認為創造力需要一種不同的智能。“推理幾乎與[創造力]相反，”他解釋道。“推理模型專注於達到特定目標，這可能會限制創造力所需的機會主義性思考。”

Stanley建議，要建造真正智能的AI，我們需要在算法上複製人類對新想法的品味。雖然AI在數學和編程等答案清晰的領域表現出色，但在更主觀、創造性的任務上，沒有“正確”答案的任務上，它表現得掙扎。

“人們在科學中遠離[主觀性]——這個詞幾乎是有毒的，”Stanley指出。“但沒有什麼能阻止我們在算法上處理主觀性。這只是數據流的一部分。”

他對於Lila Sciences、Google DeepMind和AI初創公司Sakana等研究實驗室越來越關注開放性感到鼓舞。Stanley看到更多人談論AI中的創造力，但認為前方的工作還有很多。

AI的現實主義者

Wolf和LeCun可能被視為“AI現實主義者”：他們以務實的問題來接近AGI和超級智能，關於它們的可行性。他們的目標不是否定AI的進展，而是激發更廣泛的討論，關於什麼阻礙了AI達到AGI和超級智能——並直接面對這些挑戰。