關於 AI 領域的「拍翅飛機」:我們希望探索截然不同的方法

近幾個月來,一波以研究為導向、雄心勃勃的人工智慧實驗室如雨後春筍般湧現,其中「Flapping Airplanes」堪稱最引人入勝的實驗室之一。 在年輕且充滿好奇心的創辦人帶領下,該實驗室致力於尋找對數據需求較低的 AI 訓練方法。這種方法可能從根本上重塑 AI 模型的經濟效益與功能——而憑藉 1.8 億美元的種子輪資金,他們擁有充足的空間進行探索。
上週,我與該實驗室的三位共同創辦人——本(Ben)和阿舍(Asher)·斯佩克特(Spector)兄弟,以及艾丹·史密斯(Aidan Smith)——坐下來深入探討,為何現在正是創立新人工智慧實驗室的絕佳時機,以及他們為何持續從人類大腦中汲取靈感。
讓我先從一個顯而易見的問題開始:為什麼是現在?像 OpenAI 和 DeepMind 這樣的實驗室已經投入了龐大資源來擴展其模型。我想這份競爭壓力想必令人望而生畏。是什麼讓你們覺得現在正是創立基礎模型公司的最佳時機?
班:還有太多事情待做。過去五到十年的進展確實令人驚嘆。我們熱愛這些工具——每天都在使用它們。但問題在於,這是否就是我們需要達成的全部目標? 我們經過深思熟慮,答案是否定的——未來還有更多待開發的領域。對我們而言,資料效率問題似乎是亟待解決的關鍵課題。當今最前沿的模型基本上是基於全人類的知識進行訓練的,然而人類卻能以遠少於此的資料量運作。這之間的差距極大,值得深入探究。
我們所做的,本質上是對三件事的集中押注。首先,數據效率確實是值得解決的問題——這是一個真正嶄新的方向,且有望取得進展。 其次,解決這個問題將具有商業價值,並能讓世界變得更好。第三,最適合承接這項任務的團隊,必須具備創造力,且在某些方面還缺乏經驗——這是一群願意從頭重新審視這些問題的人。
艾丹:完全正確。我們並不認為自己是在與其他實驗室競爭,因為我們專注於截然不同的問題領域。 試著觀察人類的思維——它的學習方式與變壓器模型(Transformers)在根本上截然不同。未必更好,只是非常不同。因此我們看到不同的取捨。大型語言模型(LLMs)在記憶和調用海量知識方面非常出色,但它們難以快速掌握新技能——適應新任務需要海量的數據。 若深入探究大腦的運作機制,其所運用的演算法與梯度下降法及其他當前的訓練技術在根本上截然不同。正因如此,我們正培育新一代的研究人員,以解決這些問題並重新構思人工智慧的格局。
阿舍(Asher):這個問題在科學層面上極具吸引力:為何我們所建構的智能系統與人類的運作方式如此不同?這種差異源自何處,我們又該如何利用它來打造更完善的系統?與此同時,我相信這在商業上具有可行性,且對世界有益。 許多重要領域都面臨數據限制——無論是機器人技術、科學發現,甚至是企業應用。若能開發出數據效率提高一百萬倍的模型,其融入經濟體系的難度也將降低一百萬倍。因此,對我們而言,採用嶄新的視角令人振奮:倘若我們能建構出數據效率大幅提升的模型,我們又能藉此達成什麼成就?
TechCrunch 活動TechCrunch 2026 創辦人峰會:門票開售
6月23日,波士頓將迎來 超過1,100位創辦人齊聚「TechCrunch 2026 創辦人峰會」,展開一整天的交流,聚焦於成長、執行與實際規模化。向塑造產業的創辦人與投資人學習,與正處於類似成長階段的同行建立聯繫,並帶回可立即應用的實戰策略
購買個人通行證最高可省300 美元;四人以上團隊購買團體票,最高可享 30% 折扣。
TechCrunch 創辦人峰會:門票現已開售
6月23日,波士頓將迎來 超過1,100位創辦人齊聚「TechCrunch 2026創辦人峰會」,展開為期一整天、專注於成長、執行與實際規模擴展的深度探討。向塑造產業格局的創辦人與投資人學習,與正處於相似成長階段的同行建立聯繫,並帶走可立即付諸實行的實戰策略
購買通行證最高可省$300,或透過四人以上團隊團體票享最高 30% 折扣。
麻薩諸塞州波士頓|2026年6月23日 立即註冊這引出了我的下一個問題,也與「Flapping Airplanes」這個名稱息息相關。 在人工智慧領域中,存在著一場哲學辯論:我們應該在多大程度上試圖複製人類大腦的運作過程,抑或創造一種遵循完全不同路徑、更為抽象的智慧?艾丹來自 Neuralink,該公司完全專注於人類大腦。你們是否認為自己正在追求一種更偏向神經形態的人工智慧觀點?
艾丹:我將 大腦視為一種「存在證明」——證明世上存在其他演算法,而不僅僅是一種正統觀點。大腦在極其嚴苛的限制下運作。觸發一次動作電位需要一毫秒;而在同一時間內,電腦卻能執行無數次運算。 因此,很可能存在某種比大腦更優越、且與變壓器模型截然不同的方法。我們雖從大腦的某些運作機制中獲得啟發,但並不覺得自己受其束縛。
班:補充一點, 這點就體現在我們的名稱中:「Flapping Airplanes」。不妨將當前的系統想像成巨大的波音 787 客機。我們並非試圖打造鳥類——那目標太過遙遠。 我們試圖打造的,是類似「拍翅飛機」的東西。從電腦系統的角度來看,大腦與矽晶片的限制條件差異極大,因此我們不應預期這兩種系統最終會呈現相同的樣貌。由於基底材料如此不同,且在運算成本、局部性與資料移動方面的權衡取捨也大相逕庭,這兩種系統自然會呈現出些許差異。 但這並不意味著我們不該從大腦中汲取靈感,並運用我們認為有趣的部分來改進自己的系統。
如今各實驗室似乎擁有更多自由,能專注於研究而非僅限於開發產品。這對當代實驗室而言,可謂一場重大轉變。有些實驗室非常注重研究;有些則只是「目前以研究為重」。在「Flapping Airplanes」內部,這方面的討論是如何展開的?
阿舍(Asher):我真希望能給你一個時間表。真希望能說:「三年內,我們將解決這個研究問題,並將以這種方式進行商業化。」但我做不到。我們還不知道答案。 我們正在追尋真理。話雖如此,我們確實具備商業背景。我曾為多家企業開發技術,並為它們創造了可觀的營收;班則曾培育過具有商業根基的新創公司,而且我們對商業化確實充滿熱忱——我們認為,將創造出的價值交到能善加利用的人手中,對世界是有益的。 因此我們並非反對商業化。我們只是必須從研究開始,因為如果一開始就簽訂大型企業合約,我們會因此分心,而無法進行有價值的研究。
艾丹:沒錯——我們想嘗試徹底不同的事情,而有時激進的想法,說穿了可能還不如現有的模式好。我們正在探索一系列不同的取捨,希望這些取捨長遠來看能有所回報。
班:企業 在真正專注於做好一件事時,才能發揮最佳狀態,對吧?大企業有能力同時處理許多事情。身為新創公司,你必須挑選最有價值的那件事並全力以赴。當我們目前全心投入解決根本問題時,才能創造最大的價值。
我其實很樂觀,相信不久之後我們就能取得足夠的進展,開始在現實世界中嶄露頭角。從現實世界的反饋中,你能學到很多。這個世界最令人驚嘆之處在於,它不斷教導著你——它是一座巨大的真理之池,你可以隨時窺探其中奧秘。 我認為,近期這些商業模式在經濟與融資層面的轉變,讓企業能夠更長時間地專注於自身擅長之事。這種專注——這正是我最為興奮之處——將使我們能做出真正與眾不同的成果。
為了闡明我認為你所指的重點:人工智慧領域的熱潮如此高漲,以致投資者願意向一家嶄新的公司提供 1.8 億美元的種子輪資金,這家公司裡盡是些非常聰明、非常年輕的人才,而且他們並非剛從 PayPal 套現離場。參與這個過程的體驗如何? 你一開始就知道市場有這樣的熱情,還是後來才發現這件事能比預期做得更大?
班:兩者都有。市場已經熱絡了好幾個月,因此大額融資輪即將成形並非秘密。但你永遠無法預知募資環境會如何回應你的具體構想。 說到底,你必須讓外界給予你反饋。即使在募資過程中,我們也學到了很多並調整了構想——我們重新梳理了商業化的優先順序與時程表。
我們的理念能引起如此強烈的共鳴,這讓我們有些意外。對我們來說這很明確,但你永遠不知道別人是否會認同,還是會覺得你瘋了。 我們非常幸運地找到了一群出色的投資者,他們真正認同我們的理念,並表示:「沒錯,這正是我們一直在尋找的。」這實在太棒了——既令人驚訝又令人欣喜。
艾丹:沒錯,對「研究時代」的渴求已經在業界醞釀了一段時間。我們越來越發現,自己正處於推動這個時代、並嘗試這些激進構想的關鍵位置。
至少對以規模為導向的公司而言,基礎模型的入門門檻極高——構建如此大規模的模型需要極其龐大的運算資源。研究則處於中間地帶:雖然你可能仍在構建基礎模型,但若能以較少數據進行,且不那麼注重規模,或許就能找到突破口。 你預期運算成本會在多大程度上限制你的資金續航力?
Ben:深入且基礎的研究有一項優勢在於——這聽起來或許有些矛盾——嘗試真正瘋狂、激進的構想,其實比進行漸進式研究要便宜得多。進行漸進式研究時,為了驗證其可行性,你必須在擴展階梯上攀升得很高——許多小規模的調整在大規模環境下往往無法持續。 這很昂貴。但如果你對架構優化器有個天馬行空的新點子,它第一輪測試大概率就會失敗,所以你根本不需要將其擴展。它本來就行不通——這太棒了。
這並不意味著規模對我們而言無關緊要。規模是工具箱中的一項重要工具。能夠將我們的構想擴大規模當然很重要。所以我不會將我們定位為規模的對立面。但我們能在考慮大規模之前,先以極小的規模嘗試許多構想,這正是我們工作的一大魅力所在。
阿舍:沒錯 ,你應該能夠利用整個網際網路——但你不應該非得這麼做不可。我們覺得非常困惑的是,竟然需要動用整個網際網路才能達到人類級別的智慧。
那麼,如果能更高效地利用數據進行訓練,將會帶來什麼可能性?可以預見,模型將會更強大、更聰明。你對這將引向何方有具體的想法嗎?我們是在談論更強的「分布外泛化」能力,還是指模型能在較少經驗的情況下,於特定任務中表現得更好?
阿舍:首先, 我們從事的是科學研究,所以我並不知道答案——但我可以提出三個假說。我的第一個假說是:在「僅尋找統計模式」與「具備深刻理解」之間,存在著一個廣泛的連續光譜。當前的模型位於這個光譜的某個位置——尚未達到深刻理解的程度,但顯然也不僅僅是模式匹配。 有可能在較少數據上進行訓練,會迫使模型對其所見的一切發展出極其深刻的理解。這可能會讓模型以有趣的方式變得更聰明——它可能知道的事實較少,但推理能力更強。這是其中一個假設。
另一項假設與您所說的相似:目前要教導模型新能力,無論在運作上還是金錢上都成本高昂,因為需要大量數據。我們研究的一項成果可能是大幅提升後訓練的效率,如此一來,僅需少量範例就能將模型部署到新領域。
此外,這也有可能為人工智慧開闢新的垂直領域。舉例來說,在機器人領域,無論出於何種原因,我們始終無法使其具備商業可行性。我認為這是數據不足的問題,而非硬體問題——能夠遠端操控機器人的事實,已證明硬體性能足夠出色。 這類領域還有很多,例如科學發現。
Ben:有件事 我想深入探討一下:當我們思考 AI 的影響時,有一種觀點認為它是一種通縮性技術——自動化工作、降低勞動力成本、從經濟體系中消除工作崗位。這種情況確實會發生。 但在我看來,這並非最令人振奮的願景。最令人振奮的願景是:人工智慧能協助我們建構人類憑藉自身智慧無法構思、但其他系統卻能實現的新科學與新技術。
在這方面,阿舍提到的軸線——即真正的泛化能力與死記硬背或插值之間的區別——對於引領醫學與科學進步的深刻洞見至關重要。 關鍵在於,模型必須位於該光譜的「創造力」一端。我之所以對我們的研究如此興奮,部分原因在於:除了個體層面的經濟影響之外,我真正關注的是能否讓人工智慧完成人類過去根本無法做到的事情。這遠不止於「讓我們解僱一大群人」這麼簡單。
完全正確。這是否意味著你在關於「超分布泛化」的 AGI 討論中,屬於某個特定陣營?
阿舍:我 其實並不確切知道 AGI 究竟代表什麼。技術能力正在快速進步,也創造了巨大的經濟價值。但我認為我們離「盒中神」還很遠。 我不預期兩個月內,甚至兩年內就會出現人類變得多餘的「奇點」。我基本上同意班的說法:世界非常遼闊,有許多工作待完成,而我們很興奮能為此貢獻心力。
嗯,關於大腦和類神經形態部分的觀點確實很有關聯性。你的意思是,與大型語言模型(LLMs)進行比較時,更相關的對象是人類大腦,而非之前的 Mechanical Turk 或確定性電腦。
艾丹:我要 強調:大腦並非上限——在許多方面,它只是下限。 我未見任何證據表明大腦不是一個遵循物理定律且可被理解的系統。它受到許多限制。因此,從長遠來看,我們應期待創造出比大腦更有趣、更不同,且潛在表現更優異的能力。無論這被稱為 AGI 還是其他名稱,我們都期待為這個未來貢獻心力。
阿舍:而且 我確實認為大腦是合適的比較對象,因為它能幫助我們理解這個領域有多廣闊。看到所有進展時,人們很容易會想:「哇,我們已經找到答案了,快要完成了。」但若退一步審視全局,就會發現還有許多未知之處。
班:我們 並非單純為了做得更好。我們試圖走出一條不同的路——這正是我想反覆強調的關鍵。所有這些系統幾乎肯定都會面臨不同的取捨。 你在某個方面獲得優勢,就會在另一方面有所犧牲。外面的世界很大,有許多領域都存在著各不相同的權衡取捨。擁有更多能針對這些不同領域的系統和基礎技術,很可能讓人工智慧更有效率、更迅速地普及到世界各地。
你們在招聘策略上展現了獨特之處——招募非常年輕的人才,有些甚至還在大學或高中就讀。當你與某人交談時,什麼特質會讓你心想:「我希望這個人來研究這些問題」?
艾丹:就是 當你與某人交談時,對方讓你眼前一亮——他們擁有許多新穎的想法,且思維方式是許多資深研究人員無法企及的,因為他們尚未受到成千上萬篇論文的束縛。我們最看重的就是創造力。 我們的團隊極具創造力,每天能與這些夢想著截然不同未來的人們一起探討解決重大 AI 難題的顛覆性方案,我深感幸運。
班:我最重視的訊號大概是:與他們相處時,他們能否教給我新東西?如果他們能教給我新東西,那麼他們在我們的工作上也能帶來新見解的機率就很高。在進行研究時,富有創意的新點子是首要考量。
在我大學和博士期間的經歷中,曾協助創辦名為「Prod」的創業孵化器,該孵化器合作過的公司後來都發展得相當成功。我們觀察到的一點是:年輕人絕對有能力在業界最高層級中一較高下。 突破的關鍵,很大程度上就在於意識到:「沒錯,我確實能勝任這些工作。」你絕對能在最高層級做出貢獻。
當然,我們也認可經驗的價值。曾參與大型系統開發的人士非常優秀——我們已聘請了其中一些人,並期待與各類人才合作。 我認為我們的使命也引起了資深人士的共鳴。關鍵在於,我們需要的是那些不懼怕改變既有框架、並能構思出事物運作新模式的人才。
有一件事一直讓我感到困惑:你認為最終產出的 AI 系統會有多大不同?很容易想像像 Claude Opus 這樣,效能僅提升 20%、功能增加 20% 的系統。 但如果它完全是嶄新的,就很難預見其發展方向或最終成果會是什麼樣子。
阿舍:我不確定你是否曾有幸與 GPT-4 基礎模型對話,但它展現出許多新奇的能力。例如,你可以拿出一段尚未寫成的部落格文章片段,詢問作者是誰,它就能準確辨識出來。
這類能力不勝枚舉,模型展現出的智慧往往超乎我們的想像。未來的模型將會以更奇特的方式變得更聰明。 我認為我們應該預期未來會非常詭異,而其架構將更加詭異。我們追求的是資料效率的 1000 倍飛躍——而非漸進式的改變。因此,在極限狀態下,我們應預期會出現同樣難以預料、宛如外星般的變革與能力。
Ben:我大致上同意。我對這些事物最終將如何被世界所體驗,態度可能稍微謹慎一些——就像 GPT-4 基礎模型被 OpenAI 加以節制那樣。你希望將事物呈現成一種形式,讓使用者不會直面深淵。這點很重要。 但我基本上同意,我們的研究議程旨在建立與現有能力截然不同的根本性新能力。
太棒了!大家有什麼方式可以參與「Flapping Airplanes」的計畫嗎?現在提這個是否還太早,還是應該先靜待研究成果與模型問世?
阿舍:如果您只是想打聲招呼,可以透過 [email protected] 聯繫我們。如果您想對我們提出異議,也可以透過 [email protected] 聯繫。我們曾進行過一些非常精彩的對話,有人會寄來長篇大論,闡述他們為何認為我們所做的事是不可能的——而我們很樂意與他們交流。
班:但他們至今還未能說服我們。到目前為止,還沒有人能說服我們。
阿舍:其次,我們正在尋找那些渴望改變這個領域乃至世界、才華出眾的人才。若您有興趣,歡迎與我們聯繫。
班:而且, 如果你有非傳統的背景,這完全沒問題。你不需要擁有兩個博士學位。我們真正尋找的是那些思維獨特的人。
相關文章
這是否會成為代幣經濟危機的起點?
微軟近期對 GitHub Copilot 的定價進行了大幅調整,變動幅度之大甚至有 Reddit 使用者將企業內部出現的狀況稱為“代幣末日”。在 TechCrunch 的《Equity》播客最新一集中,Kirsten Korosec、Sean O’Kane 與我一同探討了這些價格變動可能對整個 AI 行業產生的影響。隨著 Anthropic 及其他大型 AI 公司準備上市,關於盈利能力的疑問日益增多,企業為控制開支,很可能會再次提高價格並增設使用限制。Sean 提出了一個關鍵問題:“這些 AI
美國政府對 Anthropic 的禁令可能會無意間提升該品牌的知名度
正在載入播放器……就在上週即將結束之際,美國政府以國家安全為由,迫使 Anthropic 下架其兩款最新模型「Fable 5」與「Mythos 5」——此前據稱亞馬遜的研究人員發現了一種繞過 Fable 5 安全防護機制的方法。此後,網路安全研究人員聯名發表公開信,指稱此舉極為危險;Anthropic 自身也指出,其他模型中同樣存在這類「越獄」漏洞。那麼,這究竟是真正的安全隱患,還是 Anthro
Humble Robotics讓自動駕駛車輛領域的熱度再度迴歸貨運領域
正在載入播放器……自動駕駛行業似乎又要重演2016年的那輪炒作熱潮。特拉維斯·卡蘭尼克再度投身機器人初創企業的發展,人才爭奪與資金投入的激烈程度也與當初如出一轍。資金再度湧入,而那些經歷過第一波浪潮的人正主導著下一波發展。Humble Robotics的創始人兼執行長埃亞爾·科恩便是其中之一。在Uber伸出橄欖枝時,他還在Otto工作;之後他又跟隨安東尼·萊萬多夫斯基加入了Pronto。在舊金山灣區深耕深度科技領域二十年之後,他的新公司於4月低調成立,獲得了2400萬美元的資金支援,用於
相關專題推薦
評論 (0)
0/500

近幾個月來,一波以研究為導向、雄心勃勃的人工智慧實驗室如雨後春筍般湧現,其中「Flapping Airplanes」堪稱最引人入勝的實驗室之一。 在年輕且充滿好奇心的創辦人帶領下,該實驗室致力於尋找對數據需求較低的 AI 訓練方法。這種方法可能從根本上重塑 AI 模型的經濟效益與功能——而憑藉 1.8 億美元的種子輪資金,他們擁有充足的空間進行探索。
上週,我與該實驗室的三位共同創辦人——本(Ben)和阿舍(Asher)·斯佩克特(Spector)兄弟,以及艾丹·史密斯(Aidan Smith)——坐下來深入探討,為何現在正是創立新人工智慧實驗室的絕佳時機,以及他們為何持續從人類大腦中汲取靈感。
讓我先從一個顯而易見的問題開始:為什麼是現在?像 OpenAI 和 DeepMind 這樣的實驗室已經投入了龐大資源來擴展其模型。我想這份競爭壓力想必令人望而生畏。是什麼讓你們覺得現在正是創立基礎模型公司的最佳時機?
班:還有太多事情待做。過去五到十年的進展確實令人驚嘆。我們熱愛這些工具——每天都在使用它們。但問題在於,這是否就是我們需要達成的全部目標? 我們經過深思熟慮,答案是否定的——未來還有更多待開發的領域。對我們而言,資料效率問題似乎是亟待解決的關鍵課題。當今最前沿的模型基本上是基於全人類的知識進行訓練的,然而人類卻能以遠少於此的資料量運作。這之間的差距極大,值得深入探究。
我們所做的,本質上是對三件事的集中押注。首先,數據效率確實是值得解決的問題——這是一個真正嶄新的方向,且有望取得進展。 其次,解決這個問題將具有商業價值,並能讓世界變得更好。第三,最適合承接這項任務的團隊,必須具備創造力,且在某些方面還缺乏經驗——這是一群願意從頭重新審視這些問題的人。
艾丹:完全正確。我們並不認為自己是在與其他實驗室競爭,因為我們專注於截然不同的問題領域。 試著觀察人類的思維——它的學習方式與變壓器模型(Transformers)在根本上截然不同。未必更好,只是非常不同。因此我們看到不同的取捨。大型語言模型(LLMs)在記憶和調用海量知識方面非常出色,但它們難以快速掌握新技能——適應新任務需要海量的數據。 若深入探究大腦的運作機制,其所運用的演算法與梯度下降法及其他當前的訓練技術在根本上截然不同。正因如此,我們正培育新一代的研究人員,以解決這些問題並重新構思人工智慧的格局。
阿舍(Asher):這個問題在科學層面上極具吸引力:為何我們所建構的智能系統與人類的運作方式如此不同?這種差異源自何處,我們又該如何利用它來打造更完善的系統?與此同時,我相信這在商業上具有可行性,且對世界有益。 許多重要領域都面臨數據限制——無論是機器人技術、科學發現,甚至是企業應用。若能開發出數據效率提高一百萬倍的模型,其融入經濟體系的難度也將降低一百萬倍。因此,對我們而言,採用嶄新的視角令人振奮:倘若我們能建構出數據效率大幅提升的模型,我們又能藉此達成什麼成就?
TechCrunch 活動TechCrunch 2026 創辦人峰會:門票開售
6月23日,波士頓將迎來 超過1,100位創辦人齊聚「TechCrunch 2026 創辦人峰會」,展開一整天的交流,聚焦於成長、執行與實際規模化。向塑造產業的創辦人與投資人學習,與正處於類似成長階段的同行建立聯繫,並帶回可立即應用的實戰策略
購買個人通行證最高可省300 美元;四人以上團隊購買團體票,最高可享 30% 折扣。
TechCrunch 創辦人峰會:門票現已開售
6月23日,波士頓將迎來 超過1,100位創辦人齊聚「TechCrunch 2026創辦人峰會」,展開為期一整天、專注於成長、執行與實際規模擴展的深度探討。向塑造產業格局的創辦人與投資人學習,與正處於相似成長階段的同行建立聯繫,並帶走可立即付諸實行的實戰策略
購買通行證最高可省$300,或透過四人以上團隊團體票享最高 30% 折扣。
麻薩諸塞州波士頓|2026年6月23日 立即註冊這引出了我的下一個問題,也與「Flapping Airplanes」這個名稱息息相關。 在人工智慧領域中,存在著一場哲學辯論:我們應該在多大程度上試圖複製人類大腦的運作過程,抑或創造一種遵循完全不同路徑、更為抽象的智慧?艾丹來自 Neuralink,該公司完全專注於人類大腦。你們是否認為自己正在追求一種更偏向神經形態的人工智慧觀點?
艾丹:我將 大腦視為一種「存在證明」——證明世上存在其他演算法,而不僅僅是一種正統觀點。大腦在極其嚴苛的限制下運作。觸發一次動作電位需要一毫秒;而在同一時間內,電腦卻能執行無數次運算。 因此,很可能存在某種比大腦更優越、且與變壓器模型截然不同的方法。我們雖從大腦的某些運作機制中獲得啟發,但並不覺得自己受其束縛。
班:補充一點, 這點就體現在我們的名稱中:「Flapping Airplanes」。不妨將當前的系統想像成巨大的波音 787 客機。我們並非試圖打造鳥類——那目標太過遙遠。 我們試圖打造的,是類似「拍翅飛機」的東西。從電腦系統的角度來看,大腦與矽晶片的限制條件差異極大,因此我們不應預期這兩種系統最終會呈現相同的樣貌。由於基底材料如此不同,且在運算成本、局部性與資料移動方面的權衡取捨也大相逕庭,這兩種系統自然會呈現出些許差異。 但這並不意味著我們不該從大腦中汲取靈感,並運用我們認為有趣的部分來改進自己的系統。
如今各實驗室似乎擁有更多自由,能專注於研究而非僅限於開發產品。這對當代實驗室而言,可謂一場重大轉變。有些實驗室非常注重研究;有些則只是「目前以研究為重」。在「Flapping Airplanes」內部,這方面的討論是如何展開的?
阿舍(Asher):我真希望能給你一個時間表。真希望能說:「三年內,我們將解決這個研究問題,並將以這種方式進行商業化。」但我做不到。我們還不知道答案。 我們正在追尋真理。話雖如此,我們確實具備商業背景。我曾為多家企業開發技術,並為它們創造了可觀的營收;班則曾培育過具有商業根基的新創公司,而且我們對商業化確實充滿熱忱——我們認為,將創造出的價值交到能善加利用的人手中,對世界是有益的。 因此我們並非反對商業化。我們只是必須從研究開始,因為如果一開始就簽訂大型企業合約,我們會因此分心,而無法進行有價值的研究。
艾丹:沒錯——我們想嘗試徹底不同的事情,而有時激進的想法,說穿了可能還不如現有的模式好。我們正在探索一系列不同的取捨,希望這些取捨長遠來看能有所回報。
班:企業 在真正專注於做好一件事時,才能發揮最佳狀態,對吧?大企業有能力同時處理許多事情。身為新創公司,你必須挑選最有價值的那件事並全力以赴。當我們目前全心投入解決根本問題時,才能創造最大的價值。
我其實很樂觀,相信不久之後我們就能取得足夠的進展,開始在現實世界中嶄露頭角。從現實世界的反饋中,你能學到很多。這個世界最令人驚嘆之處在於,它不斷教導著你——它是一座巨大的真理之池,你可以隨時窺探其中奧秘。 我認為,近期這些商業模式在經濟與融資層面的轉變,讓企業能夠更長時間地專注於自身擅長之事。這種專注——這正是我最為興奮之處——將使我們能做出真正與眾不同的成果。
為了闡明我認為你所指的重點:人工智慧領域的熱潮如此高漲,以致投資者願意向一家嶄新的公司提供 1.8 億美元的種子輪資金,這家公司裡盡是些非常聰明、非常年輕的人才,而且他們並非剛從 PayPal 套現離場。參與這個過程的體驗如何? 你一開始就知道市場有這樣的熱情,還是後來才發現這件事能比預期做得更大?
班:兩者都有。市場已經熱絡了好幾個月,因此大額融資輪即將成形並非秘密。但你永遠無法預知募資環境會如何回應你的具體構想。 說到底,你必須讓外界給予你反饋。即使在募資過程中,我們也學到了很多並調整了構想——我們重新梳理了商業化的優先順序與時程表。
我們的理念能引起如此強烈的共鳴,這讓我們有些意外。對我們來說這很明確,但你永遠不知道別人是否會認同,還是會覺得你瘋了。 我們非常幸運地找到了一群出色的投資者,他們真正認同我們的理念,並表示:「沒錯,這正是我們一直在尋找的。」這實在太棒了——既令人驚訝又令人欣喜。
艾丹:沒錯,對「研究時代」的渴求已經在業界醞釀了一段時間。我們越來越發現,自己正處於推動這個時代、並嘗試這些激進構想的關鍵位置。
至少對以規模為導向的公司而言,基礎模型的入門門檻極高——構建如此大規模的模型需要極其龐大的運算資源。研究則處於中間地帶:雖然你可能仍在構建基礎模型,但若能以較少數據進行,且不那麼注重規模,或許就能找到突破口。 你預期運算成本會在多大程度上限制你的資金續航力?
Ben:深入且基礎的研究有一項優勢在於——這聽起來或許有些矛盾——嘗試真正瘋狂、激進的構想,其實比進行漸進式研究要便宜得多。進行漸進式研究時,為了驗證其可行性,你必須在擴展階梯上攀升得很高——許多小規模的調整在大規模環境下往往無法持續。 這很昂貴。但如果你對架構優化器有個天馬行空的新點子,它第一輪測試大概率就會失敗,所以你根本不需要將其擴展。它本來就行不通——這太棒了。
這並不意味著規模對我們而言無關緊要。規模是工具箱中的一項重要工具。能夠將我們的構想擴大規模當然很重要。所以我不會將我們定位為規模的對立面。但我們能在考慮大規模之前,先以極小的規模嘗試許多構想,這正是我們工作的一大魅力所在。
阿舍:沒錯 ,你應該能夠利用整個網際網路——但你不應該非得這麼做不可。我們覺得非常困惑的是,竟然需要動用整個網際網路才能達到人類級別的智慧。
那麼,如果能更高效地利用數據進行訓練,將會帶來什麼可能性?可以預見,模型將會更強大、更聰明。你對這將引向何方有具體的想法嗎?我們是在談論更強的「分布外泛化」能力,還是指模型能在較少經驗的情況下,於特定任務中表現得更好?
阿舍:首先, 我們從事的是科學研究,所以我並不知道答案——但我可以提出三個假說。我的第一個假說是:在「僅尋找統計模式」與「具備深刻理解」之間,存在著一個廣泛的連續光譜。當前的模型位於這個光譜的某個位置——尚未達到深刻理解的程度,但顯然也不僅僅是模式匹配。 有可能在較少數據上進行訓練,會迫使模型對其所見的一切發展出極其深刻的理解。這可能會讓模型以有趣的方式變得更聰明——它可能知道的事實較少,但推理能力更強。這是其中一個假設。
另一項假設與您所說的相似:目前要教導模型新能力,無論在運作上還是金錢上都成本高昂,因為需要大量數據。我們研究的一項成果可能是大幅提升後訓練的效率,如此一來,僅需少量範例就能將模型部署到新領域。
此外,這也有可能為人工智慧開闢新的垂直領域。舉例來說,在機器人領域,無論出於何種原因,我們始終無法使其具備商業可行性。我認為這是數據不足的問題,而非硬體問題——能夠遠端操控機器人的事實,已證明硬體性能足夠出色。 這類領域還有很多,例如科學發現。
Ben:有件事 我想深入探討一下:當我們思考 AI 的影響時,有一種觀點認為它是一種通縮性技術——自動化工作、降低勞動力成本、從經濟體系中消除工作崗位。這種情況確實會發生。 但在我看來,這並非最令人振奮的願景。最令人振奮的願景是:人工智慧能協助我們建構人類憑藉自身智慧無法構思、但其他系統卻能實現的新科學與新技術。
在這方面,阿舍提到的軸線——即真正的泛化能力與死記硬背或插值之間的區別——對於引領醫學與科學進步的深刻洞見至關重要。 關鍵在於,模型必須位於該光譜的「創造力」一端。我之所以對我們的研究如此興奮,部分原因在於:除了個體層面的經濟影響之外,我真正關注的是能否讓人工智慧完成人類過去根本無法做到的事情。這遠不止於「讓我們解僱一大群人」這麼簡單。
完全正確。這是否意味著你在關於「超分布泛化」的 AGI 討論中,屬於某個特定陣營?
阿舍:我 其實並不確切知道 AGI 究竟代表什麼。技術能力正在快速進步,也創造了巨大的經濟價值。但我認為我們離「盒中神」還很遠。 我不預期兩個月內,甚至兩年內就會出現人類變得多餘的「奇點」。我基本上同意班的說法:世界非常遼闊,有許多工作待完成,而我們很興奮能為此貢獻心力。
嗯,關於大腦和類神經形態部分的觀點確實很有關聯性。你的意思是,與大型語言模型(LLMs)進行比較時,更相關的對象是人類大腦,而非之前的 Mechanical Turk 或確定性電腦。
艾丹:我要 強調:大腦並非上限——在許多方面,它只是下限。 我未見任何證據表明大腦不是一個遵循物理定律且可被理解的系統。它受到許多限制。因此,從長遠來看,我們應期待創造出比大腦更有趣、更不同,且潛在表現更優異的能力。無論這被稱為 AGI 還是其他名稱,我們都期待為這個未來貢獻心力。
阿舍:而且 我確實認為大腦是合適的比較對象,因為它能幫助我們理解這個領域有多廣闊。看到所有進展時,人們很容易會想:「哇,我們已經找到答案了,快要完成了。」但若退一步審視全局,就會發現還有許多未知之處。
班:我們 並非單純為了做得更好。我們試圖走出一條不同的路——這正是我想反覆強調的關鍵。所有這些系統幾乎肯定都會面臨不同的取捨。 你在某個方面獲得優勢,就會在另一方面有所犧牲。外面的世界很大,有許多領域都存在著各不相同的權衡取捨。擁有更多能針對這些不同領域的系統和基礎技術,很可能讓人工智慧更有效率、更迅速地普及到世界各地。
你們在招聘策略上展現了獨特之處——招募非常年輕的人才,有些甚至還在大學或高中就讀。當你與某人交談時,什麼特質會讓你心想:「我希望這個人來研究這些問題」?
艾丹:就是 當你與某人交談時,對方讓你眼前一亮——他們擁有許多新穎的想法,且思維方式是許多資深研究人員無法企及的,因為他們尚未受到成千上萬篇論文的束縛。我們最看重的就是創造力。 我們的團隊極具創造力,每天能與這些夢想著截然不同未來的人們一起探討解決重大 AI 難題的顛覆性方案,我深感幸運。
班:我最重視的訊號大概是:與他們相處時,他們能否教給我新東西?如果他們能教給我新東西,那麼他們在我們的工作上也能帶來新見解的機率就很高。在進行研究時,富有創意的新點子是首要考量。
在我大學和博士期間的經歷中,曾協助創辦名為「Prod」的創業孵化器,該孵化器合作過的公司後來都發展得相當成功。我們觀察到的一點是:年輕人絕對有能力在業界最高層級中一較高下。 突破的關鍵,很大程度上就在於意識到:「沒錯,我確實能勝任這些工作。」你絕對能在最高層級做出貢獻。
當然,我們也認可經驗的價值。曾參與大型系統開發的人士非常優秀——我們已聘請了其中一些人,並期待與各類人才合作。 我認為我們的使命也引起了資深人士的共鳴。關鍵在於,我們需要的是那些不懼怕改變既有框架、並能構思出事物運作新模式的人才。
有一件事一直讓我感到困惑:你認為最終產出的 AI 系統會有多大不同?很容易想像像 Claude Opus 這樣,效能僅提升 20%、功能增加 20% 的系統。 但如果它完全是嶄新的,就很難預見其發展方向或最終成果會是什麼樣子。
阿舍:我不確定你是否曾有幸與 GPT-4 基礎模型對話,但它展現出許多新奇的能力。例如,你可以拿出一段尚未寫成的部落格文章片段,詢問作者是誰,它就能準確辨識出來。
這類能力不勝枚舉,模型展現出的智慧往往超乎我們的想像。未來的模型將會以更奇特的方式變得更聰明。 我認為我們應該預期未來會非常詭異,而其架構將更加詭異。我們追求的是資料效率的 1000 倍飛躍——而非漸進式的改變。因此,在極限狀態下,我們應預期會出現同樣難以預料、宛如外星般的變革與能力。
Ben:我大致上同意。我對這些事物最終將如何被世界所體驗,態度可能稍微謹慎一些——就像 GPT-4 基礎模型被 OpenAI 加以節制那樣。你希望將事物呈現成一種形式,讓使用者不會直面深淵。這點很重要。 但我基本上同意,我們的研究議程旨在建立與現有能力截然不同的根本性新能力。
太棒了!大家有什麼方式可以參與「Flapping Airplanes」的計畫嗎?現在提這個是否還太早,還是應該先靜待研究成果與模型問世?
阿舍:如果您只是想打聲招呼,可以透過 [email protected] 聯繫我們。如果您想對我們提出異議,也可以透過 [email protected] 聯繫。我們曾進行過一些非常精彩的對話,有人會寄來長篇大論,闡述他們為何認為我們所做的事是不可能的——而我們很樂意與他們交流。
班:但他們至今還未能說服我們。到目前為止,還沒有人能說服我們。
阿舍:其次,我們正在尋找那些渴望改變這個領域乃至世界、才華出眾的人才。若您有興趣,歡迎與我們聯繫。
班:而且, 如果你有非傳統的背景,這完全沒問題。你不需要擁有兩個博士學位。我們真正尋找的是那些思維獨特的人。
這是否會成為代幣經濟危機的起點?
微軟近期對 GitHub Copilot 的定價進行了大幅調整,變動幅度之大甚至有 Reddit 使用者將企業內部出現的狀況稱為“代幣末日”。在 TechCrunch 的《Equity》播客最新一集中,Kirsten Korosec、Sean O’Kane 與我一同探討了這些價格變動可能對整個 AI 行業產生的影響。隨著 Anthropic 及其他大型 AI 公司準備上市,關於盈利能力的疑問日益增多,企業為控制開支,很可能會再次提高價格並增設使用限制。Sean 提出了一個關鍵問題:“這些 AI
美國政府對 Anthropic 的禁令可能會無意間提升該品牌的知名度
正在載入播放器……就在上週即將結束之際,美國政府以國家安全為由,迫使 Anthropic 下架其兩款最新模型「Fable 5」與「Mythos 5」——此前據稱亞馬遜的研究人員發現了一種繞過 Fable 5 安全防護機制的方法。此後,網路安全研究人員聯名發表公開信,指稱此舉極為危險;Anthropic 自身也指出,其他模型中同樣存在這類「越獄」漏洞。那麼,這究竟是真正的安全隱患,還是 Anthro
Humble Robotics讓自動駕駛車輛領域的熱度再度迴歸貨運領域
正在載入播放器……自動駕駛行業似乎又要重演2016年的那輪炒作熱潮。特拉維斯·卡蘭尼克再度投身機器人初創企業的發展,人才爭奪與資金投入的激烈程度也與當初如出一轍。資金再度湧入,而那些經歷過第一波浪潮的人正主導著下一波發展。Humble Robotics的創始人兼執行長埃亞爾·科恩便是其中之一。在Uber伸出橄欖枝時,他還在Otto工作;之後他又跟隨安東尼·萊萬多夫斯基加入了Pronto。在舊金山灣區深耕深度科技領域二十年之後,他的新公司於4月低調成立,獲得了2400萬美元的資金支援,用於





首頁






