人工智慧開始自我建構

理查德·索徹（Richard Socher）長期以來一直是人工智慧領域的知名人物，他因創立早期聊天機器人新創公司 You.com 而廣受認可，在此之前，他因參與 ImageNet 的開發工作而聞名。 如今，他正加入新一波以研究為導向的人工智慧新創浪潮，加入總部位於舊金山的 Recursive Superintelligence 公司——這家公司於週三正式出籠，並宣布獲得 6.5 億美元的融資。

索徹在這項新創事業中，匯聚了一群知名的人工智慧研究人員，包括彼得·諾維格（Peter Norvig）以及 Cresta 共同創辦人蒂姆·施（Tim Shi）。他們共同致力於打造一個具有遞迴自我改進能力的人工智慧模型——該模型能夠自主偵測自身的缺陷，並在無需人類干預的情況下重新設計自身以解決這些問題。 這個目標長期以來被視為現代人工智慧研究中的「聖杯」。

在發布會後，我透過 Zoom 與他進行了訪談，深入探討了 Recursive 獨特的技术方法，以及他為何不將這個新項目視為「新實驗室」（neolab）——這是指新一代 AI 新創公司，它們將研究置於產品開發之上。

為求清晰，本次訪談內容已進行刪節與編輯。

近來我們常聽到「遞迴」一詞——這似乎是許多實驗室普遍追求的目標。貴公司的方法有何獨特之處？

我們獨特的方法依賴於「開放性」來實現遞迴式自我改進——這是迄今為止無人能達成的目標。對許多人來說，這是一個難以企及的目標。 許多人認為這在自動研究中會自然發生——你可以要求人工智慧改進其他事物，例如機器學習系統或你寫的一封信等等。但那並非遞迴式自我改進；那只是單純的改進。

我們的首要目標是構建一個真正具有遞迴性、能自我提升且具備大規模運作能力的超級智慧——這意味著從產生、實施到驗證研究構想的整個過程都將實現自動化。

起初，它將自動化處理 AI 研究構想，最終則能涵蓋任何類型的研究構想——包括物理領域中的構想。但當 AI 著手研究自身，並發展出針對自身局限性的新型態自我覺知時，其威力將尤為顯著。

您提到了「開放式」這個詞——它有特定的技術含義嗎？

是的，確實有。事實上，我們的共同創辦人之一提姆·洛克塔謝爾（Tim Rocktäschel）曾領導 Google DeepMind 的開放式與自我提升團隊，並專門負責世界模型 Genie 3 的開發，這正是開放式的絕佳範例。 你可以向它輸入任何概念、任何世界、任何代理，它便會生成一個互動版本。

在生物演化中，動物會適應其環境，而其他物種則會針對這些適應進行反適應。這是一個可能持續數十億年的過程，其中不斷湧現出有趣的發展。這就是我們在[頭部]上演化出眼睛的方式。

另一個例子是「彩虹團隊」（rainbow teaming），出自 Tim 的另一篇論文。你聽過「紅隊演練」（red teaming）嗎？

在網路安全領域，這指的是——

因此，「紅隊測試」同樣適用於大型語言模型（LLM）的脈絡中。基本上，你試圖讓大型語言模型告訴你如何製造炸彈，並確保它會拒絕這麼做。

人類可能需要花費很長時間來構思 AI 不該說出的內容。但如果讓第二個 AI 來測試第一個 AI，而這個第二個 AI 的任務是促使第一個 AI [試圖] 說出所有可能的有害內容呢？如此一來，它們便能進行數百萬次的反覆迭代。

你實際上可以讓兩個人工智慧共同演化。其中一個持續攻擊另一個，探索的不僅是一個角度，而是許多不同的角度——因此才有了「彩虹」的比喻。接著，你可以為第一個人工智慧進行「免疫接種」，使其變得越來越安全。這個構想源自提姆·洛克泰謝爾（Tim Rocktäschel），如今已被所有主要實驗室採用。

你怎麼知道何時才算完成？我想這永遠不會真正結束。

其中某些事物永遠無法完成。智慧總能持續提升，程式設計、數學等能力也總能不斷進步。智慧確實存在理論上的極限——我目前正試圖將其形式化——但這些極限高得驚人。我們距離這些極限還非常遙遠。

身為一家新興實驗室，看來大家期待你們追求的是大型實驗室所未涉足的領域。這意味著你認為大型實驗室無法透過現有方法實現 RSI [遞迴自我改進]。這樣的評估是否正確？

我無法對他們的具體做法置評，但我確實認為我們的切入角度不同。我們完全擁抱「開放性」的概念，而我們的團隊也全心致力於實現這個願景。 過去十年間，團隊持續在此領域進行研究並發表論文，不僅推動了該領域的發展，更成功推出實際產品。例如，Tim Shi 將 Cresta 打造為獨角獸公司；Josh Tobin 則是 OpenAI 的早期成員之一，並最終領導了該公司的 Codex 及深度研究團隊。

其實我偶爾會對這個「新實驗室（neolab）」的標籤感到有些困擾。我覺得我們不僅僅是一個實驗室。我希望我們能成為一家真正可持續運作的公司，推出令人驚豔且廣受歡迎的產品，並對人類社會產生積極影響。

那麼，你們計畫何時推出首款產品？

我對此思考良多。團隊已取得巨大進展，我們甚至可能比最初預期的時程更早推出產品。但沒錯，產品終將問世——而且各位只需等待幾個季度，而非數年。

「遞迴式自我提升」背後的理念之一是：一旦建立這樣的系統，運算能力便成為唯一的關鍵資源。系統運行得越快，提升速度就越快，而任何外部的人為干預都無法真正產生實質影響。因此，競爭的焦點便轉變為：我們能為它投入多少運算能力？ 你認為這就是我們正邁向的世界嗎？

運算能力絕不可低估。我認為未來的一個關鍵問題是：人類願意分配多少運算資源來解決哪些問題？這裡有這種癌症，那裡有那種病毒——你想要先解決哪一個？ 你願意分配多少運算資源？這最終將成為資源配置的問題。這將會是世界上最重要的問題之一。