三位人工智慧先驅在安全擔憂日益加劇之際，主張保持大型模型的開放性

諸如“前沿節奏”（Pacing the Frontier）之類的倡議旨在透過與主要實驗室合作來確保人工智慧安全，然而開源模型在行業內仍是一個充滿爭議的話題。由於其免費分發且缺乏使用控制，開源權重模型難以監管，導致一些機構對此感到高度擔憂。

然而，在上週於拉斯維加斯舉行的 Ai4 會議上，三位著名的人工智慧專家——諾貝爾獎得主傑弗裡·辛頓（Geoffrey Hinton）、World Labs 執行長兼聯合創始人李飛飛（Fei-Fei Li）以及 Coursera 聯合創始人吳恩達（Andrew Ng）——就這一話題發表了看法。儘管他們在具體策略上存在分歧，但三人都強烈主張維持開放的人工智慧生態系統。

對於這些演講者而言，主要關切是防止少數幾家大型人工智慧公司控制技術進步。當少數公司壟斷了某項技術的訪問許可權時，類似於蘋果和谷歌控制移動作業系統的情況，創新可能會停滯，平臺控制者可以決定哪些技術得到開發。

吳恩達表達了對類似動態在人工智慧領域出現的擔憂。“我不希望出現守門人，”吳恩達表示。“這會限制我們所有人獲取人工智慧的途徑。”

公司受到激勵去保護其競爭優勢，包括塑造行業監管。這可能導致一種情景：只有那些擁有構建先進人工智慧系統資源的最大、資金最雄厚的公司才能生存下來。

吳恩達的解決方案是保持多家提供商，確保模型和公司之間展開競爭，而不是讓少數參與者佔據主導地位。“如果我只能給出一個建議，那就是促進開放性，”吳恩達說，“因為人工智慧是一項令人驚歎的技術，我希望它掌握在每個人手中。”

並非所有人都認為開源權重模型能夠維持這種競爭平衡。辛頓特別區分了開源軟體（使底層程式碼可供檢查和修改）與開源權重模型（將經過訓練的人工智慧模型的引數向公眾釋出）。

“開源很棒。你向人們展示程式碼，許多人檢視程式碼行並說：‘哦，這裡有個 bug。’開源權重意味著你訓練一個大模型，然後將權重交給人們。這有很大不同，”辛頓解釋道。“我反對開源權重，因為它讓人們可以非常輕鬆地利用這些訓練成本非常高昂的大型基礎模型，用更少的錢去訓練它們做壞事，比如網路攻擊。”

儘管心存疑慮，辛頓承認開源權重模型已成為人工智慧領域的永久組成部分。“我認為這場仗已經輸了。我們現在有了開源權重模型，因此人們獲取這些大型模型的障礙——即訓練基礎模型的成本——已經消失。為時已晚。”

然而，接受現實並不意味著忽視風險。辛頓的立場很明確：人工智慧將繼續進步，他認為這在很大程度上是有益的。他指出，這將提高生產力，並改善教育和醫療保健。“擔心人工智慧可能帶來的不良影響以及智慧生物在比我們更聰明時可能做的事情。我認為這不公平。我認為，將任何持有這種觀點的人貼上‘散佈恐懼者’的標籤是不公平的，”辛頓補充道。

吳恩達提出了不同的觀點。他認為，問題不在於開源模型是否有風險，而在於誰控制訪問許可權以及誰將在市場中獲勝。構建更便宜模型的一方獲得優勢。他警告說，如果中國的開源權重模型在亞洲、非洲和/或發展中國家得到廣泛採用，它們可能會影響數十億人接觸關於民主、自由和人權的觀念。

“我希望我們做到的一點是鼓勵美國的競爭力和開源人工智慧。事實證明，人工智慧是軟實力的巨大來源。你可以看到中國的模型在非洲取得了巨大的成就，例如，”吳恩達說。“但我的擔憂是，由於美國所有的遊說活動和散佈恐懼的行為，在美國構建開源人工智慧正難以與來自中國的開源權重模型競爭，我的擔憂是，如果中國找到了一種從根本上更具成本效益的人工智慧構建方式，那麼更具成本效益的事物將在商業採用方面具有根本優勢。”

李飛飛對此種框架提出了挑戰。“將這種完全開放到完全封閉的二元對立視為非常危險，”她說。“在複雜的軟體系統以及科學系統中，情況要微妙得多。”

李飛飛以核物理學為例：科學論文公開出版，但鈾受到監管，而實驗室工作則介於兩者之間。她解釋說，這一教訓是，開放性不必是非此即彼的選擇。生態系統中的不同層級可以在不同水平的開放性下運作。

她還強調了公私機構之間的合作，例如人類基因組計劃。她表示，由此產生的知識成為了一個平臺，其他人可以在此基礎上構建，允許製藥公司獲利，科學家推進他們的工作，並使社會受益。

“所以我認為我們必須將人工智慧用作那樣的基礎設施，”李飛飛說。“我們需要一定程度的開放性，無論是在科學發現、教育、全球夥伴關係方面，還是為企業家提供有利可圖的商業模式。但我們也將接受閉源系統。這種辯論，特別是在‘我們只能容忍一種’的宏觀層面上，是一個錯誤的辯論。我們需要達到一個微妙性的層面。”

然而，所有人都同意，一定程度的監管對於使人工智慧走上正軌是必要的。“我們要做的是朝著有助於人類的方向發展人工智慧，監管將幫助我們做到這一點，”辛頓說。“你不能把人工智慧應該如何發展的決定權留給像埃隆·馬斯克和馬克·扎克伯格這樣的人。”