AI Power Suger：擬人的首席執行官警告種族了解

在巴黎舉行的AI動作峰會結束後，Anthropic的聯合創始人兼首席執行官Dario Amodei並沒有退縮。他稱這項活動為“錯過的機會”，並強調我們需要在AI技術的發展速度上提高幾個關鍵問題的重點和緊迫性。他在周二發布的聲明中分享了這些想法。

Anthropic與法國初創公司Dust合作，在巴黎舉行以開發人員為中心的活動，TechCrunch在舞台上與Amodei聊天。他分享了自己的觀點，並推動了AI創新和治理的平衡方法，避免了極端樂觀和嚴厲的批評。

曾經是神經科學家的阿莫迪（Amodei）說：“我基本上是在真正的大腦中以謀生為生。現在，我們在人造的大腦中尋找謀生。因此，在接下來的幾個月中，我們將在解釋性領域取得一些令人興奮的進步 - 我們真正開始真正了解模型的運作方式。”但是他還指出，這是一場比賽。他補充說：“這是使模型更強大的競賽，這對我們來說非常快，對他人來說是非常快的速度 - 您不能真正放慢腳步，對嗎？

自英國布萊奇利舉行的第一次AI峰會以來，圍繞AI治理的對話發生了很大變化，受到當前地緣政治氣候的影響。美國副總統JD Vance在AI行動峰會上說：“我今天早上不在這裡談論AI安全，這是幾年前會議的頭銜。我在這裡談論AI的機會。”

但是，Amodei試圖彌合安全與機會之間的差距。他認為，更多地關注安全實際上可能是一個機會。他在人類事件上說：“在英國布萊奇利峰會的原始峰會上，關於各種風險的測試和測量進行了很多討論。而且，我認為這些事情根本不會放慢技術。” “如果有的話，進行這種測量可以幫助我們更好地理解自己的模型，最終，這有助於我們產生更好的模型。”

即使強調安全性，Amodei也明確表明，人類仍在建立Frontier AI模型上。他說：“我不想採取任何措施來減少承諾。我們每天都在提供人們可以建立的模型，而這些模型習慣於做驚人的事情。我們絕對不應該停止這樣做。”後來，他補充說：“當人們談論很多風險時，我有點生氣，我說：'哦，伙計，沒有人真的做得很好，真正地闡明了這項技術可能是多麼偉大。''

當這個話題轉向中國LLM製造商Deepseek最近的模型時，Amodei淡化了他們的成就，稱公眾反應為“無機”。他說：“老實說，我的反應很少。我們已經看到了V3，這是Deepseek R1的基本模型，早在12月。這是一個令人印象深刻的模型。12月發布的模型是在這種非常正常的成本降低曲線上，我們在我們的模型和其他模型中都看到了。”引起他注意的是，該模型並非來自美國，例如Google，Openai和Anthropic的通常的“三到四個邊境實驗室”。他對專制政府主導該技術表示關注。至於DeepSeek聲稱的培訓費用，他將其視為“只是不准確，也不是基於事實”。

儘管Amodei在活動中沒有宣布任何新車型，但他暗示了即將發布的發行版，其推理功能增強了。他說：“我們通常專注於嘗試更好地差異化的推理模型。我們擔心要確保擁有足夠的能力，模型變得更加智能，並且我們擔心安全性。”

人類也正在應對模型選擇挑戰。例如，如果您是ChatGpt Plus用戶，則很難確定要用於下一條消息的模型。

Amodei質疑正常模型和推理模型之間的區別。他說：“我們對存在正常模型的想法感到有些困惑，並且存在推理模型，並且它們彼此之間有所不同。” “如果我和你說話，你沒有兩個大腦，其中一個立即做出回應，而另一個則要等待更長的時間。”

他認為，克勞德3.5十四行詩或GPT-4O等預先訓練的模型與接受增強型學習訓練的模型之間應該有一個更光滑的過渡，該模型可以產生思想鏈（COT）（COT），例如OpenAI的O1或DeepSeek的R1。 Amodei說：“我們認為它們應該作為一個連續實體的一部分存在。而且我們可能還沒有在那裡，但是人類確實希望朝著這個方向移動事物。” “我們應該從那傾向於預先訓練的模型，而不是'這是一件事，這就是B。'”

隨著AI像Anthropic這樣的AI公司不斷推出更好的模型，Amodei看到了整個行業中斷的巨大潛力。他說：“我們正在與一些製藥公司合作，使用克勞德（Claude）撰寫臨床研究，他們已經能夠減少撰寫臨床研究報告的時間從12周到三天。”

他設想了法律，財務，保險，生產力，軟件和能源等領域的AI應用程序中的“破壞性創新的複興”。他總結說：“我認為，在AI應用程序領域中，將會有一個破壞性創新的複興。我們想幫助它，我們希望支持一切。”

閱讀我們對巴黎人工智能行動峰會的全面報導。

TechCrunch有一個以AI為重點的新聞通訊！在這裡註冊以將其在每個星期三的收件箱中獲取。