億萬富翁討論自動化取代工作在本週的AI更新中

大家好，歡迎回到TechCrunch的AI通訊！如果您尚未訂閱，可以在此訂閱，每週三直接送到您的收件箱。

我們上週稍作休息，但理由充分——AI新聞週期火熱異常，很大程度上要歸功於中國AI公司DeepSeek的突然崛起。這段時間風起雲湧，但我們現在回來了，正好為您更新OpenAI的最新動態。

週末，OpenAI執行長Sam Altman在東京停留，與SoftBank負責人孫正義會面。SoftBank是OpenAI的大投資者，承諾資助美國一項龐大的數據中心項目。因此，Altman與孫正義坐下來談談並不令人意外。

他們談了什麼？據報導，話題圍繞著AI「代理」以及如何簡化工作流程。孫正義投下震撼彈，宣佈SoftBank計劃每年在OpenAI產品上投入高達30億美元。他們還合作打造名為「Cristal Intelligence」的項目，目標是自動化數百萬白領工作。

SoftBank在週一的新聞發布會中宣稱：「通過自動化和自主化所有任務與工作流程，SoftBank Corp.將轉型其業務與服務，並創造新的價值。」

參加TechCrunch Sessions: AI展覽

在TC Sessions: AI確保您的展位，向1,200多名決策者展示您的成果，且不需花費過多。展位名額開放至5月9日或展台售罄為止。

參加TechCrunch Sessions: AI展覽

在TC Sessions: AI確保您的展位，向1,200多名決策者展示您的成果，且不需花費過多。展位名額開放至5月9日或展台售罄為止。

加州伯克利 | 6月5日 立即預訂

但讓我們退一步，從人的角度思考這一切。當Klarna的Sebastian Siemiatkowski等執行長誇耀AI取代人力，孫正義也表達類似觀點時，很容易被財富與效率的願景吸引。但那些可能失業的工人呢？這是個難以接受的事實，尤其是當AI領軍者似乎更專注於企業收益而非對員工的影響時。

這有點令人沮喪，對吧？像OpenAI這樣的企業和SoftBank這樣的投資者正在塑造AI的未來，但他們在聚光燈下談論的是自動化企業與減少員工數量。我明白，他們是企業，不是慈善機構，AI開發成本高昂。但如果他們能多一點關心人的因素，或許人們會更信任AI。

這是值得深思的問題。

新聞

• 深入研究： OpenAI推出了一款新的AI「代理」，旨在幫助您使用ChatGPT進行複雜研究。
• O3-mini： 在OpenAI的其他新聞中，他們推出了o3-mini，一款新的AI「推理」模型。它不是最強大的，但更高效且速度更快。
• 歐盟禁止高風險AI： 自週日起，歐盟可禁止被認為具有「不可接受風險」或危害的AI系統，包括用於社會評分和潛意識廣告的系統。
• 關於AI「末日論者」的劇作： 有一部新劇深入探討AI「末日論者」文化，靈感來自去年11月Sam Altman短暫被OpenAI驅逐的事件。我的同事Dominic和Rebecca在首演後分享了他們的看法。
• 提升作物產量的技術： Google的X「moonshot factory」推出了Heritable Agriculture，一家利用數據和機器學習提高作物產量的初創公司。

本週研究論文

推理模型擅長解決科學和數學中的棘手問題，但並不完美。來自騰訊的研究人員發表了一項研究，探討這些模型的「思考不足」問題，即它們過早放棄有潛力的思路。研究發現，這在較困難的問題上更常見，導致模型在不同思路間跳躍而無法得出結論。

研究人員建議採用「思路轉換懲罰」，鼓勵模型在轉換思路前充分探索每一條推理路徑，這可能提高其準確性。

本週模型

圖片來源：YuE

由TikTok的ByteDance、中國AI公司Moonshot等支持的團隊發布了YuE，一款可根據提示生成高品質音樂的開源模型。它能創作出長達幾分鐘的歌曲，包含人聲和伴奏，採用Apache 2.0許可證，可免費用於商業用途。

但有一些限制。運行YuE需要強大的GPU——用Nvidia RTX 4090生成30秒歌曲需要六分鐘。此外，關於訓練模型是否使用了受版權保護的數據存在不確定性，這可能導致未來的知識產權問題。

雜項

圖片來源：Anthropic

Anthropic聲稱已開發出一種名為Constitutional Classifiers的新技術，以更好地防範AI「越獄」。它使用兩組分類器模型：一組用於輸入，一組用於輸出。輸入分類器為受保護模型添加提示，以標記潛在的越獄行為，而輸出分類器則檢查回應是否包含有害內容。

Anthropic表示，這種方法能捕捉大多數越獄行為，但也有缺點。它使每個查詢的計算量增加25%，且受保護模型對無害問題的回應略有減少。