George Hotz 警告稱,AI 程式設計代理對軟體構成最大威脅
George Hotz,一位全球知名的駭客、安全研究人員以及 Comma.ai 的創始人,最近發表了一篇部落格文章,警告稱在現代軟體開發中過度依賴 AI 程式設計代理可能是公司犯下的最昂貴的錯誤之一。這一觀點立即在科技界引發了廣泛的討論和反思。
統計模仿並非真正的智慧,程式碼缺陷更加隱蔽
被稱為“天才少年”的 Hotz 指出,經過六個月的嚴格測試,他發現當前的 AI 程式設計工具在快速構建專案原型方面表現出色,但在決定軟體質量的底層細節處理上卻力不從心。他強調,大語言模型本質上是複雜的統計系統;其核心功能是模仿程式設計程式碼的分佈,而非真正理解或解決問題。
因此,AI 代理可以生成表面上看似令人印象深刻的程式碼,但這掩蓋了隱藏的邏輯缺陷和錯誤,使其更難被識別。缺乏足夠專業知識的初級開發人員可能無法發現這些細微的軟硬體問題,盲目地將有缺陷的程式碼整合到生產系統中。這最終導致極高的維護成本和不可預測的失敗風險。
行業巨頭態度分化,認知衝突加劇
Hotz 承認,他的技術判斷已從早期的樂觀轉向懷疑,目前的立場與 Yann LeCun 和 Gary Marcus 更為接近。這種對 AI 程式設計代理的悲觀觀點與科技界一些領導者採取的激進態度形成了鮮明對比。
相比之下,特斯拉前 AI 負責人 Andrej Karpathy 最近採取了更為積極的立場。Karpathy 公開表示,隨著新一代大模型的釋出,AI 代理已經永久性地改變了人類的程式設計方式。這凸顯了科技行業在 AI 輔助開發未來方面存在的重大認知分歧。
相關文章
阿里巴巴釋出 Qoder,將 AI 編碼工具演進為通用智慧代理工作站
阿里巴巴於8月27日正式釋出了升級版的Qoder,將原有的AI程式設計IDE轉型為以編碼能力為核心、面向全使用者的“智慧體工作區”。使用者只需使用自然語言描述目標,Qoder即可處理上下文理解、規劃、工具呼叫、執行和驗證。整個工作流程保持透明,允許使用者在任意階段進行監控、調整或接管控制。自2025年8月全球上線以來,Qoder IDE已吸引超過600萬使用者,服務於超過10萬家企業。這一新版本反映了協作模式的三大根本轉變:工作物件從“程式碼工程”演變為“智慧體任務”,工作流程從“個人生產”轉向“委託與驗收”
Google 將 NotebookLM 更名為 Gemini,併為其配備能夠編寫和執行程式碼的雲端計算機
長期使用者應做好準備,迎接一個擁有新身份的熟悉面孔。16日,谷歌宣佈其AI筆記助手NotebookLM已正式更名為Gemini Notebook,標誌著它已完全融入谷歌的統一AI生態系統。儘管名稱有所改變,但該產品的核心身份保持不變。谷歌確認,它將繼續作為獨立工具執行,但如今將在更廣泛的谷歌平臺中發揮關鍵作用,包括與Gemini應用和谷歌搜尋的整合。此次品牌重塑的真正價值在於底層能力的升級。Gemini Notebook使用者將逐步獲得一項關鍵功能:安全雲端計算整合。這一增強功能實際上為筆記本配備了強
Claude 撰寫了 Anthropic 80% 的程式碼,隨著 CI 任務激增 25 倍
Anthropic 的內部指標揭示了一個驚人的現實:Claude 現在生成了該公司 80% 的程式碼,工程師每季度交付的程式碼量是 2021 年至 2025 年間的八倍。甚至連程式碼審查和合並審批等關鍵工作流程也正日益由人工智慧自動化。然而,人工智慧的編碼行為與人類模式截然不同。它傾向於以極細粒度提交拉取請求,全天持續提交程式碼,並觸發測試用例數量激增十倍。這種毫不間斷的節奏使持續整合(CI)系統不堪重負,導致任務量在六個月內激增了 25 倍。儘管進行了三次系統修補嘗試——包括新增核心邏輯、分片處理以
相關專題推薦
評論 (0)
0/500
George Hotz,一位全球知名的駭客、安全研究人員以及 Comma.ai 的創始人,最近發表了一篇部落格文章,警告稱在現代軟體開發中過度依賴 AI 程式設計代理可能是公司犯下的最昂貴的錯誤之一。這一觀點立即在科技界引發了廣泛的討論和反思。
統計模仿並非真正的智慧,程式碼缺陷更加隱蔽
被稱為“天才少年”的 Hotz 指出,經過六個月的嚴格測試,他發現當前的 AI 程式設計工具在快速構建專案原型方面表現出色,但在決定軟體質量的底層細節處理上卻力不從心。他強調,大語言模型本質上是複雜的統計系統;其核心功能是模仿程式設計程式碼的分佈,而非真正理解或解決問題。
因此,AI 代理可以生成表面上看似令人印象深刻的程式碼,但這掩蓋了隱藏的邏輯缺陷和錯誤,使其更難被識別。缺乏足夠專業知識的初級開發人員可能無法發現這些細微的軟硬體問題,盲目地將有缺陷的程式碼整合到生產系統中。這最終導致極高的維護成本和不可預測的失敗風險。
行業巨頭態度分化,認知衝突加劇
Hotz 承認,他的技術判斷已從早期的樂觀轉向懷疑,目前的立場與 Yann LeCun 和 Gary Marcus 更為接近。這種對 AI 程式設計代理的悲觀觀點與科技界一些領導者採取的激進態度形成了鮮明對比。
相比之下,特斯拉前 AI 負責人 Andrej Karpathy 最近採取了更為積極的立場。Karpathy 公開表示,隨著新一代大模型的釋出,AI 代理已經永久性地改變了人類的程式設計方式。這凸顯了科技行業在 AI 輔助開發未來方面存在的重大認知分歧。
阿里巴巴釋出 Qoder,將 AI 編碼工具演進為通用智慧代理工作站
阿里巴巴於8月27日正式釋出了升級版的Qoder,將原有的AI程式設計IDE轉型為以編碼能力為核心、面向全使用者的“智慧體工作區”。使用者只需使用自然語言描述目標,Qoder即可處理上下文理解、規劃、工具呼叫、執行和驗證。整個工作流程保持透明,允許使用者在任意階段進行監控、調整或接管控制。自2025年8月全球上線以來,Qoder IDE已吸引超過600萬使用者,服務於超過10萬家企業。這一新版本反映了協作模式的三大根本轉變:工作物件從“程式碼工程”演變為“智慧體任務”,工作流程從“個人生產”轉向“委託與驗收”
Google 將 NotebookLM 更名為 Gemini,併為其配備能夠編寫和執行程式碼的雲端計算機
長期使用者應做好準備,迎接一個擁有新身份的熟悉面孔。16日,谷歌宣佈其AI筆記助手NotebookLM已正式更名為Gemini Notebook,標誌著它已完全融入谷歌的統一AI生態系統。儘管名稱有所改變,但該產品的核心身份保持不變。谷歌確認,它將繼續作為獨立工具執行,但如今將在更廣泛的谷歌平臺中發揮關鍵作用,包括與Gemini應用和谷歌搜尋的整合。此次品牌重塑的真正價值在於底層能力的升級。Gemini Notebook使用者將逐步獲得一項關鍵功能:安全雲端計算整合。這一增強功能實際上為筆記本配備了強
Claude 撰寫了 Anthropic 80% 的程式碼,隨著 CI 任務激增 25 倍
Anthropic 的內部指標揭示了一個驚人的現實:Claude 現在生成了該公司 80% 的程式碼,工程師每季度交付的程式碼量是 2021 年至 2025 年間的八倍。甚至連程式碼審查和合並審批等關鍵工作流程也正日益由人工智慧自動化。然而,人工智慧的編碼行為與人類模式截然不同。它傾向於以極細粒度提交拉取請求,全天持續提交程式碼,並觸發測試用例數量激增十倍。這種毫不間斷的節奏使持續整合(CI)系統不堪重負,導致任務量在六個月內激增了 25 倍。儘管進行了三次系統修補嘗試——包括新增核心邏輯、分片處理以





首頁






