Google揭示了AI創新的新的Kubernetes和GKE增強功能

Google對AI的推進並非秘密，且有充分理由。首席執行官Sundar Pichai在去年節假日前的一次內部會議中強調：「在2025年，我們需要不懈地專注於釋放[AI]技術的優勢，並解決真實的用戶問題。」這一願景正推動Google大幅增強其產品，特別是在雲服務和AI整合方面。

在2025年拉斯維加斯舉辦的Google Cloud Next活動中，Google展示了Kubernetes和Google Kubernetes Engine（GKE）的重大進展。這些更新旨在賦能平台團隊和開發者利用現有的Kubernetes專業知識來駕馭AI。Google雲運行時副總裁Gabe Monroy簡潔地表示：「你的Kubernetes技能和投資不僅相關，它們是你的AI超能力。」

那麼，這些新進展究竟是什麼？讓我們深入了解細節。

簡化的AI集群管理： GKE推出了簡化的AI集群管理工具，例如GKE的Cluster Director，此前稱為Hypercompute Cluster。此工具允許用戶部署和管理附帶Nvidia GPU的大型虛擬機（VMs）集群，使AI工作負載的擴展更加高效。

即將推出的相關服務是Slurm的Cluster Director。Slurm是一個開源的Linux作業調度和工作負載管理器，透過Google簡化的UI和API將更容易配置和運作。這些將包括預配置軟件的典型工作負載藍圖，確保可靠且可重複的部署。

優化的AI模型部署： GKE的新功能也專注於優化AI模型部署。GKE Inference Quickstart和GKE Inference Gateway簡化了AI模型的選擇和部署，確保其透過智能負載平衡表現出色。

Gabe Monroy強調了AI創新與傳統計算交叉的趨勢，特別是在推理領域。他指出：「在AI時代，我們看到一個明顯趨勢：傳統計算與神經網絡交互時——即所謂的‘推理’——正在發生驚人的創新。像LiveX和Moloco這樣處於Kubernetes和AI前沿的公司，在GKE上運行AI推理。」

成本效益高的推理： GKE在成本效益高的推理方面取得進展，透過Inference Gateway實現。Monroy聲稱此方法可將服務成本降低多達30%，延遲減少多達60%，並將吞吐量提高40%，相較於其他托管和開源Kubernetes產品。雖然這些數據令人振奮，但我們需要實際應用來確認其影響。

模型感知負載平衡是這一策略的關鍵組成部分。由於AI模型的響應長度變數，傳統的輪詢負載平衡方法可能效率低下。然而，Inference Gateway提供針對AI優化的模型感知網關，具備對不同模型版本的高級路由功能。

提升資源效率： GKE也專注於提升資源效率。GKE Autopilot現在提供更快的Pod調度、更快的擴展反應時間和更好的容量適配。這意味著用戶可以用相同資源處理更多流量，或以更少資源維持現有流量。Google聲稱，透過改進的Autopilot，集群容量將始終保持適當規模。

目前，Autopilot包括最佳實踐集群配置工具和一個自動調整容量以匹配工作負載的容器優化計算平台。然而，若無特定配置，它無法對現有集群進行適當調整。從第三季度開始，Autopilot的容器優化計算平台也將適用於標準GKE集群，無需特定配置，這可能是一個改變遊戲規則的舉措。

AI啟用的Gemini Cloud Assist： 應用問題的調試和診斷可能顯著減緩創新。為解決此問題，Google推出了Gemini Cloud Assist，提供AI驅動的應用生命週期協助。Gemini Cloud Assist Investigations的私人預覽版幫助用戶快速了解根本原因並解決問題。

最棒的部分？Assist Investigations將可直接從GKE控制台訪問，減少故障排除時間，為創新騰出更多時間。它將允許你從GKE控制台診斷Pod和集群問題，涵蓋Google Cloud服務中的節點、IAM和負載平衡器。你可以跨多個GKE服務、控制器、Pod和底層節點查看日誌和錯誤。註冊私人預覽版以親自體驗此功能。

作為其更廣泛的新興技術策略的一部分，Google正定位自身為AI優化平台的領導者。這些發展使各行業的企業能更有效地使用AI，推動運營和客戶體驗的創新與效率。

例如，Intuit利用Google Cloud的Document AI和Gemini簡化了數百萬TurboTax用戶的稅務準備。Reddit透過Google的AI代理構建器Vertex AI使用Gemini，增強Reddit Answers，這是一個新的AI驅動的對話平台，旨在改善首頁體驗。

Google能否成功執行這些AI啟用的轉型？只有時間能告訴我們。正如Pichai在去年12月所說：「在歷史上，你不一定需要做第一，但你必須執行得很好，真正成為產品中的最佳。我認為這就是2025年的全部意義。」