IBM：企業在人工智慧領域部署「一切」，現在面臨從 LLM 到用例的挑戰

在過去的一個世紀中，IBM 見證了無數技術趨勢的出現與消逝。屹立不倒的方法往往是那些提供彈性和選擇的方法。

在 VB Transform 2025 上，IBM 的 AI 平台副總裁 Armand Ruiz 闡述了公司對於生成式 AI 的看法，以及企業客戶如何實踐這項技術。Ruiz 強調，目前的格局並非選擇一家獨家的大型語言模型供應商或解決方案。企業逐漸捨棄單一供應商的 AI 策略，轉而選擇多模型架構，將專門的 LLM 與特定的作業需求搭配。

雖然 IBM 透過 Granite 系列提供自家的開放原始碼 AI 模型，但並沒有將其視為適用於各種應用的通用解決方案。這種客戶行為正在塑造 IBM 的角色；該公司的目標是成為 AI 作業的中央控制樞紐，而非直接以基礎模型供應商的身份進行競爭。

"Ruiz 指出：「當我與客戶見面時，他們會利用手邊的各種工具。"對於編碼任務，許多人偏好 Anthropic。對於推理和邏輯，他們可能會使用 o3。至於透過微調利用他們自己的資料來量身打造 LLM，選擇範圍從我們的 Granite 模型到 Mistral 的小型模型，甚至是 Llama。這是關於為特定任務選擇正確的模型。我們也會透過提供建議來協助他們。

多LLM連接策略

針對這種市場動態，IBM 推出了全新的模型閘道。這個系統為企業提供了統一的 API，讓企業可以在各種 LLM 之間進行無縫轉換，同時確保在所有實施過程中進行一致的監督和治理。

此技術設計可讓客戶在自己的推論基礎架構上操作開放原始碼模型，以處理敏感資料，同時也可利用 AWS Bedrock 或 Google Cloud's Gemini 等公共 API 來處理較不重要的功能。

"Ruiz 表示：「這個閘道為我們的客戶提供單一介面與單一 API，以便在不同的 LLM 之間切換，並在整個過程中納入完整的可觀察性與治理。

Ruiz 表示：「這種方法與廠商往往試圖將客戶鎖定在專屬系統中的策略形成對比。並非只有 IBM 倡議多廠商模型選擇。最近，出現了幾種用於模型路由的工具，旨在將工作負載分配給最適合的模型。

代理協調協定成為必要的基礎架構

除了管理多種模型之外，IBM 還透過開放式標準來滿足日益增長的代理對代理通訊需求。

該公司創建了 Agent Communication Protocol，並已提交給 Linux Foundation。ACP 是 Google 的 Agent2Agent 通訊協定的對應版本，Google 也在本周將此協定提交給 Linux 基金會。

Ruiz 提到，這兩個通訊協定都是為了簡化代理程式通訊，並將客製化編碼的需求降至最低。他預期不同的方法論最終會合併，目前 A2A 與 ACP 之間的區別主要是技術性的。

這些代理協調協定建立了人工智慧系統在不同平台和供應商之間互動的統一方法。

其技術重要性在企業層面顯而易見：一些 IBM 客戶已經在試驗專案中測試超過 100 個代理。如果沒有標準的通訊協定，代理之間的每次互動都需要自訂開發，導致無法管理的整合工作量。

人工智能改變工作流程與作業方法

關於 AI 目前對企業的影響，Ruiz 認為其影響必須超越基本的聊天機功能。

"如果您的 AI 計畫僅限於聊天機器人或僅是降低成本，那麼您還沒有完全接受 AI，」Ruiz 評論道。「真正的人工智能涉及從根本上重塑工作流程和工作完成方式。」

基本 AI 應用與全面轉型之間的差異，在於如何將技術徹底嵌入業務運作。IBM 的內部人力資源案例展示了這一進化：員工不再向聊天機器人諮詢人力資源細節，而是由專門的代理管理有關薪酬、招聘和晉升的標準查詢，自動連接到相關系統，僅在必要時才讓人力員工參與其中。

"我之前花了很多時間諮詢人力資源代表處理各種事務。現在，我的大部分要求都由人力資源代理處理，"Ruiz 解釋道。"這些任務會連結到不同的內部人力資源系統，每個系統都由專門的代理管理。

這意味著從人機互動到電腦驅動工作流程自動化的基本結構轉變。不是員工學習使用 AI 工具，而是 AI 從頭到尾學習執行整個業務流程。

實際結果是：企業必須超越簡單的 API 連線與提示設計，朝向全面性的流程整合邁進，讓 AI 代理能夠獨立執行多階段工作流程。

企業 AI 投資的策略考量

IBM 的部署觀察指出了企業 AI 規劃的幾個關鍵變化：

超越以聊天機器人為中心的方法：企業應針對整個工作流程進行全面檢修，而非僅僅在現有系統中加入對話式前端。目標是移除手動步驟，而不只是加強人機互動。

建立多模式的適應性：與其將自己與單一的 AI 供應商捆綁在一起，企業需要的是能夠根據任務需求在不同模型之間進行切換的整合平台，同時還要堅持管理。

優先考慮通訊標準：企業應該偏好支援 MCP、ACP 和 A2A 等新興通訊協定的 AI 解決方案，避免使用專屬的整合方法，以免造成對供應商的依賴。

"人工智能有巨大的發展潛力，我不斷強調每個人都必須學習人工智能。企業領導者尤其需要採取 AI 第一的思維，並掌握基本概念，」Ruiz 總結道。