從單一人工智慧到多人工智慧的成功：系統架構的作用

人工智能正在以驚人的速度發展。重點已從建立單一、強大的模型，轉移到利用多個專業 AI 代理和諧工作的潛力。試想一下，一個由技術嫻熟的專業人員組成的團隊，每個人都是各自領域的專家--一個負責資料分析，另一個負責與客戶互動，而第三個則負責監督物流。真正的挑戰，也是發揮他們全部潛力的關鍵，是讓他們之間能夠無縫協作。這個願景經過整個產業的討論，並由現代化平台實現，這才是真正的創新所在。

然而，老實說，協調一群獨立、有時甚至無法預測的 AI 代理是一項重大挑戰。困難不僅在於創造有效的個別代理；而是決定系統成功與否的兩者之間錯綜複雜的協調。當代理彼此依賴、異步操作，並冒著獨立失敗的風險時，您不只是在編寫程式，而是在指揮一場複雜的交響樂。這就是為什麼穩固的架構計劃從一開始就非常重要，其設計必須兼顧可靠性與可擴充性。

代理合作的複雜挑戰

為什麼協調多代理系統如此困難？請考慮這些因素：

1. 獨立性：與標準程式功能不同，代理通常有自己的內部流程、目標和狀態。它們不會只是空閒地等待指令。
2. 複雜的溝通：這不是兩個代理之間的簡單對話。A 代理商可能會廣播 C 和 D 代理商需要的資訊，而 B 代理商則會等待 E 的提示，然後才通知 F。
3. 共同理解 (狀態)：所有代理如何就目前的真實情況達成一致？如果 A 代理商更新了記錄，B 代理商如何可靠、快速地瞭解該記錄？過時或衝突的資料會嚴重擾亂作業。
4. 不可避免的故障：代理程式可能會當機、訊息可能會遺失，或是外部服務可能會超時。當一個元件發生故障時，整個系統不應該停止運作，或更糟的是，執行錯誤。
5. 一致性挑戰：確保涉及數個代理的多步驟流程達到有效的結論是很複雜的，尤其是分散式和非同步的作業。

實質上，當您加入更多的代理和互動時，複雜性的潛在可能性就會成倍增加。如果沒有穩固的策略，除錯就會變得難以應付，系統也會覺得不穩定。

選擇您的協調策略

決定代理如何協調他們的工作是最重要的架構決策之一。以下是幾種常見的架構：

• 指揮 (層級模型)：類似於傳統的管弦樂團，由中央指揮 (指揮) 指揮流程，指示特定代理 (音樂家) 何時行動，並協調整體演出。
  • 優點：清楚的工作流程、容易追蹤執行、直接控制；適合較小或動態較少的系統。
  • 缺點：指揮可能成為瓶頸或單點故障。此方法對於動態反應或自主代理工作的彈性較低。
• 爵士樂團 (Federated/Decentralized Model)：在此，代理程式會根據共用訊號或既定規則直接彼此協調，就像爵士樂手圍繞共同主題即興演奏一樣。共用資源或事件串流可能存在，但沒有中央管理者支配每個動作。
  • 優點：彈性 (如果一個代理程式失敗，其他代理程式可以繼續運作)、可擴充性、對變化的適應能力，以及產生突發行為的潛力。
  • 注意事項：了解整體流程可能很困難，除錯也很複雜（「為什麼那個代理在那一刻行動？

許多真實世界中的多重代理系統 (MAS) 採用混合方式--也許是由高層級的協調者設定舞台，而代理群組則在該結構中以分散的方式協調。

管理集體智慧（共享狀態）

為了有效協作，代理程式通常需要對世界有共同的觀點，或至少是與其任務相關的方面。這可能包括客戶訂單的目前狀態、共用知識庫或朝向目標的集體進展。在分散式代理之間持續且可存取地維護這種「集體智慧」是一大障礙。

主要的架構模式包括

• 中央資料庫（中央知識庫）：一個單一的、權威性的資料來源 (像是資料庫或專屬服務)，所有共用的資訊都存放在這裡。代理程式可從此中央資料庫讀取或寫入資訊。
  • 優點：單一真相來源，簡化一致性的執行。
  • 缺點：可能會因要求過多而減慢效能或造成瓶頸。需要高穩健性和可擴展性。
• 分散式筆記 (分散式快取)：在中央資料庫的支援下，代理維護常用資訊的本機副本，以加快存取速度。
  • 優點：資料檢索速度更快。
  • 缺點：確保本機副本是最新的，這成為主要的架構挑戰，涉及快取記憶體失效和一致性機制。
• 廣播更新（訊息傳遞）：資料庫（或其他代理）透過訊息公佈變更，而非代理不斷查詢中央資料庫。代理聽取相關更新，並據此調整其本機資料。
  • 優點解耦代理，支援事件驅動架構。
  • 缺點：保證訊息傳遞和適當處理增加了複雜性。如果訊息遺失會如何？

最佳選擇取決於需要達到毫秒級的精確度與達到最佳效能之間的平衡。

規劃不可避免的情況：錯誤處理與復原

代理程式故障是時間問題，而不是是否發生的問題。您的架構必須預測並管理這些情況。

主要考慮因素包括

• 看門狗 (監督)：實作元件的主要作用是監控其他代理程式。如果代理程式變得無反應或行為異常，看門狗可以嘗試重新啟動或警示系統。
• 智慧型重試（Smart Retries）和閒置（Idempotency）：如果代理程式的動作失敗，它應該經常重試。但是，這只有在動作是等效的情況下才會起作用，也就是說，多次執行該動作會產生與一次相同的結果（例如，設定一個值，而不是遞增）。非等效動作會造成重試的重大問題。
• 清理（補償）：如果 Agent A 成功完成任務，但 Agent B（後續步驟）失敗，您可能需要「撤銷」Agent A 的工作。Sagas 等模式有助於管理這些多步驟、可補償的工作流程。
• 追蹤進度（工作流程狀態）：維護整體流程的持久日誌很有幫助。如果系統在工作流程中途發生故障，它可以從最後一個已知的正確步驟重新開始，而不是重新開始。
• 遏制故障（斷路器和隔板）：這些模式可防止一個代理程式或服務的故障連鎖影響其他代理程式或服務，從而限制其影響。

確保任務準確地完成

即使有可靠的個別代理程式，您仍需要對整個協同任務的正確一致完成有信心。

需要考慮的策略：

• 近原子作業：雖然真正的 ACID 交易對分散式代理來說是個挑戰，但您可以使用 Sagas 等模式來設計工作流程，儘可能以原子方式運作。
• 不可變的日誌 (事件來源)：將每個重要的動作和狀態變更記錄為日誌中的不可變事件。這提供了完整的歷史、簡化了狀態重建，並有助於稽核與除錯。
• 達成共識：對於重要的決策，代理可能需要在進行之前達成一致。這可能涉及簡單的投票或更複雜的分散式共識演算法，以進行高風險的協調。
• 驗證結果 (驗證)：在工作流程中加入步驟，以便在代理程式完成任務後，檢查輸出或狀態。如果偵測到異常，就會啟動調節或修正程序。

基本架構工具

穩健的架構有賴於堅實的基礎。

• 郵局（訊息佇列/中繼器，如 Kafka 或 RabbitMQ）：解耦代理的關鍵。它們會將訊息傳送至佇列；有興趣的代理會消耗這些訊息。這能夠實現異步通訊、處理流量尖峰，對於彈性分散式系統來說非常重要。
• 共用檔案櫃（知識儲存庫/資料庫）：這是您的共用狀態所在。根據您的資料結構和存取模式，選擇適當的類型 (關聯式、NoSQL、圖形)。此元件必須具備高效能與可用性。
• X-Ray Machine (Observability Platforms)：全面的日誌、度量和追蹤是不可或缺的。調試分散式系統是出了名的困難。觀察每個代理程式的動作、互動和時間的能力是不可或缺的。
• 目錄 (Agent Registry)：代理如何發現彼此或它們需要的服務？中央註冊中心有助於管理這種複雜性。
• 遊樂場（容器化與協調，如 Kubernetes）：這是您如何可靠地部署、管理及擴充所有這些個別代理實體。

代理如何通訊？

代理之間的通訊方式會影響從效能到耦合程度的一切。

• 標準電話呼叫 (REST/HTTP)：簡單、普遍支援，適用於基本的請求/回應互動。然而，對於高流量或複雜的資料結構而言，它的效率可能較低。
• 結構化電話會議 (gRPC)：使用有效率的資料格式、支援各種呼叫類型 (包括串流)，並且是類型安全的。效能優異，但需要事先定義服務契約。
• 公告板（訊息佇列 - 通訊協定如 AMQP、MQTT）：代理向主題發佈訊息；其他人訂閱感興趣的主題。這種異步方式具有高度擴充性，並將傳送者與接收者完全分離。
• Direct Line (RPC - 較不常見)：代理直接在其他代理上呼叫函式。這種方式速度快，但會造成緊耦合 - 代理商必須清楚知道要呼叫的對象及其位置。

選擇最適合互動模式的通訊協定。是直接請求？廣播事件？連續資料流？

結合一切

建立可靠、可擴充的多機器人系統並非要找到單一完美的解決方案，而是要根據您的特定需求做出明智的架構選擇。您會以分層方式的控制為優先，還是以聯盟模式的彈性為優先？您將如何管理重要的共享狀態？您的代理故障應變計畫是什麼？哪些基礎架構元件是不可或缺的？

毫無疑問，這項任務相當複雜。然而，只要專注於這些架構藍圖，或協調互動、管理共享知識、計畫故障、確保一致性，並建立在穩固的基礎架構上，您就能管理複雜性，並開發出強大的智慧型系統，為下一代企業級 AI 提供動力。

Nikhil Gupta 是 Atlassian 的 AI 產品管理領導者/員工產品經理。