AWS神經符號人工智慧為受監管領域提供可驗證的自動化代理解決方案

AWS 相信，將 Bedrock 平台上的自動推理檢查功能全面開放，將使企業與受監管產業對採用及部署更多人工智慧應用程式與代理程式產生更大信心。

該公司進一步預期，自動推理等技術——透過數學驗證建立基準事實——將協助企業轉型至神經符號人工智慧領域。AWS視此為人工智慧領域的下個重大演進方向，亦是關鍵差異化優勢。

自動推理檢查功能讓企業用戶能驗證回應準確性並偵測模型幻覺現象。AWS去年12月於re:Invent大會首度在Bedrock平台推出此功能，宣稱可識別近乎所有幻覺案例。該工具初期透過Amazon Bedrock Guardrails提供給有限用戶群使用，讓組織能定義負責任的AI政策。

AWS自動推理部門傑出科學家暨副總裁拜倫·庫克接受VentureBeat專訪時指出，預覽版已證實該系統在企業環境的實效性，同時協助企業體認到融合符號化結構推理與生成式人工智慧神經網路能力的技術價值。

「自動推理屬於神經符號人工智慧的廣義範疇，」Cook解釋道：「隨著神經符號人工智慧引發的關注日益增長，使用者在實際操作工具時，深刻體認到這項技術的關鍵性。」

庫克指出，部分客戶允許AWS分析其數據與答案註釋文件。測試結果顯示該工具的表現可媲美手持規則手冊的人類操作者。他補充說明，儘管真實性與正確性概念可能帶有主觀性，但自動推理技術在很大程度上能避免此類模糊性。

「這確實令人驚嘆，」他說道：「目睹具備邏輯背景的人員在內部聊天中爭論何為真實，幾則訊息後轉而指向工具並恍然大悟：『哦，它說得對』，這過程實在太神奇了。」

為全面發布，AWS 強化了自動推理檢查功能，新增特性包括：

• 支援長達80,000個代碼或約100頁的大型文件
• 簡化政策驗證流程，新增測試情境儲存與重複使用功能
• 從預定義規格自動生成情境
• 提供自然語言建議以優化政策
• 可自訂的驗證設定

根據庫克所述，自動推理檢查透過證明模型未產生虛幻解法來驗證AI系統的真實性。此功能可為監管機構及受監管企業提供更高保障，緩解其對生成式AI非確定性特性可能產生錯誤輸出之憂慮。

神經符號人工智慧與真實性建構

庫克強調，自動推理檢查有助於驗證神經符號人工智慧的核心原理。

神經符號人工智慧融合了神經網路（語言模型所採用）的模式識別能力，以及符號人工智慧的結構化邏輯。神經網路透過數據模式學習，符號人工智慧則基於明確規則與邏輯推理運作。基礎模型主要依賴神經網路，使其易受幻覺影響——此為企業主要顧慮。反之，符號人工智慧在缺乏人工編程的情況下缺乏靈活性。

加里·馬庫斯等人工智慧領域權威主張，神經符號人工智慧是實現通用人工智慧的關鍵。

庫克與亞馬遜雲端服務（AWS）熱衷於將神經符號人工智慧概念導入企業領域。在播客節目中，VentureBeat的麥特·馬歇爾探討了AWS聚焦自動推理檢查等方法，該技術透過數學與邏輯嚴謹性應用於生成式人工智慧，以降低幻覺發生率。

目前提供產品化神經符號人工智慧解決方案的企業寥寥可數，包括Kognitos、Franz Inc.及UMNAI。

以數學嚴謹性進行驗證

自動推理功能透過將數學證明應用於特定查詢的模型回應來運作。

其採用稱為「理論模數可滿足性」（SMT）的方法，透過預先定義符號含義，解決涉及邏輯（if, then, and, or）與數學的問題。此技術將方法應用於模型回應，使其能對照政策集或真實數據進行驗證，無需多次測試運行。

舉例而言，企業可能需要驗證財務審計的正確性。若模型標記某份報告存在未核准付款，自動推理會將此問題分解為邏輯陳述：

(forall ((r Report))

(=> (r 包含未核准供應商付款)

(應上報 r)))

接著參照用戶在Bedrock Guardrails中設定的定義、變數與類型，解算此方程式以證明模型回應既正確且符合真實性。

確保可驗證正確的人工智慧代理程式

庫克指出，自動推理檢查將為智能體應用場景帶來顯著效益。透過Bedrock平台的廣泛應用將有助驗證其價值。但他同時提醒，自動推理及其他神經符號人工智慧技術仍處於萌芽階段。

「我確信這將影響代理型人工智慧，儘管該領域目前仍高度推測性，」庫克表示。「現有若干關鍵技術——例如識別陳述中的歧義、精準定位不同詮釋間的關鍵差異，並尋求使用者澄清——我認為這些將至關重要。這與我數年前觀察到客戶開始實驗生成式人工智慧時的情感歷程如出一轍。」