人工智能代理人:新勞動力仍需要管理

關於AI代理作為新型「數位工作者」的熱議聲浪日益高漲,這一趨勢早在代理型與生成型AI主流採用之前就已開始,特別是在機器人流程自動化等領域。這些數位工作者被設計為紀律嚴明且服從指令,但它們也帶有自身的獨特特性,與人類工作者頗為相似。
想深入了解AI如何改變我的工作生活,請查看我在2024年AI為我節省工作時間的15種方式 - 以及我計劃在2025年如何使用它的文章。
Salesforce推出Agentforce 2.0,邁向數位勞動
數位勞動力的轉型已取得顯著進展,Salesforce最近推出了Agentforce 2.0,一個專為企業打造的數位勞動平台。該平台旨在通過AI代理為任何部門創造「無限勞動力」,利用預建技能庫在任何系統或工作流程中運作。根據Salesforce的說法,Agentforce 2.0超越了傳統的RPA,融入了「增強的推理與數據檢索」功能,使其能提供精準答案,並針對複雜、多步驟的查詢協調行動。這些代理甚至能在Slack內互動,無縫融入日常工作環境。
以數位勞動增強團隊
Salesforce指出,主要組織正利用該平台以數位勞動增強其團隊。由於人才稀缺且培訓成本高昂,企業越來越依賴AI來管理客戶互動並解決工作流程積壓。然而,Salesforce強調,企業不再滿足於「提供通用回應的不足解決方案」。像copilot這樣的傳統解決方案在應對複雜請求(如個性化求職指導)時,往往無法提供準確、可信的回應,且缺乏自主行動的能力,例如通過產品推薦來培育潛在客戶。
行業領袖認為,自主數位工作者現已能在不同層次執行此類任務。Motorola Solutions的AI透明度與教育主任Chris Bennett在接受ZDNET採訪時表示:「熟練的創新者、快速部署的雲工具、客戶意識以及高層支持的結合,為2025年代理型AI的蓬勃發展創造了理想環境。」
Bennett解釋,Motorola Solutions已利用代理型AI的力量「提升公共安全與企業安全性」。其AI應用程式能分析並即時呈現數據,為第一線應變人員和安全人員提供關鍵、即時的支援。他指出:「AI代理從不感到無聊、疲倦或分心」,它們能自動化重複性任務,讓應變人員專注於更關鍵的職責和社區參與。例如,AI代理能加速諸如審查歷史視頻片段的任務,通過自然語言搜索幫助調查人員更快找到失蹤人士。
Aurascape的共同創辦人兼副總裁Viswesh Ananthakrishnan描述AI代理如何直覺化流程,「創建一系列步驟或解決問題的配方」。這些代理能執行這些步驟,甚至與其他代理協作,全面了解企業運作方式。Ananthakrishnan進一步解釋,AI代理能「開發並執行複雜流程,例如查看需求預測,並在庫存耗盡前主動採取行動生成並提交訂單。」這種自動化顯著減少了工作者在重複性任務上的時間。
AI代理的謹慎管理需求
然而,與人類工作者一樣,AI代理也需要謹慎管理。在代理型AI驅動的勞動力能全面承擔廣泛任務之前,仍有許多工作要做。Norwest Venture Partners的合夥人Scott Beechuk警告說:「雖然代理型AI的潛力顯而易見,但距離企業級廣泛採用仍需數年。」他強調了可信度的重要性,因為代理可能在自動化關鍵業務流程中扮演重要角色。
其中一個挑戰是AI代理行為的可追溯性。Ananthakrishnan指出:「許多工具難以解釋它們如何從用戶的敏感數據中得出回應,模型也難以超越其所學進行泛化。」
不可預測性是另一個障礙,Beechuk補充說,大型語言模型(LLM)「像黑盒子一樣運作」。「用戶和工程師難以知道AI是否成功完成了任務,以及是否正確完成。」他還警告說,AI代理的不可靠性問題,「在AI自行創建完成任務步驟的系統中,編造的細節可能隨著任務進展導致更多錯誤,最終使輸出不可靠。」
人類工作者自然能輕鬆且規律地協作,但對AI工作者來說,這更為複雜。Ananthakrishnan解釋:「由於代理將與多個系統和數據儲存交互,實現全面可視性並非易事。」捕捉代理的每個行動需要深入洞察終端設備上的活動,並能處理多種格式的數據。此外,「快速將來自終端的上下文與網絡級流量結合,以確定代理行動的數據來源」以及「識別與您數據交互的AI代理類型,無論是可信實體還是全新代理」都至關重要。
AI系統工程師的興起
這種複雜性可能催生一個以人為中心的新角色——AI系統工程師。Beechuk表示:「隨著企業管理和持續優化AI代理,這一新的品質保證和監督角色將變得不可或缺。」
在多代理環境中,Beechuk解釋:「AI代理將不斷交互和演進,持續消耗新數據以執行各自的工作。」「當其中一個代理接收到錯誤數據——無論是有意還是無意——並改變其行為時,它可能開始錯誤或不夠精確地執行任務,即便前一天還表現完美。一個代理的錯誤可能引發連鎖效應,降低整個系統的效能。企業將僱用足夠的AI系統工程師以防止這種情況發生。」
Bennett建議,雖然公司和技術團隊可能「已準備好支持代理型AI,但我們仍需時間和經驗來平衡代理型與人類工作流程。」他建議:「我們的建議是將AI視為對人類專家的增強,而非替代。」
相關文章
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能
廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布,將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容,同時也能管理留言、更新與修正元資料,並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制,網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能,網站幾乎可以完全由人工指導的 AI 代理
Anthropic 的實驗性 AI「Claude」在電子商務測試中完成了談判與交易
隨著人工智慧的快速發展,Anthropic 上週五悄悄推出了一項名為「Project Deal」的內部實驗,展現了人工智慧在電子商務領域的潛力。該實驗讓其人工智慧模型 Claude 在封閉的市場環境中自主處理買賣及價格協商,並涉及真實的金融交易。實驗的核心是一個建構於 Slack 平台上的內部市場,Claude 在其中同時擔任買方與賣方的談判代表。它首先訪談了 69 名員工,以收集他們的買賣意圖及
相關專題推薦
評論 (12)
0/500
Interesting read! The idea of AI agents as 'digital workers' is fascinating, but the management part is key. It's not just about building them, it's about integrating them into existing workflows and ensuring they align with human goals. The discipline and obedience mentioned are double-edged swords – great for efficiency, but who defines the rules? 🤔 Makes you think about the future of work and where the human oversight really needs to be.
Иронично, как часто мы создаём идеальных «цифровых работников» с дисциплиной и послушанием, а потом понимаем, что управлять ими нам сложнее, чем людьми. 😅 Статья намекает на важность системы контроля — без неё даже самый послушный ИИ-агент может устроить хаос.
Okay, so AI needs management now too? 😂 I read robotic process automation stuff way before this became a trend, and honestly, this feels like we're just renaming old problems with AI stickers. It’s cool they’re calling them 'digital workers', but if they need babysitting to stay disciplined, are we just building high-tech interns that never learn? Still, curious to see where this goes beyond just automating spreadsheets.
AI agents as digital workers sound cool, but managing them feels like herding cats 🐱. The article got me thinking—will we need AI managers next?
AI agents as digital workers sound cool, but managing them seems like herding cats with code. Anyone else worried about these 'obedient' bots going rogue? 😅

關於AI代理作為新型「數位工作者」的熱議聲浪日益高漲,這一趨勢早在代理型與生成型AI主流採用之前就已開始,特別是在機器人流程自動化等領域。這些數位工作者被設計為紀律嚴明且服從指令,但它們也帶有自身的獨特特性,與人類工作者頗為相似。
想深入了解AI如何改變我的工作生活,請查看我在2024年AI為我節省工作時間的15種方式 - 以及我計劃在2025年如何使用它的文章。
Salesforce推出Agentforce 2.0,邁向數位勞動
數位勞動力的轉型已取得顯著進展,Salesforce最近推出了Agentforce 2.0,一個專為企業打造的數位勞動平台。該平台旨在通過AI代理為任何部門創造「無限勞動力」,利用預建技能庫在任何系統或工作流程中運作。根據Salesforce的說法,Agentforce 2.0超越了傳統的RPA,融入了「增強的推理與數據檢索」功能,使其能提供精準答案,並針對複雜、多步驟的查詢協調行動。這些代理甚至能在Slack內互動,無縫融入日常工作環境。
以數位勞動增強團隊
Salesforce指出,主要組織正利用該平台以數位勞動增強其團隊。由於人才稀缺且培訓成本高昂,企業越來越依賴AI來管理客戶互動並解決工作流程積壓。然而,Salesforce強調,企業不再滿足於「提供通用回應的不足解決方案」。像copilot這樣的傳統解決方案在應對複雜請求(如個性化求職指導)時,往往無法提供準確、可信的回應,且缺乏自主行動的能力,例如通過產品推薦來培育潛在客戶。
行業領袖認為,自主數位工作者現已能在不同層次執行此類任務。Motorola Solutions的AI透明度與教育主任Chris Bennett在接受ZDNET採訪時表示:「熟練的創新者、快速部署的雲工具、客戶意識以及高層支持的結合,為2025年代理型AI的蓬勃發展創造了理想環境。」
Bennett解釋,Motorola Solutions已利用代理型AI的力量「提升公共安全與企業安全性」。其AI應用程式能分析並即時呈現數據,為第一線應變人員和安全人員提供關鍵、即時的支援。他指出:「AI代理從不感到無聊、疲倦或分心」,它們能自動化重複性任務,讓應變人員專注於更關鍵的職責和社區參與。例如,AI代理能加速諸如審查歷史視頻片段的任務,通過自然語言搜索幫助調查人員更快找到失蹤人士。
Aurascape的共同創辦人兼副總裁Viswesh Ananthakrishnan描述AI代理如何直覺化流程,「創建一系列步驟或解決問題的配方」。這些代理能執行這些步驟,甚至與其他代理協作,全面了解企業運作方式。Ananthakrishnan進一步解釋,AI代理能「開發並執行複雜流程,例如查看需求預測,並在庫存耗盡前主動採取行動生成並提交訂單。」這種自動化顯著減少了工作者在重複性任務上的時間。
AI代理的謹慎管理需求
然而,與人類工作者一樣,AI代理也需要謹慎管理。在代理型AI驅動的勞動力能全面承擔廣泛任務之前,仍有許多工作要做。Norwest Venture Partners的合夥人Scott Beechuk警告說:「雖然代理型AI的潛力顯而易見,但距離企業級廣泛採用仍需數年。」他強調了可信度的重要性,因為代理可能在自動化關鍵業務流程中扮演重要角色。
其中一個挑戰是AI代理行為的可追溯性。Ananthakrishnan指出:「許多工具難以解釋它們如何從用戶的敏感數據中得出回應,模型也難以超越其所學進行泛化。」
不可預測性是另一個障礙,Beechuk補充說,大型語言模型(LLM)「像黑盒子一樣運作」。「用戶和工程師難以知道AI是否成功完成了任務,以及是否正確完成。」他還警告說,AI代理的不可靠性問題,「在AI自行創建完成任務步驟的系統中,編造的細節可能隨著任務進展導致更多錯誤,最終使輸出不可靠。」
人類工作者自然能輕鬆且規律地協作,但對AI工作者來說,這更為複雜。Ananthakrishnan解釋:「由於代理將與多個系統和數據儲存交互,實現全面可視性並非易事。」捕捉代理的每個行動需要深入洞察終端設備上的活動,並能處理多種格式的數據。此外,「快速將來自終端的上下文與網絡級流量結合,以確定代理行動的數據來源」以及「識別與您數據交互的AI代理類型,無論是可信實體還是全新代理」都至關重要。
AI系統工程師的興起
這種複雜性可能催生一個以人為中心的新角色——AI系統工程師。Beechuk表示:「隨著企業管理和持續優化AI代理,這一新的品質保證和監督角色將變得不可或缺。」
在多代理環境中,Beechuk解釋:「AI代理將不斷交互和演進,持續消耗新數據以執行各自的工作。」「當其中一個代理接收到錯誤數據——無論是有意還是無意——並改變其行為時,它可能開始錯誤或不夠精確地執行任務,即便前一天還表現完美。一個代理的錯誤可能引發連鎖效應,降低整個系統的效能。企業將僱用足夠的AI系統工程師以防止這種情況發生。」
Bennett建議,雖然公司和技術團隊可能「已準備好支持代理型AI,但我們仍需時間和經驗來平衡代理型與人類工作流程。」他建議:「我們的建議是將AI視為對人類專家的增強,而非替代。」
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三,一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉,修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係,並確保它能夠實現雙贏。只有這樣,雙方才能保持良好的合作伙伴關係。” 他強調,微軟仍然可以使用OpenAI的智慧財產權,包括其模型和智慧體產品,但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術,納德拉表示:“
WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能
廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布,將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容,同時也能管理留言、更新與修正元資料,並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制,網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能,網站幾乎可以完全由人工指導的 AI 代理
Anthropic 的實驗性 AI「Claude」在電子商務測試中完成了談判與交易
隨著人工智慧的快速發展,Anthropic 上週五悄悄推出了一項名為「Project Deal」的內部實驗,展現了人工智慧在電子商務領域的潛力。該實驗讓其人工智慧模型 Claude 在封閉的市場環境中自主處理買賣及價格協商,並涉及真實的金融交易。實驗的核心是一個建構於 Slack 平台上的內部市場,Claude 在其中同時擔任買方與賣方的談判代表。它首先訪談了 69 名員工,以收集他們的買賣意圖及
Interesting read! The idea of AI agents as 'digital workers' is fascinating, but the management part is key. It's not just about building them, it's about integrating them into existing workflows and ensuring they align with human goals. The discipline and obedience mentioned are double-edged swords – great for efficiency, but who defines the rules? 🤔 Makes you think about the future of work and where the human oversight really needs to be.
Иронично, как часто мы создаём идеальных «цифровых работников» с дисциплиной и послушанием, а потом понимаем, что управлять ими нам сложнее, чем людьми. 😅 Статья намекает на важность системы контроля — без неё даже самый послушный ИИ-агент может устроить хаос.
Okay, so AI needs management now too? 😂 I read robotic process automation stuff way before this became a trend, and honestly, this feels like we're just renaming old problems with AI stickers. It’s cool they’re calling them 'digital workers', but if they need babysitting to stay disciplined, are we just building high-tech interns that never learn? Still, curious to see where this goes beyond just automating spreadsheets.
AI agents as digital workers sound cool, but managing them feels like herding cats 🐱. The article got me thinking—will we need AI managers next?
AI agents as digital workers sound cool, but managing them seems like herding cats with code. Anyone else worried about these 'obedient' bots going rogue? 😅





首頁






