人工智能代理人:新勞動力仍需要管理

關於AI代理作為新型「數位工作者」的熱議聲浪日益高漲,這一趨勢早在代理型與生成型AI主流採用之前就已開始,特別是在機器人流程自動化等領域。這些數位工作者被設計為紀律嚴明且服從指令,但它們也帶有自身的獨特特性,與人類工作者頗為相似。
想深入了解AI如何改變我的工作生活,請查看我在2024年AI為我節省工作時間的15種方式 - 以及我計劃在2025年如何使用它的文章。
Salesforce推出Agentforce 2.0,邁向數位勞動
數位勞動力的轉型已取得顯著進展,Salesforce最近推出了Agentforce 2.0,一個專為企業打造的數位勞動平台。該平台旨在通過AI代理為任何部門創造「無限勞動力」,利用預建技能庫在任何系統或工作流程中運作。根據Salesforce的說法,Agentforce 2.0超越了傳統的RPA,融入了「增強的推理與數據檢索」功能,使其能提供精準答案,並針對複雜、多步驟的查詢協調行動。這些代理甚至能在Slack內互動,無縫融入日常工作環境。
以數位勞動增強團隊
Salesforce指出,主要組織正利用該平台以數位勞動增強其團隊。由於人才稀缺且培訓成本高昂,企業越來越依賴AI來管理客戶互動並解決工作流程積壓。然而,Salesforce強調,企業不再滿足於「提供通用回應的不足解決方案」。像copilot這樣的傳統解決方案在應對複雜請求(如個性化求職指導)時,往往無法提供準確、可信的回應,且缺乏自主行動的能力,例如通過產品推薦來培育潛在客戶。
行業領袖認為,自主數位工作者現已能在不同層次執行此類任務。Motorola Solutions的AI透明度與教育主任Chris Bennett在接受ZDNET採訪時表示:「熟練的創新者、快速部署的雲工具、客戶意識以及高層支持的結合,為2025年代理型AI的蓬勃發展創造了理想環境。」
Bennett解釋,Motorola Solutions已利用代理型AI的力量「提升公共安全與企業安全性」。其AI應用程式能分析並即時呈現數據,為第一線應變人員和安全人員提供關鍵、即時的支援。他指出:「AI代理從不感到無聊、疲倦或分心」,它們能自動化重複性任務,讓應變人員專注於更關鍵的職責和社區參與。例如,AI代理能加速諸如審查歷史視頻片段的任務,通過自然語言搜索幫助調查人員更快找到失蹤人士。
Aurascape的共同創辦人兼副總裁Viswesh Ananthakrishnan描述AI代理如何直覺化流程,「創建一系列步驟或解決問題的配方」。這些代理能執行這些步驟,甚至與其他代理協作,全面了解企業運作方式。Ananthakrishnan進一步解釋,AI代理能「開發並執行複雜流程,例如查看需求預測,並在庫存耗盡前主動採取行動生成並提交訂單。」這種自動化顯著減少了工作者在重複性任務上的時間。
AI代理的謹慎管理需求
然而,與人類工作者一樣,AI代理也需要謹慎管理。在代理型AI驅動的勞動力能全面承擔廣泛任務之前,仍有許多工作要做。Norwest Venture Partners的合夥人Scott Beechuk警告說:「雖然代理型AI的潛力顯而易見,但距離企業級廣泛採用仍需數年。」他強調了可信度的重要性,因為代理可能在自動化關鍵業務流程中扮演重要角色。
其中一個挑戰是AI代理行為的可追溯性。Ananthakrishnan指出:「許多工具難以解釋它們如何從用戶的敏感數據中得出回應,模型也難以超越其所學進行泛化。」
不可預測性是另一個障礙,Beechuk補充說,大型語言模型(LLM)「像黑盒子一樣運作」。「用戶和工程師難以知道AI是否成功完成了任務,以及是否正確完成。」他還警告說,AI代理的不可靠性問題,「在AI自行創建完成任務步驟的系統中,編造的細節可能隨著任務進展導致更多錯誤,最終使輸出不可靠。」
人類工作者自然能輕鬆且規律地協作,但對AI工作者來說,這更為複雜。Ananthakrishnan解釋:「由於代理將與多個系統和數據儲存交互,實現全面可視性並非易事。」捕捉代理的每個行動需要深入洞察終端設備上的活動,並能處理多種格式的數據。此外,「快速將來自終端的上下文與網絡級流量結合,以確定代理行動的數據來源」以及「識別與您數據交互的AI代理類型,無論是可信實體還是全新代理」都至關重要。
AI系統工程師的興起
這種複雜性可能催生一個以人為中心的新角色——AI系統工程師。Beechuk表示:「隨著企業管理和持續優化AI代理,這一新的品質保證和監督角色將變得不可或缺。」
在多代理環境中,Beechuk解釋:「AI代理將不斷交互和演進,持續消耗新數據以執行各自的工作。」「當其中一個代理接收到錯誤數據——無論是有意還是無意——並改變其行為時,它可能開始錯誤或不夠精確地執行任務,即便前一天還表現完美。一個代理的錯誤可能引發連鎖效應,降低整個系統的效能。企業將僱用足夠的AI系統工程師以防止這種情況發生。」
Bennett建議,雖然公司和技術團隊可能「已準備好支持代理型AI,但我們仍需時間和經驗來平衡代理型與人類工作流程。」他建議:「我們的建議是將AI視為對人類專家的增強,而非替代。」
相關文章
內部細節曝光:下一代 Gemini 算力緊張,內部團隊在開發優先順序和資源分配上存在分歧
報告顯示,谷歌備受期待的下一代 Gemini 模型釋出已被推遲。由於內部在開發優先順序和資源分配上存在分歧,加上計算能力有限以及複雜的審批流程,導致釋出時間延後了兩個月。儘管谷歌擁有定製的 TPU 晶片,但由於模型訓練、Google Cloud 服務以及眾多消費和企業級 AI 應用對計算資源的需求相互競爭,谷歌仍面臨計算資源短缺的問題。目前,高層管理人員正透過組織結構調整來解決這些部門間的衝突。與此同時,領導層也發生了變化,聯合創始人謝爾蓋·布林越來越多地參與到核心模型訓練中,並倡導將資源專門用於
OpenAI 否認增長放緩擔憂,稱多個業務部門加速發展
針對外界對其銷售增長放緩及未達內部基準的質疑,人工智慧領域的領軍企業 OpenAI 於 4 月 28 日(星期二)發表了一份信心十足的宣告。該公司澄清稱,其消費產品和企業服務正在快速推進,直接駁斥了近期關於業務放緩的猜測。針對該公司“未達成多項內部目標”的說法,OpenAI 將這些報道斥為“典型的標題黨”。公司強調了企業對 AI 整合的強勁需求,並指出其廣告業務早期增長前景良好。據 OpenAI 內部人士透露,公司內部情緒依然樂觀。儘管市場競爭日益激烈,但公司正在向投資者傳遞信心,聲稱其商業
阿里巴巴超級盃:Qwen3.8-Max 重磅登場,程式碼與辦公工具能力全面升級
阿里巴巴正式釋出了Qwen3.8-Max,這是一款擁有2.4萬億引數的下一代基礎大模型。這一重大AI進展在編碼和專業辦公任務等核心領域帶來了顯著的效能提升,展現了強大的技術能力。在權威的Arena大模型排名中,Qwen3.8-Max取得了令人矚目的成績,僅次於Anthropic的Claude系列,位居行業前列。這一里程碑標誌著國內大模型在處理複雜任務方面取得了快速進展,為開發者和企業使用者提供了先進的智慧工具。該模型的API現已在Qwen AI平臺上上線,並整合到新推出的“Qwen Offic
相關專題推薦
評論 (14)
0/500
AIエージェントって結局のところ、人間と同じで管理しないと暴走しちゃうんだよね。ロボットプロセスオートメーションの進化版って感じだけど、最終的には人間の監督が不可欠だと思う。技術は速いけど、組織の仕組みは遅いから、そこでのバランス取りが大事だよね。😅
I'm curious how these so-called AI agents will handle unexpected situations outside their preset tasks, will they just freeze or keep going? It feels a bit like giving robots strict instructions without any room for creativity.
Interesting read! The idea of AI agents as 'digital workers' is fascinating, but the management part is key. It's not just about building them, it's about integrating them into existing workflows and ensuring they align with human goals. The discipline and obedience mentioned are double-edged swords – great for efficiency, but who defines the rules? 🤔 Makes you think about the future of work and where the human oversight really needs to be.
Иронично, как часто мы создаём идеальных «цифровых работников» с дисциплиной и послушанием, а потом понимаем, что управлять ими нам сложнее, чем людьми. 😅 Статья намекает на важность системы контроля — без неё даже самый послушный ИИ-агент может устроить хаос.
Okay, so AI needs management now too? 😂 I read robotic process automation stuff way before this became a trend, and honestly, this feels like we're just renaming old problems with AI stickers. It’s cool they’re calling them 'digital workers', but if they need babysitting to stay disciplined, are we just building high-tech interns that never learn? Still, curious to see where this goes beyond just automating spreadsheets.

關於AI代理作為新型「數位工作者」的熱議聲浪日益高漲,這一趨勢早在代理型與生成型AI主流採用之前就已開始,特別是在機器人流程自動化等領域。這些數位工作者被設計為紀律嚴明且服從指令,但它們也帶有自身的獨特特性,與人類工作者頗為相似。
想深入了解AI如何改變我的工作生活,請查看我在2024年AI為我節省工作時間的15種方式 - 以及我計劃在2025年如何使用它的文章。
Salesforce推出Agentforce 2.0,邁向數位勞動
數位勞動力的轉型已取得顯著進展,Salesforce最近推出了Agentforce 2.0,一個專為企業打造的數位勞動平台。該平台旨在通過AI代理為任何部門創造「無限勞動力」,利用預建技能庫在任何系統或工作流程中運作。根據Salesforce的說法,Agentforce 2.0超越了傳統的RPA,融入了「增強的推理與數據檢索」功能,使其能提供精準答案,並針對複雜、多步驟的查詢協調行動。這些代理甚至能在Slack內互動,無縫融入日常工作環境。
以數位勞動增強團隊
Salesforce指出,主要組織正利用該平台以數位勞動增強其團隊。由於人才稀缺且培訓成本高昂,企業越來越依賴AI來管理客戶互動並解決工作流程積壓。然而,Salesforce強調,企業不再滿足於「提供通用回應的不足解決方案」。像copilot這樣的傳統解決方案在應對複雜請求(如個性化求職指導)時,往往無法提供準確、可信的回應,且缺乏自主行動的能力,例如通過產品推薦來培育潛在客戶。
行業領袖認為,自主數位工作者現已能在不同層次執行此類任務。Motorola Solutions的AI透明度與教育主任Chris Bennett在接受ZDNET採訪時表示:「熟練的創新者、快速部署的雲工具、客戶意識以及高層支持的結合,為2025年代理型AI的蓬勃發展創造了理想環境。」
Bennett解釋,Motorola Solutions已利用代理型AI的力量「提升公共安全與企業安全性」。其AI應用程式能分析並即時呈現數據,為第一線應變人員和安全人員提供關鍵、即時的支援。他指出:「AI代理從不感到無聊、疲倦或分心」,它們能自動化重複性任務,讓應變人員專注於更關鍵的職責和社區參與。例如,AI代理能加速諸如審查歷史視頻片段的任務,通過自然語言搜索幫助調查人員更快找到失蹤人士。
Aurascape的共同創辦人兼副總裁Viswesh Ananthakrishnan描述AI代理如何直覺化流程,「創建一系列步驟或解決問題的配方」。這些代理能執行這些步驟,甚至與其他代理協作,全面了解企業運作方式。Ananthakrishnan進一步解釋,AI代理能「開發並執行複雜流程,例如查看需求預測,並在庫存耗盡前主動採取行動生成並提交訂單。」這種自動化顯著減少了工作者在重複性任務上的時間。
AI代理的謹慎管理需求
然而,與人類工作者一樣,AI代理也需要謹慎管理。在代理型AI驅動的勞動力能全面承擔廣泛任務之前,仍有許多工作要做。Norwest Venture Partners的合夥人Scott Beechuk警告說:「雖然代理型AI的潛力顯而易見,但距離企業級廣泛採用仍需數年。」他強調了可信度的重要性,因為代理可能在自動化關鍵業務流程中扮演重要角色。
其中一個挑戰是AI代理行為的可追溯性。Ananthakrishnan指出:「許多工具難以解釋它們如何從用戶的敏感數據中得出回應,模型也難以超越其所學進行泛化。」
不可預測性是另一個障礙,Beechuk補充說,大型語言模型(LLM)「像黑盒子一樣運作」。「用戶和工程師難以知道AI是否成功完成了任務,以及是否正確完成。」他還警告說,AI代理的不可靠性問題,「在AI自行創建完成任務步驟的系統中,編造的細節可能隨著任務進展導致更多錯誤,最終使輸出不可靠。」
人類工作者自然能輕鬆且規律地協作,但對AI工作者來說,這更為複雜。Ananthakrishnan解釋:「由於代理將與多個系統和數據儲存交互,實現全面可視性並非易事。」捕捉代理的每個行動需要深入洞察終端設備上的活動,並能處理多種格式的數據。此外,「快速將來自終端的上下文與網絡級流量結合,以確定代理行動的數據來源」以及「識別與您數據交互的AI代理類型,無論是可信實體還是全新代理」都至關重要。
AI系統工程師的興起
這種複雜性可能催生一個以人為中心的新角色——AI系統工程師。Beechuk表示:「隨著企業管理和持續優化AI代理,這一新的品質保證和監督角色將變得不可或缺。」
在多代理環境中,Beechuk解釋:「AI代理將不斷交互和演進,持續消耗新數據以執行各自的工作。」「當其中一個代理接收到錯誤數據——無論是有意還是無意——並改變其行為時,它可能開始錯誤或不夠精確地執行任務,即便前一天還表現完美。一個代理的錯誤可能引發連鎖效應,降低整個系統的效能。企業將僱用足夠的AI系統工程師以防止這種情況發生。」
Bennett建議,雖然公司和技術團隊可能「已準備好支持代理型AI,但我們仍需時間和經驗來平衡代理型與人類工作流程。」他建議:「我們的建議是將AI視為對人類專家的增強,而非替代。」
內部細節曝光:下一代 Gemini 算力緊張,內部團隊在開發優先順序和資源分配上存在分歧
報告顯示,谷歌備受期待的下一代 Gemini 模型釋出已被推遲。由於內部在開發優先順序和資源分配上存在分歧,加上計算能力有限以及複雜的審批流程,導致釋出時間延後了兩個月。儘管谷歌擁有定製的 TPU 晶片,但由於模型訓練、Google Cloud 服務以及眾多消費和企業級 AI 應用對計算資源的需求相互競爭,谷歌仍面臨計算資源短缺的問題。目前,高層管理人員正透過組織結構調整來解決這些部門間的衝突。與此同時,領導層也發生了變化,聯合創始人謝爾蓋·布林越來越多地參與到核心模型訓練中,並倡導將資源專門用於
OpenAI 否認增長放緩擔憂,稱多個業務部門加速發展
針對外界對其銷售增長放緩及未達內部基準的質疑,人工智慧領域的領軍企業 OpenAI 於 4 月 28 日(星期二)發表了一份信心十足的宣告。該公司澄清稱,其消費產品和企業服務正在快速推進,直接駁斥了近期關於業務放緩的猜測。針對該公司“未達成多項內部目標”的說法,OpenAI 將這些報道斥為“典型的標題黨”。公司強調了企業對 AI 整合的強勁需求,並指出其廣告業務早期增長前景良好。據 OpenAI 內部人士透露,公司內部情緒依然樂觀。儘管市場競爭日益激烈,但公司正在向投資者傳遞信心,聲稱其商業
阿里巴巴超級盃:Qwen3.8-Max 重磅登場,程式碼與辦公工具能力全面升級
阿里巴巴正式釋出了Qwen3.8-Max,這是一款擁有2.4萬億引數的下一代基礎大模型。這一重大AI進展在編碼和專業辦公任務等核心領域帶來了顯著的效能提升,展現了強大的技術能力。在權威的Arena大模型排名中,Qwen3.8-Max取得了令人矚目的成績,僅次於Anthropic的Claude系列,位居行業前列。這一里程碑標誌著國內大模型在處理複雜任務方面取得了快速進展,為開發者和企業使用者提供了先進的智慧工具。該模型的API現已在Qwen AI平臺上上線,並整合到新推出的“Qwen Offic
AIエージェントって結局のところ、人間と同じで管理しないと暴走しちゃうんだよね。ロボットプロセスオートメーションの進化版って感じだけど、最終的には人間の監督が不可欠だと思う。技術は速いけど、組織の仕組みは遅いから、そこでのバランス取りが大事だよね。😅
I'm curious how these so-called AI agents will handle unexpected situations outside their preset tasks, will they just freeze or keep going? It feels a bit like giving robots strict instructions without any room for creativity.
Interesting read! The idea of AI agents as 'digital workers' is fascinating, but the management part is key. It's not just about building them, it's about integrating them into existing workflows and ensuring they align with human goals. The discipline and obedience mentioned are double-edged swords – great for efficiency, but who defines the rules? 🤔 Makes you think about the future of work and where the human oversight really needs to be.
Иронично, как часто мы создаём идеальных «цифровых работников» с дисциплиной и послушанием, а потом понимаем, что управлять ими нам сложнее, чем людьми. 😅 Статья намекает на важность системы контроля — без неё даже самый послушный ИИ-агент может устроить хаос.
Okay, so AI needs management now too? 😂 I read robotic process automation stuff way before this became a trend, and honestly, this feels like we're just renaming old problems with AI stickers. It’s cool they’re calling them 'digital workers', but if they need babysitting to stay disciplined, are we just building high-tech interns that never learn? Still, curious to see where this goes beyond just automating spreadsheets.





首頁






