人工智能代理人:新劳动力仍需要管理

围绕AI代理作为新型“数字工作者”的热议日益高涨,这一趋势早于代理型和生成型AI的主流采用,尤其是在机器人流程自动化等领域。这些数字工作者被设计为纪律严明、服从性强,但与人类同事一样,它们也有自己的独特特点。
想深入了解AI如何改变我的工作生活,请查看我在2024年AI为我节省工作时间的15种方式——以及我在2025年的使用计划上的文章。
Salesforce推出Agentforce 2.0,迈向数字劳动
数字劳动力的转变已取得显著进展,Salesforce最近推出了Agentforce 2.0,这是一个为企业量身定制的数字劳动平台。该平台旨在通过AI代理为任何部门创造“无限劳动力”,利用预构建技能库在任何系统或工作流程中运行。据Salesforce称,Agentforce 2.0超越了传统的RPA,融入了“增强的推理和数据检索”功能,使其能够提供精确答案并针对复杂、多步骤查询协调行动。这些代理甚至能在Slack中互动,成为日常工作环境的无缝部分。
用数字劳动增强团队
Salesforce指出,主要组织正在利用该平台通过数字劳动增强团队。由于人才稀缺且培训成本高昂,企业越来越依赖AI来管理客户交互和处理工作流程积压。然而,Salesforce指出,他们不再满足于“提供通用响应的不充分解决方案”。像Copilot这样的传统解决方案在应对复杂请求(如个性化求职指导)时,往往无法提供准确、可信的响应,也缺乏自主行动的能力——例如通过产品推荐培养潜在客户。
行业领导者一致认为,自主数字工作者现已能够在不同层面执行此类任务。摩托罗拉解决方案的AI透明度和教育总监克里斯·贝内特(Chris Bennett)在接受ZDNET采访时表示:“技术创新者、快速部署的云工具、客户意识和高层支持的结合,为2025年代理型AI的蓬勃发展创造了理想环境。”
贝内特解释说,摩托罗拉解决方案已利用代理型AI的力量“提升公共安全和企业安全性”。他们的AI应用分析并呈现实时数据,为急救人员和安全人员提供关键的即时支持。他指出:“AI代理从不感到无聊、疲倦或分心,”它们可以自动化重复性任务,让急救人员有更多时间处理关键职责和社区互动。例如,AI代理可以加速审查历史视频片段的任务,通过自然语言搜索帮助调查人员更快找到失踪人员。
Aurascape联合创始人兼副总裁维斯韦什·阿南塔克里希南(Viswesh Ananthakrishnan)描述了AI代理如何通过直觉推理流程“创建一系列步骤,或解决问题的配方”。这些代理可以执行这些步骤,甚至与其他代理协作,全面了解企业的运作方式。阿南塔克里希南进一步解释说,AI代理可以“开发和执行复杂流程,例如查看需求预测并采取主动行动,在库存不足之前生成并提交更多库存的订单。”这种自动化显著减少了工作者在重复性任务上的时间。
AI代理需谨慎管理
然而,与人类工作者一样,AI代理也需要谨慎管理。在代理型AI驱动的劳动力能够全面承担广泛任务之前,仍有许多工作要做。Norwest Venture Partners的合伙人斯科特·比丘克(Scott Beechuk)警告说:“虽然代理型AI的潜力显而易见,但距离企业级广泛采用代理型AI还有几年时间。”他强调了可信度的重要性,因为代理可能在自动化关键业务流程中发挥作用。
其中一个挑战是AI代理行为的追溯性。阿南塔克里希南指出:“许多工具难以解释它们如何从用户的敏感数据中得出响应,模型也难以超出其所学内容进行泛化。”
不可预测性是另一个障碍,比丘克补充说,大型语言模型(LLMs)“像黑盒一样运行”。“用户和工程师很难知道AI是否成功完成任务,以及是否正确完成。”他还警告说,AI代理的不可靠性是一个问题,“在AI自行创建完成任务步骤的系统中,虚构的细节可能导致任务进展中出现更多错误,最终使输出不可靠。”
人类工作者自然能够轻松、规律地协作,但对于AI工作者来说,这更为复杂。阿南塔克里希南解释说:“由于代理将与多个系统和数据存储交互,实现全面可见性并非易事。”捕捉代理的每个行动需要深入了解终端设备上的活动,并能够处理各种格式的数据。此外,“将来自终端的上下文与网络级流量快速结合,以确定代理行动的数据依据,以及识别与您数据交互的AI代理类型,无论是可信实体还是全新代理,都至关重要。”
AI系统工程师的崛起
这种复杂性可能催生一个以人为中心的新角色——AI系统工程师。比丘克表示:“随着企业管理和持续优化AI代理,这一新的质量保证和监督角色将变得至关重要。”
在多代理环境中,“AI代理将不断交互和演变,持续消耗新数据以执行各自的任务,”他解释说。“当其中一个代理收到错误数据——无论是故意还是无意——并改变其行为时,它可能开始错误或不够精确地执行任务,即便前一天它还表现得很好。一个代理的错误可能引发连锁效应,降低整个系统的性能。企业将雇用尽可能多的AI系统工程师,以防止这种情况发生。”
虽然公司和技术团队可能“已准备好支持代理型AI,但我们仍需时间和经验在代理型与人类工作流程之间找到平衡,”贝内特建议。“我们的建议是将AI视为人类专家的增强,而非替代。”
相关文章
内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧
报告显示,谷歌备受期待的下一代 Gemini 模型发布已被推迟。由于内部在开发优先级和资源分配上存在分歧,加上计算能力有限以及复杂的审批流程,导致发布时间延后了两个月。尽管谷歌拥有定制的 TPU 芯片,但由于模型训练、Google Cloud 服务以及众多消费和企业级 AI 应用对计算资源的需求相互竞争,谷歌仍面临计算资源短缺的问题。目前,高层管理人员正通过组织结构调整来解决这些部门间的冲突。与此同时,领导层也发生了变化,联合创始人谢尔盖·布林越来越多地参与到核心模型训练中,并倡导将资源专门用于
OpenAI 否认增长放缓担忧,称多个业务部门加速发展
针对外界对其销售增长放缓及未达内部基准的质疑,人工智能领域的领军企业 OpenAI 于 4 月 28 日(星期二)发表了一份信心十足的声明。该公司澄清称,其消费产品和企业服务正在快速推进,直接驳斥了近期关于业务放缓的猜测。针对该公司“未达成多项内部目标”的说法,OpenAI 将这些报道斥为“典型的标题党”。公司强调了企业对 AI 集成的强劲需求,并指出其广告业务早期增长前景良好。据 OpenAI 内部人士透露,公司内部情绪依然乐观。尽管市场竞争日益激烈,但公司正在向投资者传递信心,声称其商业
阿里巴巴超级杯:Qwen3.8-Max 重磅登场,代码与办公工具能力全面升级
阿里巴巴正式发布了Qwen3.8-Max,这是一款拥有2.4万亿参数的下一代基础大模型。这一重大AI进展在编码和专业办公任务等核心领域带来了显著的性能提升,展现了强大的技术能力。在权威的Arena大模型排名中,Qwen3.8-Max取得了令人瞩目的成绩,仅次于Anthropic的Claude系列,位居行业前列。这一里程碑标志着国内大模型在处理复杂任务方面取得了快速进展,为开发者和企业用户提供了先进的智能工具。该模型的API现已在Qwen AI平台上上线,并集成到新推出的“Qwen Offic
相关专题推荐
评论 (14)
0/500
AIエージェントって結局のところ、人間と同じで管理しないと暴走しちゃうんだよね。ロボットプロセスオートメーションの進化版って感じだけど、最終的には人間の監督が不可欠だと思う。技術は速いけど、組織の仕組みは遅いから、そこでのバランス取りが大事だよね。😅
I'm curious how these so-called AI agents will handle unexpected situations outside their preset tasks, will they just freeze or keep going? It feels a bit like giving robots strict instructions without any room for creativity.
Interesting read! The idea of AI agents as 'digital workers' is fascinating, but the management part is key. It's not just about building them, it's about integrating them into existing workflows and ensuring they align with human goals. The discipline and obedience mentioned are double-edged swords – great for efficiency, but who defines the rules? 🤔 Makes you think about the future of work and where the human oversight really needs to be.
Иронично, как часто мы создаём идеальных «цифровых работников» с дисциплиной и послушанием, а потом понимаем, что управлять ими нам сложнее, чем людьми. 😅 Статья намекает на важность системы контроля — без неё даже самый послушный ИИ-агент может устроить хаос.
Okay, so AI needs management now too? 😂 I read robotic process automation stuff way before this became a trend, and honestly, this feels like we're just renaming old problems with AI stickers. It’s cool they’re calling them 'digital workers', but if they need babysitting to stay disciplined, are we just building high-tech interns that never learn? Still, curious to see where this goes beyond just automating spreadsheets.

围绕AI代理作为新型“数字工作者”的热议日益高涨,这一趋势早于代理型和生成型AI的主流采用,尤其是在机器人流程自动化等领域。这些数字工作者被设计为纪律严明、服从性强,但与人类同事一样,它们也有自己的独特特点。
想深入了解AI如何改变我的工作生活,请查看我在2024年AI为我节省工作时间的15种方式——以及我在2025年的使用计划上的文章。
Salesforce推出Agentforce 2.0,迈向数字劳动
数字劳动力的转变已取得显著进展,Salesforce最近推出了Agentforce 2.0,这是一个为企业量身定制的数字劳动平台。该平台旨在通过AI代理为任何部门创造“无限劳动力”,利用预构建技能库在任何系统或工作流程中运行。据Salesforce称,Agentforce 2.0超越了传统的RPA,融入了“增强的推理和数据检索”功能,使其能够提供精确答案并针对复杂、多步骤查询协调行动。这些代理甚至能在Slack中互动,成为日常工作环境的无缝部分。
用数字劳动增强团队
Salesforce指出,主要组织正在利用该平台通过数字劳动增强团队。由于人才稀缺且培训成本高昂,企业越来越依赖AI来管理客户交互和处理工作流程积压。然而,Salesforce指出,他们不再满足于“提供通用响应的不充分解决方案”。像Copilot这样的传统解决方案在应对复杂请求(如个性化求职指导)时,往往无法提供准确、可信的响应,也缺乏自主行动的能力——例如通过产品推荐培养潜在客户。
行业领导者一致认为,自主数字工作者现已能够在不同层面执行此类任务。摩托罗拉解决方案的AI透明度和教育总监克里斯·贝内特(Chris Bennett)在接受ZDNET采访时表示:“技术创新者、快速部署的云工具、客户意识和高层支持的结合,为2025年代理型AI的蓬勃发展创造了理想环境。”
贝内特解释说,摩托罗拉解决方案已利用代理型AI的力量“提升公共安全和企业安全性”。他们的AI应用分析并呈现实时数据,为急救人员和安全人员提供关键的即时支持。他指出:“AI代理从不感到无聊、疲倦或分心,”它们可以自动化重复性任务,让急救人员有更多时间处理关键职责和社区互动。例如,AI代理可以加速审查历史视频片段的任务,通过自然语言搜索帮助调查人员更快找到失踪人员。
Aurascape联合创始人兼副总裁维斯韦什·阿南塔克里希南(Viswesh Ananthakrishnan)描述了AI代理如何通过直觉推理流程“创建一系列步骤,或解决问题的配方”。这些代理可以执行这些步骤,甚至与其他代理协作,全面了解企业的运作方式。阿南塔克里希南进一步解释说,AI代理可以“开发和执行复杂流程,例如查看需求预测并采取主动行动,在库存不足之前生成并提交更多库存的订单。”这种自动化显著减少了工作者在重复性任务上的时间。
AI代理需谨慎管理
然而,与人类工作者一样,AI代理也需要谨慎管理。在代理型AI驱动的劳动力能够全面承担广泛任务之前,仍有许多工作要做。Norwest Venture Partners的合伙人斯科特·比丘克(Scott Beechuk)警告说:“虽然代理型AI的潜力显而易见,但距离企业级广泛采用代理型AI还有几年时间。”他强调了可信度的重要性,因为代理可能在自动化关键业务流程中发挥作用。
其中一个挑战是AI代理行为的追溯性。阿南塔克里希南指出:“许多工具难以解释它们如何从用户的敏感数据中得出响应,模型也难以超出其所学内容进行泛化。”
不可预测性是另一个障碍,比丘克补充说,大型语言模型(LLMs)“像黑盒一样运行”。“用户和工程师很难知道AI是否成功完成任务,以及是否正确完成。”他还警告说,AI代理的不可靠性是一个问题,“在AI自行创建完成任务步骤的系统中,虚构的细节可能导致任务进展中出现更多错误,最终使输出不可靠。”
人类工作者自然能够轻松、规律地协作,但对于AI工作者来说,这更为复杂。阿南塔克里希南解释说:“由于代理将与多个系统和数据存储交互,实现全面可见性并非易事。”捕捉代理的每个行动需要深入了解终端设备上的活动,并能够处理各种格式的数据。此外,“将来自终端的上下文与网络级流量快速结合,以确定代理行动的数据依据,以及识别与您数据交互的AI代理类型,无论是可信实体还是全新代理,都至关重要。”
AI系统工程师的崛起
这种复杂性可能催生一个以人为中心的新角色——AI系统工程师。比丘克表示:“随着企业管理和持续优化AI代理,这一新的质量保证和监督角色将变得至关重要。”
在多代理环境中,“AI代理将不断交互和演变,持续消耗新数据以执行各自的任务,”他解释说。“当其中一个代理收到错误数据——无论是故意还是无意——并改变其行为时,它可能开始错误或不够精确地执行任务,即便前一天它还表现得很好。一个代理的错误可能引发连锁效应,降低整个系统的性能。企业将雇用尽可能多的AI系统工程师,以防止这种情况发生。”
虽然公司和技术团队可能“已准备好支持代理型AI,但我们仍需时间和经验在代理型与人类工作流程之间找到平衡,”贝内特建议。“我们的建议是将AI视为人类专家的增强,而非替代。”
内部细节曝光:下一代 Gemini 算力紧张,内部团队在开发优先级和资源分配上存在分歧
报告显示,谷歌备受期待的下一代 Gemini 模型发布已被推迟。由于内部在开发优先级和资源分配上存在分歧,加上计算能力有限以及复杂的审批流程,导致发布时间延后了两个月。尽管谷歌拥有定制的 TPU 芯片,但由于模型训练、Google Cloud 服务以及众多消费和企业级 AI 应用对计算资源的需求相互竞争,谷歌仍面临计算资源短缺的问题。目前,高层管理人员正通过组织结构调整来解决这些部门间的冲突。与此同时,领导层也发生了变化,联合创始人谢尔盖·布林越来越多地参与到核心模型训练中,并倡导将资源专门用于
OpenAI 否认增长放缓担忧,称多个业务部门加速发展
针对外界对其销售增长放缓及未达内部基准的质疑,人工智能领域的领军企业 OpenAI 于 4 月 28 日(星期二)发表了一份信心十足的声明。该公司澄清称,其消费产品和企业服务正在快速推进,直接驳斥了近期关于业务放缓的猜测。针对该公司“未达成多项内部目标”的说法,OpenAI 将这些报道斥为“典型的标题党”。公司强调了企业对 AI 集成的强劲需求,并指出其广告业务早期增长前景良好。据 OpenAI 内部人士透露,公司内部情绪依然乐观。尽管市场竞争日益激烈,但公司正在向投资者传递信心,声称其商业
阿里巴巴超级杯:Qwen3.8-Max 重磅登场,代码与办公工具能力全面升级
阿里巴巴正式发布了Qwen3.8-Max,这是一款拥有2.4万亿参数的下一代基础大模型。这一重大AI进展在编码和专业办公任务等核心领域带来了显著的性能提升,展现了强大的技术能力。在权威的Arena大模型排名中,Qwen3.8-Max取得了令人瞩目的成绩,仅次于Anthropic的Claude系列,位居行业前列。这一里程碑标志着国内大模型在处理复杂任务方面取得了快速进展,为开发者和企业用户提供了先进的智能工具。该模型的API现已在Qwen AI平台上上线,并集成到新推出的“Qwen Offic
AIエージェントって結局のところ、人間と同じで管理しないと暴走しちゃうんだよね。ロボットプロセスオートメーションの進化版って感じだけど、最終的には人間の監督が不可欠だと思う。技術は速いけど、組織の仕組みは遅いから、そこでのバランス取りが大事だよね。😅
I'm curious how these so-called AI agents will handle unexpected situations outside their preset tasks, will they just freeze or keep going? It feels a bit like giving robots strict instructions without any room for creativity.
Interesting read! The idea of AI agents as 'digital workers' is fascinating, but the management part is key. It's not just about building them, it's about integrating them into existing workflows and ensuring they align with human goals. The discipline and obedience mentioned are double-edged swords – great for efficiency, but who defines the rules? 🤔 Makes you think about the future of work and where the human oversight really needs to be.
Иронично, как часто мы создаём идеальных «цифровых работников» с дисциплиной и послушанием, а потом понимаем, что управлять ими нам сложнее, чем людьми. 😅 Статья намекает на важность системы контроля — без неё даже самый послушный ИИ-агент может устроить хаос.
Okay, so AI needs management now too? 😂 I read robotic process automation stuff way before this became a trend, and honestly, this feels like we're just renaming old problems with AI stickers. It’s cool they’re calling them 'digital workers', but if they need babysitting to stay disciplined, are we just building high-tech interns that never learn? Still, curious to see where this goes beyond just automating spreadsheets.





首页






