人工智能代理人：新劳动力仍需要管理

围绕AI代理作为新型“数字工作者”的热议日益高涨，这一趋势早于代理型和生成型AI的主流采用，尤其是在机器人流程自动化等领域。这些数字工作者被设计为纪律严明、服从性强，但与人类同事一样，它们也有自己的独特特点。

想深入了解AI如何改变我的工作生活，请查看我在2024年AI为我节省工作时间的15种方式——以及我在2025年的使用计划上的文章。

Salesforce推出Agentforce 2.0，迈向数字劳动

数字劳动力的转变已取得显著进展，Salesforce最近推出了Agentforce 2.0，这是一个为企业量身定制的数字劳动平台。该平台旨在通过AI代理为任何部门创造“无限劳动力”，利用预构建技能库在任何系统或工作流程中运行。据Salesforce称，Agentforce 2.0超越了传统的RPA，融入了“增强的推理和数据检索”功能，使其能够提供精确答案并针对复杂、多步骤查询协调行动。这些代理甚至能在Slack中互动，成为日常工作环境的无缝部分。

用数字劳动增强团队

Salesforce指出，主要组织正在利用该平台通过数字劳动增强团队。由于人才稀缺且培训成本高昂，企业越来越依赖AI来管理客户交互和处理工作流程积压。然而，Salesforce指出，他们不再满足于“提供通用响应的不充分解决方案”。像Copilot这样的传统解决方案在应对复杂请求（如个性化求职指导）时，往往无法提供准确、可信的响应，也缺乏自主行动的能力——例如通过产品推荐培养潜在客户。

行业领导者一致认为，自主数字工作者现已能够在不同层面执行此类任务。摩托罗拉解决方案的AI透明度和教育总监克里斯·贝内特（Chris Bennett）在接受ZDNET采访时表示：“技术创新者、快速部署的云工具、客户意识和高层支持的结合，为2025年代理型AI的蓬勃发展创造了理想环境。”

贝内特解释说，摩托罗拉解决方案已利用代理型AI的力量“提升公共安全和企业安全性”。他们的AI应用分析并呈现实时数据，为急救人员和安全人员提供关键的即时支持。他指出：“AI代理从不感到无聊、疲倦或分心，”它们可以自动化重复性任务，让急救人员有更多时间处理关键职责和社区互动。例如，AI代理可以加速审查历史视频片段的任务，通过自然语言搜索帮助调查人员更快找到失踪人员。

Aurascape联合创始人兼副总裁维斯韦什·阿南塔克里希南（Viswesh Ananthakrishnan）描述了AI代理如何通过直觉推理流程“创建一系列步骤，或解决问题的配方”。这些代理可以执行这些步骤，甚至与其他代理协作，全面了解企业的运作方式。阿南塔克里希南进一步解释说，AI代理可以“开发和执行复杂流程，例如查看需求预测并采取主动行动，在库存不足之前生成并提交更多库存的订单。”这种自动化显著减少了工作者在重复性任务上的时间。

AI代理需谨慎管理

然而，与人类工作者一样，AI代理也需要谨慎管理。在代理型AI驱动的劳动力能够全面承担广泛任务之前，仍有许多工作要做。Norwest Venture Partners的合伙人斯科特·比丘克（Scott Beechuk）警告说：“虽然代理型AI的潜力显而易见，但距离企业级广泛采用代理型AI还有几年时间。”他强调了可信度的重要性，因为代理可能在自动化关键业务流程中发挥作用。

其中一个挑战是AI代理行为的追溯性。阿南塔克里希南指出：“许多工具难以解释它们如何从用户的敏感数据中得出响应，模型也难以超出其所学内容进行泛化。”

不可预测性是另一个障碍，比丘克补充说，大型语言模型（LLMs）“像黑盒一样运行”。“用户和工程师很难知道AI是否成功完成任务，以及是否正确完成。”他还警告说，AI代理的不可靠性是一个问题，“在AI自行创建完成任务步骤的系统中，虚构的细节可能导致任务进展中出现更多错误，最终使输出不可靠。”

人类工作者自然能够轻松、规律地协作，但对于AI工作者来说，这更为复杂。阿南塔克里希南解释说：“由于代理将与多个系统和数据存储交互，实现全面可见性并非易事。”捕捉代理的每个行动需要深入了解终端设备上的活动，并能够处理各种格式的数据。此外，“将来自终端的上下文与网络级流量快速结合，以确定代理行动的数据依据，以及识别与您数据交互的AI代理类型，无论是可信实体还是全新代理，都至关重要。”

AI系统工程师的崛起

这种复杂性可能催生一个以人为中心的新角色——AI系统工程师。比丘克表示：“随着企业管理和持续优化AI代理，这一新的质量保证和监督角色将变得至关重要。”

在多代理环境中，“AI代理将不断交互和演变，持续消耗新数据以执行各自的任务，”他解释说。“当其中一个代理收到错误数据——无论是故意还是无意——并改变其行为时，它可能开始错误或不够精确地执行任务，即便前一天它还表现得很好。一个代理的错误可能引发连锁效应，降低整个系统的性能。企业将雇用尽可能多的AI系统工程师，以防止这种情况发生。”

虽然公司和技术团队可能“已准备好支持代理型AI，但我们仍需时间和经验在代理型与人类工作流程之间找到平衡，”贝内特建议。“我们的建议是将AI视为人类专家的增强，而非替代。”