Агенты ИИ: новая рабочая сила все еще требует управления

Шум вокруг агентов ИИ как новых "цифровых работников" становится всё громче, эта тенденция предшествует массовому внедрению агентных и генеративных ИИ, особенно в таких областях, как автоматизация роботизированных процессов. Эти цифровые работники созданы для дисциплины и послушания, но у них есть свои особенности, как и у их человеческих коллег.

Чтобы глубже погрузиться в то, как ИИ изменил мою рабочую жизнь, ознакомьтесь с моей статьёй на 15 способов, как ИИ сэкономил мне время на работе в 2024 году — и как я планирую использовать его в 2025 году.

Прыжок Salesforce в цифровой труд с Agentforce 2.0

Переход к цифровой рабочей силе сделал значительные шаги вперёд, и Salesforce недавно запустила Agentforce 2.0, платформу цифрового труда, адаптированную для предприятий. Эта платформа стремится создать "безграничную рабочую силу через агентов ИИ для любого отдела", используя библиотеку готовых навыков для работы в любой системе или рабочем процессе. По словам Salesforce, Agentforce 2.0 выходит за рамки традиционной RPA, включая "усиленное рассуждение и извлечение данных", что позволяет ей давать точные ответы и координировать действия в ответ на сложные многоэтапные запросы. Эти агенты даже способны взаимодействовать в Slack, что делает их естественной частью повседневной рабочей среды.

Усиление команд цифровым трудом

Крупные организации используют эту платформу для укрепления своих команд цифровым трудом, как отмечает Salesforce. Поскольку талантливые специалисты редки и дороги в обучении, компании всё больше полагаются на ИИ для управления взаимодействием с клиентами и устранения отставаний в рабочих процессах. Однако они больше не могут довольствоваться "недостаточными решениями, которые дают общие ответы", как указывает Salesforce. Традиционные решения, такие как копилоты, часто не справляются с предоставлением точных, надёжных ответов на сложные запросы, такие как персонализированное руководство по подаче заявления на работу, и им не хватает способности действовать автономно — например, развивать потенциальных клиентов с рекомендациями по продуктам.

Лидеры отрасли сходятся во мнении, что автономные цифровые работники теперь способны выполнять такие задачи на разных уровнях. "Сближение квалифицированных новаторов, быстроразворачиваемых облачных инструментов, осведомлённости клиентов и поддержки руководства создало идеальную среду для процветания агентного ИИ в 2025 году", — поделился Крис Беннетт, директор по прозрачности и обучению ИИ в Motorola Solutions, в беседе с ZDNET.

Motorola Solutions уже использует силу агентного ИИ "для улучшения общественной безопасности и безопасности предприятий", объясняет Беннетт. Их приложения ИИ анализируют и предоставляют данные в реальном времени, обеспечивая критическую, немедленную поддержку первым реагирующим и персоналу безопасности. "Агенты ИИ не устают, не утомляются и не отвлекаются", — отмечает он, подчёркивая, что они могут автоматизировать повторяющиеся задачи, освобождая реагирующих для более важных обязанностей и взаимодействия с сообществом. Например, агенты ИИ могут ускорить выполнение таких задач, как просмотр исторических записей видео, помогая следователям быстрее находить пропавших людей с помощью поисков на естественном языке.

Висвеш Аанантхакирисанан, сооснователь и вице-президент Aurascape, описывает, как агенты ИИ интуитивно определяют процессы, чтобы "создать последовательность шагов, или рецепт для решения проблемы". Эти агенты могут выполнять эти шаги и даже сотрудничать с другими агентами, получая полное представление о функционировании предприятия. Аанантхакирисананн далее объясняет, что агенты ИИ могут "разрабатывать и выполнять сложные процессы, такие как просмотр прогнозов спроса и принятие упреждающих действий для создания и подачи заказов на дополнительный инвентарь до того, как запасы истощатся." Эта автоматизация значительно сокращает время, которое работники тратят на повторяющиеся задачи.

Потребность в продуманном управлении агентами ИИ

Однако, как и человеческие работники, агенты ИИ требуют тщательного управления. Ещё предстоит проделать работу, прежде чем управляемая агентным ИИ рабочая сила сможет полностью справляться с широким спектром задач. "Хотя обещание агентного ИИ очевидно, мы находимся в нескольких годах от широкого внедрения агентного ИИ на уровне предприятий", — предупреждает Скотт Бичук, партнёр Norwest Venture Partners. Он подчёркивает важность надёжности, учитывая потенциальную роль агентов в автоматизации критически важных бизнес-процессов.

Одной из проблем является отслеживаемость действий агентов ИИ. "Многие инструменты с трудом объясняют, как они пришли к своим ответам на основе конфиденциальных данных пользователей, и модели с трудом обобщают за пределы того, что они изучили", — отмечает Аанантхакирисанан.

Непредсказуемость — ещё одно препятствие, поскольку большие языковые модели (LLMs) "работают как чёрные ящики", добавляет Бичук. "Пользователям и инженерам трудно понять, успешно ли ИИ выполнил задачу и сделал ли это правильно." Он также предостерегает о ненадёжности агентов ИИ, отмечая, что "в системах, где ИИ создаёт свои собственные шаги для выполнения задач, выдуманные детали могут привести к увеличению ошибок по мере продвижения задачи, что в конечном итоге делает результаты ненадёжными."

Человеческие работники естественно сотрудничают легко и регулярно, но для ИИ-работников это сложнее. "Поскольку агенты будут взаимодействовать с несколькими системами и хранилищами данных, достижение полной видимости — непростая задача", — объясняет Аанантхакирисанан. Крайне важно иметь видимость для захвата каждого действия, которое предпринимает агент, что требует глубокого понимания активности на конечных устройствах и способности обрабатывать данные в различных форматах. Кроме того, важно "быстро объединять этот контекст от конечных точек с сетевым трафиком, чтобы определить данные, информирующие действия агента", а также "распознавать тип агента ИИ, взаимодействующего с вашими данными, будь то доверенная сущность или совершенно новый агент."

Рост профессии инженера ИИ-систем

Эта сложность может привести к появлению новой роли, ориентированной на человека — инженера ИИ-систем. "Эта новая роль обеспечения качества и надзора станет необходимой для предприятий, поскольку они управляют и постоянно оптимизируют агентов ИИ", — утверждает Бичук.

В многоагентных средах "агенты ИИ будут постоянно взаимодействовать и эволюционировать, потребляя постоянный поток новых данных для выполнения своих индивидуальных задач", — объясняет он. "Когда один из них получает плохие данные — намеренно или ненамеренно — и изменяет своё поведение, он может начать выполнять свою работу неправильно или с меньшей точностью, даже если накануне он делал это идеально. Ошибка в одном агенте может затем вызвать каскадный эффект, который ухудшает всю систему. Предприятия будут нанимать столько инженеров ИИ-систем, сколько потребуется, чтобы этого не произошло."

Хотя компании и технические команды могут быть "хорошо подготовлены для поддержки агентного ИИ, нам всё ещё нужно время и опыт, чтобы найти правильный баланс между агентными и человеческими рабочими процессами", — советует Беннетт. "Наш совет — рассматривать ИИ как дополнение к человеческим экспертам, а не как их замену."