Ваш бизнес будет полагаться на сотни моделей искусственного интеллекта. Вот почему

В современном технологическом ландшафте, подобно тому как компании часто используют несколько облачных сервисов и баз данных для различных нужд, наблюдается нарастающий тренд к использованию множества моделей ИИ для разных целей. Недавний опрос, в котором приняли участие более 1000 лиц, принимающих решения в сфере ИТ, показывает, что наиболее продвинутые пользователи ИИ в настоящее время управляют сотнями моделей одновременно.

Мы вступили в эпоху, которую называют эрой "мультимодельного ИИ". Согласно опросу, проведенному S&P Global Market Intelligence при спонсорстве Vultr, среднее количество используемых моделей ИИ составляет 158, и ожидается, что в следующем году это число вырастет до 176.

Опрос также показал, что наиболее продвинутые пользователи ИИ в настоящее время работают в среднем со 175 моделями, с прогнозом увеличения этого числа на 14% до 200 моделей в течение следующего года. Те, кто находится на втором по уровню зрелости ИИ, ожидают годового роста числа моделей на 18%. Кроме того, две трети опрошенных менеджеров (66%) либо разрабатывают собственные модели, либо используют варианты с открытым исходным кодом.

Существуют веские причины для использования множества моделей в различных приложениях. Например, исследование MIT подчеркивает систему, которая использует три модели, обученные на данных языка, зрения и действий, чтобы помогать роботам планировать и выполнять задачи в бытовых, строительных и производственных условиях. "Каждая базовая модель отражает различный аспект процесса принятия решений и сотрудничает, когда приходит время принимать решения", — объяснили исследователи MIT.

Этот тренд приводит к тому, что известно как "ансамблевый" подход к ИИ, при котором несколько моделей работают вместе для создания результатов, как описала Эрика Дингман в посте MovableInk. "Разница между использованием одной модели и ансамблевой модели подобна сравнению соло на скрипке с полным оркестром", — отметила она. "Хотя каждый инструмент имеет свою ценность, вместе они создают нечто поистине волшебное". Более того, использование разнообразных наборов данных и постоянное обновление и обучение ансамбля моделей может помочь уменьшить или устранить предвзятость в результатах ИИ.

Широкое внедрение и разнообразие систем, поддерживающих модели ИИ, способствуют этому распространению. ИИ все чаще развертывается на периферии, согласно опросу S&P и Vultr. "Распределенные архитектуры ИИ, где периферия играет ключевую роль в приложениях, охватывающих инфраструктуру организации, вероятно, станут стандартом", — заявили авторы опроса. Значительное большинство (85%) лиц, принимающих решения в сфере ИТ, считают этот переход вероятным или чрезвычайно вероятным в их средах, при этом 32% считают это "чрезвычайно вероятным".

Опрос выявил организации, лидирующие в внедрении ИИ, классифицируя их как имеющие "трансформационные практики ИИ". Половина этих лидеров работает "значительно лучше", чем их отраслевые конкуренты на операционном уровне. Почти все эти лидеры сообщили об улучшениях в своих показателях с 2022 по 2023 год по различным метрикам, включая удовлетворенность клиентов (90%), доход (91%), снижение затрат/расширение маржи (88%), управление рисками (87%), маркетинг (89%) и долю рынка (89%).

Во всех опрошенных организациях ожидается, что расходы на ИИ превысят общие расходы на ИТ. Почти девять из десяти предприятий (88%) планируют увеличить расходы на ИИ в 2025 году, при этом 49% ожидают умеренного или значительного увеличения.

Однако быстрый рост использования ИИ приносит вызовы, особенно в отношении существующей ИТ-инфраструктуры. "Когда речь идет о высокотребовательных активностях ИИ, таких как инференсинг в реальном времени, респонденты обеспокоены тем, что их текущая инфраструктура может быть недостаточной", — отметили авторы опроса. Три основные проблемы включают недостаток ресурсов CPU или GPU (65%), проблемы с локализацией данных (53%) и проблемы с производительностью хранилища (50%).

Качественные данные опроса подтвердили эти опасения, с упоминаниями респондентов о задержках в планировании для экземпляров GPU с большей мощностью в публичных облаках и потенциальных воздействиях на доступность данных. Кроме того, растет беспокойство по поводу стоимости инфраструктуры. "Стоимость часто становится более насущной проблемой, как только проекты начинают работать в производственной среде. Исторически организации испытывали трудности с точным прогнозированием этих затрат", — заключили авторы.