InsightFinder привлек 15 млн долларов на устранение сбоев в работе ИИ-агентов

Роль инструментов наблюдаемости вновь претерпела изменения. Хотя рынок решений, обеспечивающих надежность технологических систем, со временем расширился, акцент постепенно сместился с «отслеживания всего» на «управление сложностью и контроль затрат». Между тем, стремительное внедрение и широкое использование ИИ-агентов в компаниях привело к появлению совершенно новой категории рабочих нагрузок, требующих мониторинга.

InsightFinder AI, стартап, основанный на 15-летних академических исследованиях, хорошо знаком с этой проблемой.

С 2016 года компания использует машинное обучение для мониторинга, выявления и проактивного устранения проблем в ИТ-инфраструктуре. Сейчас она решает актуальные проблемы надежности моделей ИИ с помощью решения на базе ИИ-агентов, способного обрабатывать все — от обнаружения и диагностики до устранения и предотвращения.

Как стало известно TechCrunch из эксклюзивных источников, компания, основанная генеральным директором Хелен Гу, профессором информатики в Университете штата Северная Каролина и бывшим сотрудником IBM и Google, недавно привлекла 15 миллионов долларов в рамках раунда финансирования серии B, возглавляемого Yu Galaxy.

По словам Гу, самая значительная проблема, стоящая сегодня перед отраслью, выходит за рамки мониторинга и диагностики сбоев моделей ИИ. Она включает в себя диагностику того, как функционирует весь технологический стек теперь, когда ИИ является его неотъемлемой частью.

«Чтобы эффективно диагностировать проблемы с моделями ИИ, необходимо комплексно отслеживать и анализировать данные, модель и базовую инфраструктуру», — пояснила Гу TechCrunch. «Проблема не всегда ограничивается моделью или данными; часто это их сочетание. Иногда первопричиной является просто ваша инфраструктура».

Гу проиллюстрировала это на реальном примере: у одного из клиентов InsightFinder, крупной американской компании, выпускающей кредитные карты, произошло отклонение в модели обнаружения мошенничества. Поскольку InsightFinder осуществляла мониторинг всей инфраструктуры компании, она выявила, что отклонение модели было вызвано устаревшими данными кэша на определенных серверных узлах.

«Распространенное заблуждение заключается в том, что наблюдаемость ИИ ограничивается оценкой LLM на этапах разработки и тестирования. На самом деле надежная платформа наблюдаемости ИИ должна обеспечивать поддержку сквозной петли обратной связи, охватывающей этапы разработки, оценки и производства», — заявила она.

Новейший продукт InsightFinder под названием Autonomous Reliability Insights достигает этого за счет сочетания неконтролируемого машинного обучения, собственных больших и малых языковых моделей, прогнозирующего ИИ и причинно-следственного вывода. По словам Гу, этот базовый уровень не зависит от данных, что позволяет системе принимать и анализировать полные потоки данных, собирать сигналы, а также соотносить и перекрестно проверять их для выявления первопричин.

Сфера наблюдаемости сейчас переполнена конкурентами, борющимися за долю нового рынка, созданного распространением инструментов ИИ. Проработав почти десять лет, InsightFinder конкурирует с такими компаниями, как Grafana Labs, Fiddler, Datadog, Dynatrace, New Relic и BigPanda, каждая из которых разрабатывает возможности для решения новых задач, связанных с ИИ.

Однако Гу остается уверена в себе. Она утверждает, что экспертиза, опыт и возможность настройки InsightFinder составляют сильное конкурентное преимущество. «Мы редко теряем клиентов в пользу конкурентов... В конечном итоге все сводится к аналитическим выводам. Проблема в том, что многие специалисты по данным понимают ИИ, но не систему, в то время как многие разработчики в области инженерии надежности сайтов (SRE) понимают систему, но не ИИ... Они часто упускают из виду внутренние взаимосвязи между ними».

Сегодня в портфель клиентов InsightFinder входят UBS, NBCUniversal, Lenovo, Dell, Google Cloud и Comcast. Гу объясняет этот успех десятилетием усилий, посвященных пониманию потребностей крупных корпоративных клиентов.

«Это включало тесное сотрудничество с нашими клиентами из списка Fortune 50, чтобы отточить наш подход и понять требования корпоративной среды к развертыванию этих моделей», — сказала она. «Мы работаем с Dell над глобальным развертыванием наших систем ИИ для некоторых из наших крупнейших клиентов. Этого нельзя достичь, просто применив базовую модель ИИ к машинным данным».

Гу сообщила, что поток доходов компании «силен», за последний год он вырос «более чем в три раза». На самом деле компания не активно искала финансирование серии B; инвесторы обратились к ней после того, как InsightFinder заключила семизначную сделку с компанией из списка Fortune 50 в течение трех месяцев.

InsightFinder направит новый капитал на набор первых сотрудников в отдел продаж и маркетинга, чтобы расширить свою команду, насчитывающую менее 30 человек, а также на инвестиции в стратегию выхода на рынок. На сегодняшний день компания привлекла в общей сложности 35 миллионов долларов.