Intel Capital повышает TrueFoundry с 19 млн. Долл. США для масштабирования развертывания ИИ

TrueFoundry, стартап, основанный бывшими инженерами Meta, успешно привлек $19 миллионов в новом раунде финансирования, возглавляемом Intel Capital. Эта инновационная компания стремится помочь предприятиям эффективно масштабировать свои AI-системы, что стало особенно актуальным с ростом популярности генеративного AI (GenAI) после запуска ChatGPT в ноябре 2022 года.

Появление GenAI побудило компании всех размеров изучать возможности интеграции AI, но зависимость технологии от больших языковых моделей требует значительных вычислительных мощностей. Не каждое предприятие имеет доступ к многочисленным GPU, что делает оптимизацию GPU критически важной. Кроме того, компаниям необходимо экспериментировать с различными моделями, чтобы определить наиболее подходящую для их нужд и настроить её для повышения релевантности их операциям.

TrueFoundry решает эти проблемы с помощью своей модели платформы как услуги, специально разработанной для full-stack специалистов по данным. Платформа предлагает функции, такие как автоматическое масштабирование, проактивное обслуживание, централизованные средства управления доступом и мониторинг в реальном времени, упрощая весь процесс развертывания AI.

Запущенный в июне 2021 года Никунджем Баджаджем, Абхишеком Чоудхари и Анураагом Гутгутией — всеми бывшими инженерами Meta и выпускниками IIT Kharagpur — TrueFoundry изначально сосредоточился на ускорении развертывания машинного обучения в различных облачных средах. По мере роста популярности GenAI в 2023 году стартап адаптировал свою систему для поддержки возможностей GenAI.

«Ранее специалисты по данным были ограничены работой с моделями и экспериментами. Фактическое развертывание обычно передавалось ML-инженерам. С нашей системой мы даем специалистам по данным возможность самостоятельно создавать и тестировать эти сложные системы в масштабе, прежде чем передать их платформенной команде для финального развертывания», — объяснил Гутгутия в эксклюзивном интервью.

Флагманский продукт стартапа — это система автопилота, которая использует AI для анализа логов и метрик, помогая масштабировать приложения AI за счет оптимизации использования GPU и управления требованиями к памяти. Гутгутия поделился с TechCrunch, что один из клиентов TrueFoundry, работающий командой из двух человек, смог обработать 10 миллионов запросов в секунду с помощью этой системы.

TrueFoundry имеет 30 платящих клиентов по всему миру, а также множество пользователей, использующих её open-source фреймворк RAG для экспериментов. Среди клиентов Nvidia использует программное обеспечение TrueFoundry для оптимизации своих кластеров GPU, а ResMed применяет его для создания внутренней AI-платформы. Другие известные клиенты включают Siemens Healthineers, Automation Anywhere, Games24x7 и Whatfix.

Программное обеспечение построено на Kubernetes, что обеспечивает совместимость с основными облачными платформами, такими как AWS, Google Cloud Platform и Azure, и может быть развернуто локально. Предприятия, использующие TrueFoundry, сообщают о создании и запуске своих внутренних AI-платформ всего за два месяца, достигая ROI за четыре месяца, что значительно быстрее среднего отраслевого показателя в 14 месяцев. Баджадж отметил, что клиенты увидели снижение инфраструктурных затрат на 40-50% и десятикратное улучшение скорости развертывания.

Хотя облачные провайдеры, такие как Amazon и Google, представили свои собственные решения для развертывания AI, такие как SageMaker и Vertex, Гутгутия подчеркнул в беседе с TechCrunch, что TrueFoundry остается незаменимым. Оно ускоряет использование вычислительных ресурсов для облачных провайдеров, сокращает время выхода AI-приложений на рынок и снижает общие затраты.

Раунд финансирования Series A, который был полностью акционерным, привлек участие Eniac Ventures, Peak XV Partners, Jump Capital и ангельских инвесторов, включая Гокула Раджарама, Мохита Арона и Циан Банистер.

TrueFoundry планирует использовать средства для расширения своей команды с 45 человек в Индии, включив позиции по выходу на рынок в США, такие как продажи, успех клиентов и маркетинг продуктов. Компания также стремится укрепить партнерства, особенно с облачными провайдерами, и работает над включением в ключевые облачные маркетплейсы, начиная с AWS Marketplace.

Кроме того, TrueFoundry готовится к запуску AI-агента, который поможет предлагать подходящие ресурсы, обеспечивать автоматическое масштабирование и помогать с устранением неполадок.

С этим последним раундом TrueFoundry привлекла в общей сложности более $21 миллиона, включая $2,3 миллиона в seed-раунде в сентябре 2022 года, возглавляемом Surge от Peak XV (тогда Sequoia India). Стартап учетверил свою клиентскую базу в прошлом году и развернул более 1000 кластеров для рабочих нагрузок ML. Гутгутия сообщил TechCrunch, что годовой регулярный доход TrueFoundry превышает $1,5 миллиона, с планами удвоить эту цифру в следующем году.