Intel Capital повышает TrueFoundry с 19 млн. Долл. США для масштабирования развертывания ИИ

TrueFoundry, стартап, основанный бывшими инженерами Meta, успешно получил 19 миллионов долларов в новом раунде финансирования во главе с Intel Capital. Эта инновационная компания стремится помочь предприятиям эффективно масштабировать их системы искусственного интеллекта, что становится все более актуальной с ростом генеративного искусственного интеллекта (Genai) с момента запуска CHATGPT в ноябре 2022 года.

Появление Genai побудило предприятия всех размеров для изучения интеграции ИИ, но зависимость технологии на крупные языковые модели требует существенной вычислительной мощности. Не каждое предприятие имеет доступ к многочисленным графическим процессорам, что делает критическую оптимизацию графического процессора. Кроме того, компании должны экспериментировать с различными моделями, чтобы определить наиболее подходящие для их потребностей и настраивать их, чтобы повысить актуальность их деятельности.

TrueFoundry решает эти проблемы через свою модель платформы как услуги, специально разработанную для ученых с полным стеком. Платформа предлагает такие функции, как автоматическое масштабирование, упреждающее обслуживание, централизованное управление доступа и мониторинг в реальном времени, оптимизируя весь процесс развертывания искусственного интеллекта.

Запущенный в июне 2021 года Никундж Баджадж, Абхишеком Чоудхари и Анурааг Гутгутия - все бывшие инженеры -мета -инженеры и выпускники ИИТ Харагпур - изначально сосредоточены на ускорении развертывания машинного обучения в различных облачных средах. Поскольку Генай приобрел популярность в 2023 году, стартап адаптировал свою систему, включающую поддержку возможностей Genai.

«В прошлом ученые по данным ограничивались работой с моделями и экспериментированием. Фактическое развертывание обычно передавалось инженерам ML. С нашей системой мы даем ученым -ученым построить и тестировать эти сложные системы в масштабе, прежде чем передавать их в команду платформы для окончательного развертывания», - объяснил Гутгутия в эксклюзивном интервью.

Флагманский продукт стартапа представляет собой систему автопилота, которая использует ИИ для анализа журналов и метрик, помогая масштабировать приложения ИИ путем оптимизации использования графических процессоров и управления требованиями к памяти. Gutgutia поделился с TechCrunch, что один из клиентов TrueFoundry, работающий только с командой из двух человек, удалось обрабатывать 10 миллионов запросов в секунду с помощью этой системы.

TrueFoundry может похвастаться 30 оплачиваемыми клиентами во всем мире, а также многочисленные пользователи, использующие свою тряпичную структуру с открытым исходным кодом для экспериментов. Среди своих клиентов Nvidia использует программное обеспечение TrueFoundry для оптимизации своих кластеров графических процессоров, в то время как Resmed использует его для создания внутренней платформы AI. Другими известными клиентами являются Siemens Healthineers, Automation в любом месте, Games24x7 и Whatfix.

Программное обеспечение построено на Kubernetes, обеспечивая совместимость с крупными облачными платформами, такими как AWS, Google Cloud Platform и Azure, а также может быть развернуто локально. Предприятия, использующие TrueFoundry, сообщили о создании и запуске своих внутренних платформ AI всего за два месяца, достигнув рентабельности за четыре месяца, что значительно быстрее, чем в среднем по отрасли в 14 месяцев. Баджадж отметил, что клиенты наблюдали снижение затрат на инфраструктуру на 40-50% и 10-кратное улучшение скорости развертывания.

В то время как облачные поставщики, такие как Amazon и Google, представили свои собственные решения для развертывания ИИ, такие как SageMaker и Vertex, Gutgutia подчеркнул TechCrunch, что TrueFoundry остается необходимым. Он ускоряет использование вычислительных ресурсов для облачных провайдеров, ускоряет время на рынок приложений и снижает общие затраты.

В раунде финансирования серии A, который был полностью основан на акциях, участвовала в Eniac Ventures, Peak XV Partners, Jump Capital и Angel Investors, включая Gokul Rajaram, Mohit Aron и Cyan Banister.

TrueFoundry планирует использовать средства для расширения своей команды от 45 членов в Индии, чтобы включить в США должности, такие как продажи, успех клиентов и маркетинг продукта. Компания также стремится укрепить партнерские отношения, особенно с облачными поставщиками, и работает над тем, чтобы получить перечисление на ключевых облачных торговых площадках, начиная с рынка AWS.

Более того, TrueFoundry собирается запустить агента искусственного интеллекта, который поможет предложить соответствующие ресурсы, обеспечить автоматическое масштаб и помочь в устранении неполадок.

С помощью этого последнего раунда TrueFoundry в общей сложности собрал более 21 миллиона долларов, в том числе 2,3 миллиона долларов в сентябре 2022 года во главе с Peak XV (затем Sequoia India) Surge. Стартап в прошлом году увеличил свою клиентскую базу и развернул более 1000 кластеров для рабочих нагрузок ML. Gutgutia сообщила TechCrunch, что годовой повторяющийся доход TrueFoundry составляет более 1,5 млн. Долл. США, а в следующем году планирует удвоить эту цифру.