Компания Niv-AI выходит на рынок с целью повышения мощности и производительности графических процессоров

Электроэнергия является основополагающим ресурсом для искусственного интеллекта, однако появляющиеся вычислительные методы превосходят возможности операторов центров обработки данных по эффективному управлению взаимодействием с энергосетью, что вынуждает их сокращать объем операций на 30 %.

«В этих объектах ИИ тратится огромное количество энергии», — заявил генеральный директор Nvidia Дженсен Хуанг во время своего выступления на ежегодной конференции компании GTC. «Каждый неиспользованный ватт означает упущенную выручку», — подчеркнула компания в своей ежегодной презентации.

Сегодня стартап Niv-AI начал свою деятельность с начальным финансированием в размере 12 миллионов долларов, чтобы решить эту проблему. Компания стремится точно измерить энергопотребление графических процессоров с помощью новых датчиков и создать инструменты для более эффективного управления энергопотреблением.

Основанный в прошлом году в Тель-Авиве генеральным директором Томером Тимором и техническим директором Эдвардом Кизисом, стартап поддерживается Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward и Aurora Capital Partners. Компания решила не раскрывать свою оценку.

Поскольку ведущие лаборатории искусственного интеллекта координируют работу тысяч графических процессоров для обучения и запуска сложных моделей, при переключении процессоров между вычислительными задачами и межпроцессорной коммуникацией возникают быстрые скачки мощности в масштабе миллисекунд.

Эти скачки затрудняют способность центров обработки данных регулировать потребление энергии из электросети. Чтобы предотвратить перебои, центры обработки данных либо инвестируют в временные накопители энергии для сглаживания этих скачков, либо сокращают использование графических процессоров. Оба подхода снижают рентабельность инвестиций в дорогостоящее оборудование.

«Мы просто не можем продолжать строить центры обработки данных, используя существующие методы», — отметил Лиор Хандлсман, партнер Grove Ventures и член совета директоров Niv.

Начальный этап стратегии Niv предполагает получение подробной аналитики. В настоящее время компания устанавливает датчики на уровне стоек, которые отслеживают энергопотребление графических процессоров с интервалом в миллисекунды как на собственном оборудовании, так и у партнеров-разработчиков. Цель состоит в том, чтобы проанализировать характерные паттерны энергопотребления различных рабочих нагрузок глубокого обучения и разработать методы, которые помогут дата-центрам более эффективно использовать имеющиеся мощности.

Инженерная команда планирует построить модель искусственного интеллекта на основе собранных данных, с целью обучить ее прогнозировать и координировать нагрузки на электросеть по всему дата-центру — фактически создав «второго пилота» для инженеров объекта.

Нив рассчитывает развернуть рабочую систему в нескольких дата-центрах США в течение ближайших шести-восьми месяцев. Это решение особенно привлекательно, поскольку крупные облачные провайдеры сталкиваются с проблемами, связанными с землепользованием и сбоями в цепочке поставок при строительстве новых объектов. Основатели видят свой конечный продукт как важный «интеллектуальный слой», соединяющий дата-центры и энергосистему.

«Энергосистема действительно обеспокоена тем, что центры обработки данных потребляют чрезмерное количество электроэнергии в часы пиковой нагрузки», — пояснил Тимор TechCrunch. «Проблема, которую мы решаем, имеет два взаимосвязанных аспекта. Во-первых, мы стремимся помочь центрам обработки данных более эффективно использовать свои графические процессоры, максимально используя мощность, на которую у них уже заключены контракты. Во-вторых, мы можем способствовать формированию более ответственных профилей энергопотребления между центрами обработки данных и энергосистемой».