NVIDIA Project Digits: настольный компьютер с мощностью Linux для разработчиков искусственного интеллекта

Шум на CES 2025 был полностью посвящен телевизорам с искусственным интеллектом, инновационным устройствам для умного дома и последним выпускам ноутбуков. Но для меня настоящим прорывом является Project Digits от Nvidia. Этот настольный суперкомпьютер с искусственным интеллектом призван революционизировать мир искусственного интеллекта, предоставляя непревзойденную вычислительную мощность непосредственно разработчикам, исследователям и студентам. И знаете что? Он работает на DGX OS от Nvidia, специально адаптированной версии Ubuntu Linux 22.04.

DGX OS — это не просто очередной дистрибутив Linux; он тонко настроен с особыми оптимизациями, конфигурациями, драйверами и инструментами для мониторинга и диагностики. Он разработан для беспрепятственного запуска приложений искусственного интеллекта, машинного обучения и аналитики на суперкомпьютерах Nvidia DGX.

Больше, чем просто оборудование

Nvidia не останавливается на оборудовании. Они также выпускают наборы для разработки программного обеспечения с искусственным интеллектом, инструменты оркестрации и каталог Nvidia NGC с фреймворками и моделями. Кроме того, есть фреймворк Nvidia NeMo для тонкой настройки моделей и библиотеки Nvidia Rapids для ускорения задач в области науки о данных. И поскольку он построен на Ubuntu Linux, вы можете запускать все свои любимые программы для Ubuntu и Linux. Я имею в виду, кто бы не хотел поиграть в Doom на этом звере?

Компактная мощь

Представьте себе коробку размером с Mac mini, обладающую производительностью в один петафлопс для задач искусственного интеллекта. Это то, что обещает Project Digits от Nvidia. Петафлопс, для тех, кто не в курсе, — это квадриллион (1,000,000,000,000,000) операций с плавающей запятой в секунду. До суперкомпьютера Roadrunner от IBM в 2008 году никто не достигал такой скорости. Теперь вы можете иметь это прямо на своем столе. Даже последние списки Top 500 SuperComputer включают машины, которые едва превышают два петафлопса, и для этого им требуется более тысячи ядер. И да, все они работают на Linux.

Project Digits, оснащенный новым суперчипом GB10 Grace Blackwell от Nvidia, почти так же быстр, как эти топовые суперкомпьютеры. С 128 ГБ памяти и предустановленным программным стеком Nvidia для искусственного интеллекта разработчики могут работать с большими моделями ИИ до 200 миллиардов параметров локально, а затем легко развертывать их в дата-центрах или облаке.

Суперчип Grace Blackwell

Названный в честь Грейс Хоппер, легендарного ученого-компьютерщика и "матери COBOL", и Дэвида Гарольда Блэквелла, пионера математики, суперчип Grace Blackwell — это настоящее чудо. Он оснащен процессором Grace на базе ARM с 10 ядрами Cortex-X925 и 10 ядрами Cortex-A725, всего 20 ядер. Это дополняется графическим процессором Blackwell с новейшими ядрами CUDA и RT. С 128 ГБ оперативной памяти и до 4 ТБ флэш-памяти этот чип готов справиться с любой задачей.

Nvidia обещает, что разработчики ИИ смогут работать с моделями до 200 миллиардов параметров на одном устройстве. Для более сложных задач можно соединить два устройства Project Digits, чтобы управлять моделями с параметрами до 405 миллиардов.

Новая эра для разработки ИИ

Генеральный директор Nvidia Дженсен Хуанг подчеркнул трансформационный потенциал Project Digits, заявив: "Размещение суперкомпьютера с искусственным интеллектом на столах каждого ученого данных, исследователя ИИ и студента дает им возможность взаимодействовать с эпохой ИИ и формировать ее."

С ценой от $3,000 Project Digits стремится демократизировать разработку высокопроизводительного ИИ, делая ее доступной для малого бизнеса и образовательных учреждений. По такой цене я не удивлюсь, если эти настольные компьютеры начнут появляться в домах.

Запуск запланирован на май 2025 года, и эта система на базе Linux готова переопределить разработку ИИ, принося производительность уровня дата-центра в компактном, удобном для рабочего стола формате. Я уже планирую, как заполучить один такой.