ИИ вычисления для потребления мощности нескольких Нью -Йорка к 2026 году, говорит основатель

Nvidia и партнеры расширяют центры обработки данных AI по всему миру

NVIDIA, наряду со своими партнерами и клиентами, активно расширяет размер компьютерных объектов по всему миру, чтобы удовлетворить высокие вычислительные требования к обучению моделей массового искусственного интеллекта (ИИ), таких как GPT-4. Это расширение станет еще более важным, так как дополнительные модели ИИ внедряются в производство, по словам Томаса Грэма, соучредителя оптического вычислительного запуска Lightmatter. В недавнем интервью в Нью -Йорке с Mandeep Singh, старшим технологическим аналитиком Bloomberg Intelligence, Грэм подчеркнул растущую потребность в вычислительных ресурсах.

«Спрос на большее количество вычислений не только о масштабировании законов; речь идет также о развертывании этих моделей ИИ сейчас», - объяснил Грэм. Сингх спросил о будущем крупных языковых моделей (LLMS), таких как GPT-4, и будут ли они продолжать расти в размерах. В ответ Грэм сместил фокус на практическое применение ИИ, подчеркивая важность вывода или этап развертывания, что требует существенной вычислительной мощности.

«Если вы рассматриваете возможность обучения как НИОКР, вывод, по сути, является развертыванием. Когда вы развертываете, вам понадобятся крупномасштабные компьютеры для запуска ваших моделей»,-заявил Грэм во время «Gen AI: может ли он выполнить обещание производительности?» Конференция, организованная Bloomberg Intelligence.

Перспектива Грэма соответствует перспективе генерального директора NVIDIA Дженсена Хуанга, который подчеркнул Уолл -стрит, что продвижение «агентских» форм ИИ потребует не только более сложных тренировок, но также значительно расширенных возможностей вывода, что приведет к экспоненциальному увеличению вычислений.

Роль LightMatter в инфраструктуре ИИ

Основанная в 2018 году, LightMatter находится на переднем крае разработки технологии чипов, которая использует оптические соединения для связи нескольких процессоров в одном полупроводнике. Эти оптические взаимодействия могут передавать данные более эффективно, чем традиционные медные провода, используя меньше энергии. По словам Грэма, эта технология может оптимизировать соединения внутри стойки центров обработки данных, повышая общую эффективность и экономику центра обработки данных.

«Заменив медные следы в центрах обработки данных - как на печатной плате сервера, так и в кабели между стойками - с оптоволоконной оптикой, мы можем значительно увеличить пропускную способность», - сказал Грэм Сингх. LightMatter в настоящее время сотрудничает с различными технологическими компаниями в разработке новых центров обработки данных, и Грэм отметил, что эти объекты строятся с нуля. Компания уже установила партнерство с Global Foundries, производителем полупроводников контракта, работающим в северной части штата Нью -Йорк, который обслуживает таких клиентов, как Advanced Micro Devices.

В то время как Грэм не раскрывал конкретных партнеров и клиентов за пределами этого сотрудничества, он намекнул, что LightMatter работает с поставщиками кремния, такими как Broadcom или Marvell, для создания пользовательских компонентов для технических гигантов, таких как Google, Amazon и Microsoft, которые разрабатывают свои собственные процессоры центров обработки данных.

Масштаб и будущее дата -центров ИИ

Чтобы проиллюстрировать величину развертывания ИИ, Грэхэм отметил, что по крайней мере дюжина новых центров обработки данных ИИ запланированы или строятся, или в стадии строительства, каждый из которых требует гигаватта власти. «Для контекста Нью -Йорк в среднем использует около пяти гигаватт власти. Итак, мы говорим о потреблении мощности нескольких городов Нью -Йорка», - сказал он. Он предсказывает, что к 2026 году глобальная обработка ИИ потребует 40 гигаватт власти, что эквивалентно восьми городам Нью -Йорка, в частности для дата -центров искусственного интеллекта.

LightMatter недавно получила венчурные инвестиции в 400 миллионов долларов, оценя компанию в 4,4 миллиарда долларов. Грэм упомянул, что компания стремится начать производство «в течение следующих нескольких лет».

Когда его спросили о потенциальных сбоях в планах LightMatter, Грэм выразил уверенность в постоянной потребности в расширении компьютерной инфраструктуры искусственного интеллекта. Тем не менее, он признал, что прорыв в алгоритмах искусственного интеллекта, требующий значительно меньше вычислительных или достижения искусственного общего интеллекта (AGI), может оспорить текущие предположения о необходимости экспоненциального вычислительного роста.