Использование энергии Chatgpt ниже, чем ожидалось

Чатгпт, чат -бот из Openai, может быть не тем, который мы думали, что это так. Но его использование энергии может сильно различаться в зависимости от того, как она используется и какие модели ИИ отвечают на вопросы, согласно новому исследованию.

Epoch AI, некоммерческая исследовательская группа, рассказала о том, сколько сока использует типичный запрос CHATGPT. Возможно, вы слышали, что Chatgpt нужно около 3 ватт-часов, чтобы ответить на один вопрос, который в 10 раз больше, чем поиск в Google. Но Эпоха думает, что это немного переоценивает.

Используя последнюю модель Openai по умолчанию, GPT-4O, в качестве эталона, Epoch обнаружил, что средний запрос CHATGPT фактически использует около 0,3 Вт. Это меньше, чем нужно многим бытовым приборам.

«Использование энергии на самом деле не имеет большого значения по сравнению с использованием обычных приборов, нагреванием или охлаждением вашего дома или вождением автомобиля», - сказал TechCrunch, Джошуа, аналитик Data в Epoch, который провел анализ.

Использование энергии ИИ и его влияние на окружающую среду - горячая тема, поскольку компании ИИ стремятся расширить свои центры обработки данных, как сумасшедшие. Буквально на прошлой неделе более 100 организаций подписали открытое письмо, призывающее индустрию ИИ и регуляторы убедиться, что новые дата -центры ИИ не истощают природные ресурсы и не заставляют коммунальные предприятия полагаться на невозобновляемые источники энергии.

Вы сказали TechCrunch, что его анализ был вызван тем, что он считал устаревшим исследованием. Он указал, что в отчете, в котором появилась 3-ваттная оценка, предполагается, что Openai использовал более старые, менее эффективные чипы для запуска своих моделей.

«Я видел много публичного дискурса, который правильно признал, что ИИ собирается потреблять много энергии в ближайшие годы, но на самом деле не точно описал энергию, которая была в ИИ сегодня», - сказали вы. «Кроме того, некоторые из моих коллег заметили, что наиболее широко известная оценка 3 ватт-часов за запрос была основана на довольно старых исследованиях, и на основе некоторой математики салфетки, казалось, была слишком высокой».

Конечно, фигура Epoch 0,3 ватт также является просто оценкой. OpenAI не поделился деталями, необходимыми для точного расчета.

Анализ также не учитывает дополнительные затраты на энергию от функций CHATGPT, таких как генерация изображений или обработка длинных входов. Вы признали, что запросы Chatgpt «длительный ввод» - как и те, с длинными файлами - вероятно, используют больше электричества заранее, чем типичный вопрос.

Вы сказали, что он ожидает, что базовое энергопотребление CHATGPT будет расти.

«\ [The \] AI станет более продвинутым, обучение этого ИИ, вероятно, потребует гораздо большую энергию, и это будущее ИИ может использоваться гораздо более интенсивно - выполнение гораздо большего количества задач и более сложных задач, чем то, как люди используют чатпт сегодня», - сказали вы.

Несмотря на то, что в последнее время в эффективности искусственного интеллекта произошли некоторые прохладные прорывы, ожидается, что масштаб, при котором ИИ используется, будет способствовать огромному росту инфраструктуры. В течение следующих двух лет центры обработки данных искусственного интеллекта могут понадобиться почти вся мощность в Калифорнии в 2022 году (68 ГВт), согласно отчету RAND. К 2030 году обучение пограничной модели может потребоваться мощность, эквивалентная восемью ядерными реакторами (8 ГВт), прогнозируется отчет.

Один только CHATGPT достигает тонны людей, и это число увеличивается, что означает, что его потребности в сервере являются огромными. OpenAI, наряду с несколькими инвестиционными партнерами, планирует потратить миллиарды на новые проекты центра обработки данных искусственного интеллекта в течение следующих нескольких лет.

В центре внимания Openai, наряду с остальной частью индустрии ИИ, переходит к моделям рассуждений. Эти модели могут выполнять больше задач, но требуют большего количества вычислительной мощности для запуска. В отличие от таких моделей, как GPT-4O, которые почти мгновенно отвечают на запросы, модели «думают» за несколько секунд до минуты, прежде чем отвечать, что использует больше вычислительной мощности-и, следовательно, больше энергии.

«Модели рассуждений будут все чаще выполнять задачи, которые старые модели не могут, и генерируют больше \ [Data \] для этого, и оба требуют большего количества центров обработки данных», - сказали вы.

OpenAI начал выпускать более эффективные модели рассуждений, такие как O3-Mini. Но представляется маловероятным, по крайней мере, сейчас, что эти повышения эффективности компенсируют повышенные потребности в мощности от процесса мышления моделей рассуждений и растущего использования ИИ по всему миру.

Вы предположили, что если вы беспокоитесь о своем энергетическом площадке ИИ, вы должны использовать такие приложения, как CHATGPT реже, или выбирать модели, которые используют меньшую вычислительную мощность - если это возможно.

«Вы можете попробовать использовать более мелкие модели ИИ, такие как \ [openai's \] GPT-4o-Mini,-сказали вы,-и используйте их экономно таким образом, чтобы это требовало обработки или создания тонны данных».