Chatgpt의 에너지 사용은 예상보다 낮습니다

ChatGPT, OpenAI에서 만든 챗봇은 우리가 생각했던 것만큼 에너지를 많이 소모하지 않을 수 있습니다. 하지만 그 에너지 사용량은 사용 방식과 어떤 AI 모델이 질문에 답변하는지에 따라 크게 달라질 수 있다고 새 연구에 따르면 그렇습니다.

비영리 연구 단체인 Epoch AI는 일반적인 ChatGPT 질의가 얼마나 많은 전력을 사용하는지 알아보려고 했습니다. 여러분은 ChatGPT가 한 질문에 답변하는 데 약 3와트시를 필요로 하며, 이는 Google 검색보다 10배 더 많다는 이야기를 들었을 수 있습니다. 하지만 Epoch는 그 수치가 다소 과장되었다고 생각합니다.

OpenAI의 최신 기본 모델인 GPT-4o를 기준으로, Epoch는 평균 ChatGPT 질의가 실제로 약 0.3와트시를 사용한다는 것을 발견했습니다. 이는 많은 가전제품이 필요로 하는 것보다 적습니다.

"에너지 사용량은 일반 가전제품을 사용하거나 집을 난방하거나 냉방하거나, 차를 운전하는 것에 비하면 정말 큰 문제가 아닙니다,"라고 Epoch에서 분석을 수행한 데이터 분석가 Joshua You가 TechCrunch에 말했습니다.

AI의 에너지 사용과 환경에 미치는 영향은 AI 기업들이 데이터 센터를 엄청나게 확장하려고 하는 지금 뜨거운 주제입니다. 지난주에만 100개 이상의 단체가 AI 산업과 규제 당국에 새로운 AI 데이터 센터가 천연 자원을 고갈시키거나 유틸리티가 비재생 에너지원에 의존하게 만들지 않도록 촉구하는 공개 서한에 서명했습니다.

You는 TechCrunch에 자신의 분석이 오래된 연구로 보이는 것에서 시작되었다고 말했습니다. 그는 3와트시 추정치를 제시한 보고서가 OpenAI가 더 오래되고 효율성이 낮은 칩을 사용해 모델을 실행한다고 가정했다고 지적했습니다.

"저는 AI가 앞으로 몇 년 동안 많은 에너지를 소비할 것이라는 점을 올바르게 인식한 많은 공개 논의가 있었지만, 오늘날 AI에 사용되는 에너지를 정확히 설명하지는 못했다고 봤습니다,"라고 You가 말했습니다. "또한, 제 동료들 중 일부는 가장 널리 보고된 질의당 3와트시 추정치가 상당히 오래된 연구에 기반했으며, 간단한 계산으로도 그 수치가 너무 높아 보인다고 알아챘습니다."

물론, Epoch의 0.3와트시 수치도 추정치에 불과합니다. OpenAI는 정확한 계산에 필요한 세부 정보를 공유하지 않았습니다.

이 분석은 또한 이미지 생성이나 긴 입력 처리와 같은 ChatGPT 기능에서 발생하는 추가 에너지 비용을 고려하지 않았습니다. You는 "긴 입력" ChatGPT 질의, 예를 들어 긴 파일이 첨부된 경우, 일반적인 질문보다 초기에 더 많은 전기를 사용할 가능성이 있다고 인정했습니다.

You는 ChatGPT의 기본 전력 소비가 증가할 것으로 예상한다고 말했습니다.

"AI는 더욱 발전할 것이고, 이 AI를 훈련시키는 데는 아마 훨씬 더 많은 에너지가 필요할 것이며, 미래의 AI는 사람들이 현재 ChatGPT를 사용하는 방식보다 훨씬 더 강렬하게, 훨씬 더 많은 작업과 복잡한 작업을 처리할 수 있습니다,"라고 You가 말했습니다.

최근 AI 효율성에서 몇 가지 멋진 돌파구가 있었지만, AI가 사용되는 규모는 거대한 전력 소모 인프라 성장을 이끌 것으로 예상됩니다. 향후 2년 동안 AI 데이터 센터는 캘리포니아의 2022년 전력 용량(68GW) 거의 전부를 필요로 할 수 있다고 Rand 보고서에 따르면 그렇습니다. 2030년까지 최신 모델을 훈련시키는 데는 8개의 원자로(8GW)에 해당하는 전력이 필요할 수 있다고 보고서는 예측했습니다.

ChatGPT만 해도 수많은 사람들에게 도달하고 있으며, 그 숫자는 계속 늘어나고 있어 서버 수요가 엄청납니다. OpenAI는 여러 투자 파트너와 함께 향후 몇 년 동안 새로운 AI 데이터 센터 프로젝트에 수십억 달러를 투자할 계획입니다.

OpenAI와 AI 산업 전반의 초점은 추론 모델로 이동하고 있습니다. 이러한 모델은 더 많은 작업을 수행할 수 있지만 실행하는 데 더 많은 컴퓨팅 파워가 필요합니다. GPT-4o와 같이 거의 즉시 질의에 답변하는 모델과 달리, 추론 모델은 답변하기 전에 몇 초에서 몇 분 동안 "생각"하며, 이는 더 많은 컴퓨팅 파워와 따라서 더 많은 에너지를 사용합니다.

"추론 모델은 점점 더 오래된 모델이 할 수 없는 작업을 수행하고, 이를 위해 더 많은 데이터를 생성하며, 둘 다 더 많은 데이터 센터를 필요로 합니다,"라고 You가 말했습니다.

OpenAI는 o3-mini와 같은 더 전력 효율적인 추론 모델을 출시하기 시작했습니다. 하지만 적어도 지금으로서는 이러한 효율성 향상이 추론 모델의 "생각" 과정과 전 세계적으로 증가하는 AI 사용으로 인한 전력 수요 증가를 상쇄할 가능성은 낮아 보입니다.

You는 AI 에너지 발자국이 걱정된다면 ChatGPT와 같은 앱을 덜 사용하거나, 가능하다면 컴퓨팅 파워를 덜 사용하는 모델을 선택해야 한다고 제안했습니다.

"OpenAI의 GPT-4o-mini 같은 더 작은 AI 모델을 사용해 보고, 데이터를 많이 처리하거나 생성해야 하는 방식으로 절약해서 사용할 수 있습니다,"라고 You가 말했습니다.