Chatgpt의 에너지 사용은 예상보다 낮습니다

Openai의 챗봇 인 Chatgpt는 우리가 생각했다고 생각한 에너지가 아닐 수도 있습니다. 그러나 새로운 연구에 따르면 에너지 사용은 사용 방법과 AI 모델이 질문에 대답하는 방법에 따라 다를 수 있습니다.

비영리 연구 그룹 인 Epoch AI는 전형적인 Chatgpt 쿼리가 얼마나 많은 주스가 사용하는지 알아내는 데 균열을 일으켰습니다. Chatgpt는 단일 질문에 대답하기 위해 약 3 와트 시간이 필요하다고 들었을 것입니다. 그러나 Epoch는 그것이 약간의 과장이라고 생각합니다.

OpenAi의 최신 기본 모델 인 GPT-4O를 벤치 마크로 사용하여 Epoch는 평균 Chatgpt 쿼리가 실제로 약 0.3 와트 시간을 사용한다는 것을 발견했습니다. 그것은 많은 가구가 필요로하는 것보다 적습니다.

"에너지 사용은 일반 가전 제품을 사용하거나 집을 데우거나 집을 냉각 시키거나 자동차를 운전하는 것과 비교할 때 큰 문제가되지 않습니다."

AI 회사가 미친 것처럼 데이터 센터를 확장하려고하기 때문에 AI의 에너지 사용과 환경에 미치는 영향은 화제가됩니다. 지난 주, 100 개가 넘는 조직이 새로운 AI 데이터 센터가 천연 자원을 배출하고 유틸리티가 재생 불가능한 에너지 원에 의존하도록 강요하지 않도록 AI 업계 및 규제 기관에 촉구하는 공개 서한에 서명했습니다.

당신은 TechCrunch에 그의 분석이 구식 연구로 본 것에 의해 분석이 촉발되었다고 말했다. 그는 OpenAI가 오래되고 덜 효율적인 칩을 사용하여 모델을 실행한다고 가정했다고 가정 한 3 와트 시간 추정치를 제시 한 보고서가 지적했다.

"나는 AI가 향후 몇 년 동안 많은 에너지를 소비 할 것이라는 것을 올바르게 인식했지만 오늘날 AI로가는 에너지를 정확하게 설명하지는 않았다"고 말했다. "또한 내 동료들 중 일부는 쿼리 당 3 와트 시간의 가장 널리보고 된 추정치가 상당히 오래된 연구를 기반으로했으며 일부 냅킨 수학을 기반으로 한 것으로 나타났습니다."

물론, Epoch의 0.3 와트 시간 인물도 추정치 일뿐입니다. OpenAi는 정확한 계산에 필요한 세부 사항을 공유하지 않았습니다.

분석은 또한 이미지 생성 또는 처리 긴 입력과 같은 ChatGpt 기능의 추가 에너지 비용을 고려하지 않습니다. 당신은 "긴 입력"chatgpt 쿼리 (긴 파일이 첨부 된 것과 같은 쿼리)가 일반적인 질문보다 더 많은 전기를 사용한다는 것을 인정했습니다.

그래도 그는 Chatgpt의 기준 전력 소비가 올라갈 것으로 기대한다고 말했다.

"\ [\] ai는 더 진보 될 것이며,이 AI는 아마도 더 많은 에너지가 필요할 것이며,이 미래의 AI는 사람들이 Chatgpt를 사용하는 방법보다 훨씬 더 많은 작업과 더 복잡한 작업을 처리 할 수 ​​있습니다."

최근 AI 효율성에는 멋진 돌파구가 있었지만 AI가 사용되는 규모는 거대하고 배가 고픈 인프라 성장을 주도 할 것으로 예상됩니다. RAND 보고서에 따르면 향후 2 년 동안 AI 데이터 센터는 거의 모든 캘리포니아의 2022 전력 용량 (68GW)이 필요할 수 있습니다. 2030 년까지 프론티어 모델을 훈련시키는 데 8 개의 원자로 (8 GW)와 동등한 전력이 필요할 수 있다고 보고서는 예측했다.

Chatgpt만으로도 많은 사람들에게 도달하며 그 숫자는 증가하고 있습니다. 이는 서버 요구가 방대 함을 의미합니다. OpenAI는 여러 투자 파트너와 함께 향후 몇 년간 새로운 AI 데이터 센터 프로젝트에 수십억 달러를 소비 할 계획입니다.

Openai의 AI 산업의 나머지 부분과 함께 Openai의 초점은 추론 모델로 전환하고 있습니다. 이 모델은 더 많은 작업을 수행 할 수 있지만 실행하려면 더 많은 컴퓨팅 파워가 필요합니다. 거의 즉시 쿼리를하는 GPT-4O와 같은 모델과 달리, 모델은 응답하기 전에 몇 초에서 몇 분 동안 "생각"하여 더 많은 컴퓨팅 전력을 사용하여 더 많은 에너지를 사용합니다.

"추론 모델은 구형 모델이 할 수없는 작업을 점점 더 많이 취하고 더 많은 데이터 센터가 필요합니다."

OpenAi는 O3-MINI와 같은보다 전력 효율적인 추론 모델을 출시하기 시작했습니다. 그러나 이러한 효율성 이익이 모델의 "사고"프로세스와 전 세계 AI의 사용이 증가함에 따라 증가 된 전력 요구를 상쇄 할 것 같지는 않습니다.

AI 에너지 발자국이 걱정된다면 chatgpt와 같은 앱을 덜 자주 사용하거나 가능한 경우 덜 컴퓨팅 전력을 사용하는 모델을 선택해야한다고 제안했습니다.

"\ [Openai 's \] gpt-4o-mini와 같은 작은 AI 모델을 사용해 볼 수 있으며, 많은 데이터를 처리하거나 생성 해야하는 방식으로 드물게 사용할 수 있습니다."