Sử dụng năng lượng của nhà thờ thấp hơn dự kiến

Chatgpt, chatbot từ Openai, có thể không phải là người làm việc năng lượng mà chúng tôi nghĩ đó là. Nhưng, việc sử dụng năng lượng của nó có thể thay đổi rất nhiều tùy thuộc vào cách sử dụng và các mô hình AI nào đang trả lời các câu hỏi, theo một nghiên cứu mới.

Epoch AI, một nhóm nghiên cứu phi lợi nhuận, đã có một vết nứt khi tìm ra mức độ nước trái cây mà một truy vấn TATGPT điển hình sử dụng. Bạn có thể đã nghe nói rằng Chatgpt cần khoảng 3 giờ để trả lời một câu hỏi duy nhất, gấp 10 lần so với tìm kiếm của Google. Nhưng Epoch nghĩ rằng đó là một chút quá khó chịu.

Sử dụng mô hình mặc định mới nhất của OpenAI, GPT-4O, làm điểm chuẩn, Epoch nhận thấy rằng truy vấn Chats trung bình thực sự sử dụng khoảng 0,3 giờ. Đó là ít hơn những gì nhiều thiết bị gia dụng cần.

"Việc sử dụng năng lượng thực sự không phải là vấn đề lớn so với việc sử dụng các thiết bị bình thường hoặc sưởi ấm hoặc làm mát nhà của bạn, hoặc lái xe hơi", Joshua You, nhà phân tích dữ liệu tại Epoch, người đã phân tích, nói với TechCrunch.

Việc sử dụng năng lượng của AI và tác động của nó đối với môi trường, là một chủ đề nóng khi các công ty AI đang tìm cách mở rộng các trung tâm dữ liệu của họ như điên. Mới tuần trước, hơn 100 tổ chức đã ký một bức thư ngỏ kêu gọi ngành công nghiệp AI và các cơ quan quản lý đảm bảo các trung tâm dữ liệu AI mới không thoát khỏi tài nguyên thiên nhiên và buộc các tiện ích phải dựa vào các nguồn năng lượng không thể tái tạo.

Bạn nói với TechCrunch rằng phân tích của anh ấy đã được khơi dậy bởi những gì anh ấy thấy là nghiên cứu lỗi thời. Ông chỉ ra rằng báo cáo đưa ra ước tính 3 giờ giả định Openai đang sử dụng các chip cũ hơn, kém hiệu quả hơn để chạy các mô hình của nó.

"Tôi đã thấy rất nhiều bài diễn văn công khai nhận ra chính xác rằng AI sẽ tiêu thụ nhiều năng lượng trong những năm tới, nhưng không thực sự mô tả chính xác năng lượng sẽ xảy ra với AI ngày hôm nay", bạn nói. "Ngoài ra, một số đồng nghiệp của tôi nhận thấy rằng ước tính được báo cáo rộng rãi nhất là 3 watt mỗi lần truy vấn dựa trên nghiên cứu khá cũ, và dựa trên một số toán học khăn ăn dường như quá cao."

Chắc chắn, con số 0,3 watt của Epoch cũng chỉ là một ước tính. Openai đã không chia sẻ các chi tiết cần thiết để tính toán chính xác.

Phân tích cũng không tính đến chi phí năng lượng bổ sung từ các tính năng của TATGPT như tạo hình ảnh hoặc xử lý các đầu vào dài. Bạn đã thừa nhận rằng các truy vấn chatgpt "đầu vào dài" - giống như các truy vấn có tệp dài được đính kèm - có thể sử dụng nhiều điện hơn so với một câu hỏi thông thường.

Mặc dù vậy, bạn nói rằng anh ta hy vọng mức tiêu thụ năng lượng cơ bản của TATGPT sẽ tăng lên.

"\ [\] AI sẽ trở nên tiên tiến hơn, việc đào tạo AI này có thể sẽ đòi hỏi nhiều năng lượng hơn và AI tương lai này có thể được sử dụng mạnh mẽ hơn nhiều - xử lý nhiều nhiệm vụ hơn và các nhiệm vụ phức tạp hơn, so với cách mọi người sử dụng TONGPT ngày nay", bạn nói.

Mặc dù đã có một số bước đột phá tuyệt vời về hiệu quả AI gần đây, quy mô mà AI đang được sử dụng dự kiến ​​sẽ thúc đẩy sự tăng trưởng cơ sở hạ tầng rất đói điện. Trong hai năm tới, các trung tâm dữ liệu AI có thể cần gần như toàn bộ công suất năng lượng 2022 của California (68 GW), theo một báo cáo của RAND. Đến năm 2030, đào tạo một mô hình biên giới có thể cần năng lượng tương đương với tám lò phản ứng hạt nhân (8 GW), báo cáo dự đoán.

Chỉ riêng Chatgpt đạt được rất nhiều người và con số đó chỉ tăng lên, điều đó có nghĩa là nhu cầu máy chủ của nó rất lớn. Openai, cùng với một số đối tác đầu tư, có kế hoạch chi hàng tỷ đô la cho các dự án trung tâm dữ liệu AI mới trong vài năm tới.

Trọng tâm của Openai, cùng với phần còn lại của ngành công nghiệp AI, đang chuyển sang các mô hình lý luận. Những mô hình này có thể thực hiện nhiều nhiệm vụ hơn nhưng cần nhiều khả năng tính toán hơn để chạy. Không giống như các mô hình như GPT-4O, trả lời các truy vấn gần như ngay lập tức, các mô hình lý luận "nghĩ" trong vài giây đến vài phút trước khi trả lời, sử dụng nhiều sức mạnh tính toán hơn-và do đó có nhiều năng lượng hơn.

"Các mô hình lý luận sẽ ngày càng đảm nhận các tác vụ mà các mô hình cũ không thể và tạo ra nhiều \ [Data \] để làm như vậy và cả hai đều yêu cầu nhiều trung tâm dữ liệu hơn", bạn nói.

Openai đã bắt đầu phát hành các mô hình lý luận tiết kiệm năng lượng hơn như O3-mini. Nhưng dường như không có khả năng, ít nhất là ngay bây giờ, những mức tăng hiệu quả này sẽ bù đắp cho các nhu cầu năng lượng tăng từ quá trình "suy nghĩ" của các mô hình lý luận và việc sử dụng AI ngày càng tăng trên toàn thế giới.

Bạn đề nghị rằng nếu bạn lo lắng về dấu chân năng lượng AI của mình, bạn nên sử dụng các ứng dụng như Chatgpt ít thường xuyên hơn hoặc chọn các mô hình sử dụng ít năng lượng tính toán hơn - nếu điều đó là có thể.

"Bạn có thể thử sử dụng các mô hình AI nhỏ hơn như \ [Openai's \] gpt-4o-mini," bạn nói, "và sử dụng chúng một cách tiết kiệm theo cách yêu cầu xử lý hoặc tạo ra một tấn dữ liệu."