Ironwood là chip gia tốc AI mới nhất của Google

Tại hội nghị đám mây tiếp theo tuần này, Google đã rút lại bức màn trên chip gia tốc TPU AI mới nhất của mình, được đặt tên là Ironwood. Marvel thế hệ thứ bảy này đánh dấu một sự thay đổi đáng kể vì đây là TPU đầu tiên được thiết kế riêng cho suy luận mô hình AI. Được thiết lập để tung ra vào cuối năm nay cho người dùng Google Cloud, Ironwood sẽ có sẵn trong hai cấu hình Powerhouse: cụm 256 chip và cụm 9.216 chip lớn.

Amin Vahdat, Google Cloud VP, đã chia sẻ sự phấn khích của mình trong một bài đăng trên blog, nói rằng "Ironwood là TPU mạnh mẽ nhất, có khả năng và tiết kiệm năng lượng của chúng tôi. Và nó được xây dựng theo mục đích tư duy sức mạnh, các mô hình AI suy luận ở quy mô." Rõ ràng là Google đang nhắm cao với chip mới này.

Thị trường AI Accelerator đang nóng lên, với NVIDIA dẫn đầu phí, nhưng không tin tưởng những người khổng lồ công nghệ. Amazon đang ở trong trò chơi với các chip Trainium, Interentia và Graviton, có sẵn thông qua AWS, trong khi Microsoft đang tiến lên phía trước với các phiên bản Azure được cung cấp bởi chip AI Maia 100 của nó.

Theo điểm chuẩn nội bộ của Google, Ironwood đóng gói một cú đấm với 4.614 TFLOPS của công suất điện toán cực đại. Mỗi con chip được trang bị RAM chuyên dụng 192GB, tự hào với băng thông gần 7,4 Tbps. Đó là một số hỏa lực nghiêm trọng!

Ironwood không chỉ là về lực lượng vũ phu; Nó cũng thông minh. Nó có một lõi tiên tiến có tên Sparsecore, được thiết kế để xử lý loại dữ liệu bạn thấy trong các hệ thống xếp hạng và khuyến nghị tinh vi giống như những gì gợi ý quần áo có thể bắt mắt bạn. Các kỹ sư của Google cũng đã làm việc để giảm chuyển động dữ liệu và độ trễ trong chip, điều này sẽ chuyển thành tiết kiệm năng lượng đáng kể.

Nhìn về phía trước, Google có kế hoạch dệt Ironwood vào AI HyperComputer, một cụm điện toán mô -đun trong Google Cloud. Sự tích hợp này là trên đường chân trời, và Vahdat tự tin, nói rằng, "Ironwood đại diện cho một bước đột phá độc đáo trong thời đại suy luận, với sức mạnh tính toán tăng, dung lượng bộ nhớ, tiến bộ kết nối và độ tin cậy."

Đã cập nhật 10:45 sáng Thái Bình Dương: Một phiên bản trước của câu chuyện này đã gọi nhầm với Cobalt 100 của Microsoft là một con chip AI. Nó thực sự là một con chip đa năng; Chip AI chính xác từ Microsoft là Maia 100. Chúng tôi đã thực hiện hiệu chỉnh cần thiết.