Ironwood là chip gia tốc AI mới nhất của Google

Tại hội nghị Cloud Next tuần này, Google đã công bố chip tăng tốc AI TPU mới nhất của mình, được gọi là Ironwood. Kỳ quan thế hệ thứ bảy này đánh dấu một bước chuyển đổi quan trọng vì đây là TPU đầu tiên được thiết kế đặc biệt cho suy luận mô hình AI. Dự kiến sẽ được triển khai vào cuối năm nay cho người dùng Google Cloud, Ironwood sẽ có sẵn trong hai cấu hình mạnh mẽ: một cụm 256 chip và một cụm khổng lồ 9,216 chip.

Amin Vahdat, Phó Chủ tịch Google Cloud, đã bày tỏ sự phấn khích trong một bài đăng blog, nói rằng, "Ironwood là TPU mạnh mẽ, có khả năng và tiết kiệm năng lượng nhất của chúng tôi từ trước đến nay. Và nó được thiết kế chuyên biệt để cung cấp năng lượng cho các mô hình AI suy luận, tư duy ở quy mô lớn." Rõ ràng Google đang hướng tới mục tiêu cao với con chip mới này.

Thị trường chip tăng tốc AI đang nóng lên, với Nvidia dẫn đầu cuộc đua, nhưng đừng xem nhẹ các gã khổng lồ công nghệ. Amazon cũng tham gia cuộc chơi với các chip Trainium, Inferentia và Graviton, có sẵn thông qua AWS, trong khi Microsoft đang tiến lên với các phiên bản Azure được cung cấp bởi chip AI Maia 100 của mình.

Theo các bài kiểm tra nội bộ của Google, Ironwood mang lại sức mạnh vượt trội với 4,614 TFLOPs công suất tính toán đỉnh. Mỗi chip được trang bị 192GB RAM chuyên dụng, với băng thông gần đạt 7.4 Tbps. Đó là một sức mạnh đáng kinh ngạc!

Ironwood không chỉ mạnh mẽ; nó còn thông minh. Nó có một lõi tiên tiến gọi là SparseCore, được thiết kế để xử lý loại dữ liệu bạn sẽ thấy trong các hệ thống xếp hạng và gợi ý phức tạp—như những hệ thống gợi ý trang phục có thể thu hút bạn. Các kỹ sư của Google cũng đã nỗ lực giảm thiểu việc di chuyển dữ liệu và độ trễ trong chip, điều này sẽ mang lại tiết kiệm năng lượng đáng kể.

Nhìn về tương lai, Google dự định tích hợp Ironwood vào AI Hypercomputer, một cụm tính toán mô-đun trong Google Cloud. Sự tích hợp này đang đến gần, và Vahdat tự tin tuyên bố, "Ironwood đại diện cho một bước đột phá độc đáo trong thời đại suy luận, với sức mạnh tính toán tăng cường, dung lượng bộ nhớ, cải tiến mạng và độ tin cậy."

Cập nhật lúc 10:45 sáng theo giờ Thái Bình Dương: Một phiên bản trước của bài viết này đã nhầm lẫn khi đề cập đến Cobalt 100 của Microsoft là chip AI. Thực tế, đó là chip đa năng; chip AI chính xác từ Microsoft là Maia 100. Chúng tôi đã thực hiện sửa đổi cần thiết.