Có thể bạn không biết rằng NVIDIA hiện nay đã tự sản xuất CPU dựa trên kiến trúc ARM để cung cấp một hệ thống đồng bộ cho các trung tâm dữ liệu, máy chủ và siêu máy tính.

CPU mới nhất của NVIDIA, có tên là Grace, đã đạt đỉnh điểm về hiệu suất, gấp đôi so với CPU x86 mạnh nhất của AMD và Intel, và điều này được thực hiện ở cùng một mức tiêu thụ năng lượng.

NVIDIA gần đây đã chính thức công bố GPU mạnh nhất dành cho AI và tính toán, đó là GH200. Sản phẩm này được kết hợp với bộ nhớ HBM3e nhanh nhất trên thế giới. NVIDIA cũng đã tự sản xuất CPU mới nhất để hoàn thiện hệ thống này, không cần phải sử dụng CPU của Intel hoặc AMD.

Một số điểm nổi bật chính của Grace bao gồm:

• CPU hiệu suất cao cho HPC và điện toán đám mây

• Thiết kế siêu chip với tới 144 nhân CPU Arm v9

• LPDDR5x đầu tiên trên thế giới có bộ nhớ ECC, tổng băng thông 1TB/s

• Giao diện bộ nhớ 900 GB/s, nhanh hơn 7 lần so với PCIe Gen 5

• Mật độ đóng gói gấp 2 lần của các giải pháp dựa trên DIMM

• Hiệu suất trên mỗi watt gấp 2 lần so với CPU hàng đầu hiện nay

• Chạy tất cả các nền tảng và phần mềm NVIDIA, bao gồm RTX, HPC, AI và Omniverse

Tại sự kiện Hot Chips 2023, Bill Dally, người đứng đầu bộ phận Khoa học của NVIDIA, đã thảo luận về việc so sánh hiệu suất giữa NVIDIA Grace Superchip và các giải pháp cạnh tranh x86 socket kép từ các đối thủ. Các giải pháp này bao gồm AMD EPYC 9654 với 96 lõi và 192 luồng, cũng như Intel Xeon Platinum 8480+ có 56 lõi và 112 luồng. Trên cùng một bo mạch chủ, có khả năng kết hợp cả hai CPU được đề cập, điều này sẽ đưa tổng số lõi lên 192 cho AMD và 112 lõi cho nền tảng của Intel.

Trong khi đó, CPU NVIDIA Grace cung cấp tổng cộng 144 lõi và hỗ trợ bộ nhớ LPDDR5X với dung lượng lên đến 960 GB và băng thông lên đến 1TB/s. Nó có tổng công suất là 500W và đi kèm với các thông số kỹ thuật bổ sung bao gồm 117 MB bộ đệm L3 và 58 làn Gen5. Tất cả các thành phần này đều được sản xuất trên nút xử lý TSMC 4N.

NVIDIA đã lựa chọn nhiều ứng dụng máy chủ khác nhau để đánh giá hiệu suất của CPU Grace Superchip, bao gồm Weather WRF, MD CP2K, Climate NEMO, CFD OpenFOAM và Graph Analytics GapBS BFS. Kết quả cho thấy rằng trong hầu hết các điểm chuẩn này, CPU Grace Superchip của NVIDIA cung cấp hiệu suất tốt hơn đến 40% so với CPU Genoa của AMD, trong khi vượt xa CPU Sapphire Rapids của Intel. Đáng chú ý, phần lớn các điểm chuẩn có hiệu suất tương đương với AMD Genoa, mặc dù hai CPU AMD đòi hỏi 640W công suất, trong khi CPU NVIDIA Grace Superchip chỉ cần 500W để hoạt động.

Sự thú vị trong việc so sánh hiệu suất trở nên rõ rệt hơn khi áp dụng vào một ứng dụng thực tế trên quy mô lớn của trung tâm dữ liệu. Khi thử nghiệm thông lượng của trung tâm dữ liệu 5 MW, siêu chip Grace của NVIDIA đã thể hiện khả năng mang lại hiệu suất gấp 2.5 lần so với các giải pháp khác. Điều này làm nổi bật vai trò tiềm năng của CPU Grace như một yếu tố quan trọng có thể thay đổi cả bộ mặt giống như GPU Tensor Core của NVIDIA đã thống trị trong không gian HPC và AI.