Hãy bắt đầu cuộc chiến TOPS.

Chúng tôi đã trước đó báo cáo về những tin đồn trong ngành rằng dịch vụ AI Copilot của Microsoft sẽ sớm chạy địa phương trên các PC thay vì trên đám mây và rằng Microsoft sẽ áp đặt yêu cầu về hiệu suất 40 TOPS trên Đơn vị Xử lý Nơ-ron (NPU), nhưng chúng tôi không thể xác minh những tin đồn đó chính thức. Điều đó đã thay đổi hôm nay tại Hội nghị AI của Intel tại Đài Bắc, khi các nhà điều hành của Intel, trong một phiên hỏi-đáp với Tom's Hardware, cho biết các phần của Copilot sẽ sớm chạy địa phương trên các PC. Đại diện của công ty cũng đề cập đến yêu cầu 40 TOPS cho NPU trên các PC AI thế hệ tiếp theo.

Microsoft đã im lặng về kế hoạch của mình cho các PC AI và thậm chí đã cho phép Intel công bố chính thức định nghĩa mới của Microsoft về một PC AI. Định nghĩa mới được phát triển cùng nhau của Microsoft và Intel nói rằng một PC AI sẽ có một NPU, CPU, GPU, Copilot của Microsoft và một phím Copilot vật lý trực tiếp trên bàn phím.

Các PC đáp ứng những yêu cầu đó đã được vận chuyển, nhưng đó chỉ là làn sóng đầu tiên của sáng kiến PC AI. Intel tiết lộ các yêu cầu PC AI trong tương lai khi tôi đặt câu hỏi về tiêu chí bộ nhớ tiềm năng.

"Nhưng đến điểm của bạn, sẽ có một sự liên tục hoặc một sự tiến hóa, khi chúng ta sẽ chuyển sang PC AI thế hệ tiếp theo với yêu cầu 40 TOPS trong NPU," Todd Lewellen, Phó Chủ tịch của Nhóm Tính toán Khách hàng của Intel nói. "Chúng tôi có sản phẩm thế hệ tiếp theo đang sắp ra mắt sẽ thuộc loại đó."

"Và khi chúng ta chuyển sang thế hệ tiếp theo, nó chỉ làm cho chúng tôi có thể chạy nhiều thứ địa phương hơn, giống như họ sẽ chạy Copilot với nhiều phần của Copilot chạy địa phương trên máy khách. Điều đó có thể không có nghĩa là mọi thứ trong Copilot đều chạy địa phương, nhưng bạn sẽ có nhiều khả năng chính quan trọng sẽ xuất hiện chạy trên NPU."

Hiện tại, tính toán Copilot xảy ra trên đám mây, nhưng việc thực thi công việc cục bộ sẽ mang lại lợi ích về độ trễ, hiệu suất và quyền riêng tư. Đáng chú ý, NPU Meteor Lake của Intel đã có lên đến 10 TOPS, trong khi nền tảng Ryzen Hawk Point cạnh tranh của AMD có một NPU với 16 TOPS, cả hai đều không đạt được yêu cầu 40 TOPS. Qualcomm sẽ có các vi mạch Elite X đã thường xuyên bị trì hoãn với hiệu suất 45 TOPS trên thị trường vào cuối năm nay.

Lewellen giải thích rằng Microsoft tập trung vào trải nghiệm của khách hàng với các nền tảng mới. Do đó, Microsoft khẳng định rằng Copilot chạy trên NPU thay vì GPU để giảm thiểu ảnh hưởng đến tuổi thọ pin.