Nvidia tung siêu máy tính AI cho người dùng cá nhân, dễ dàng xử lý 1 triệu tỷ phép tính mỗi giây & chạy 200 tỷ tham số, nhỏ gọn như Mac Mini
Tại CES 2025, Nvidia giới thiệu Project Digits, một siêu máy tính AI cá nhân được thiết kế để đặt gọn trên bàn làm việc, dự kiến ra mắt vào tháng 5 năm nay. Trái tim của Project Digits là chip GB10 Grace Blackwell Superchip, mang lại sức mạnh xử lý vượt trội cho các mô hình AI phức tạp, nhưng chỉ cần một ổ cắm điện tiêu chuẩn để hoạt động.
Với kích thước tương đương một chiếc Mac Mini, Project Digits có khả năng xử lý các mô hình AI lên tới 200 tỷ tham số. Giá khởi điểm của sản phẩm là 3.000 USD (khoảng 72 triệu đồng).
Nvidia CEO Jensen Huang nhấn mạnh tầm quan trọng của Project Digits trong việc phổ biến AI: “AI sẽ hiện diện trong mọi ứng dụng của mọi ngành công nghiệp. Với Project Digits, Grace Blackwell Superchip sẽ đến tay hàng triệu nhà phát triển, mang sức mạnh AI ngay trên bàn làm việc của họ.”
Cấu hình mạnh mẽ vượt trội
Mỗi hệ thống Project Digits được trang bị 128GB bộ nhớ hợp nhất (unified memory), vượt xa mức 16GB hoặc 32GB trên những chiếc laptop cao cấp hiện nay. Bên cạnh đó, máy còn có dung lượng lưu trữ lên tới 4TB NVMe.
Đối với các ứng dụng yêu cầu sức mạnh xử lý lớn hơn, người dùng có thể liên kết hai hệ thống Project Digits để xử lý các mô hình lên đến 405 tỷ tham số – tương đương với mô hình AI tiên tiến Llama 3.1 của Meta.
GB10 Grace Blackwell Superchip cung cấp hiệu suất AI lên đến 1 petaflop (1 triệu tỷ phép tính mỗi giây) với độ chính xác FP4, giúp tăng tốc độ tính toán bằng cách sử dụng các phép xấp xỉ. Hệ thống này tích hợp các nhân CUDA thế hệ mới nhất, Tensor Cores thế hệ thứ năm và CPU Grace dựa trên 20 nhân Arm tiết kiệm năng lượng. Nvidia đã hợp tác với MediaTek để tối ưu hóa hiệu suất và khả năng tiết kiệm năng lượng cho GB10.
Người dùng Project Digits được truy cập vào thư viện phần mềm AI của Nvidia, bao gồm các bộ công cụ phát triển, công cụ điều phối, và các mô hình AI đã được huấn luyện trước. Máy chạy hệ điều hành DGX của Nvidia dựa trên nền tảng Linux, hỗ trợ các framework phổ biến như PyTorch, Python và Jupyter notebooks.
Các nhà phát triển có thể tinh chỉnh mô hình AI thông qua nền tảng Nvidia NeMo, đồng thời tăng tốc các quy trình xử lý dữ liệu nhờ thư viện Nvidia RAPIDS. Ngoài ra, Project Digits cho phép người dùng phát triển và thử nghiệm mô hình AI trực tiếp trên máy, sau đó triển khai lên các dịch vụ đám mây hoặc hạ tầng trung tâm dữ liệu mà không cần thay đổi cấu trúc nhờ kiến trúc Grace Blackwell và nền tảng phần mềm Nvidia AI Enterprise.
Project Digits mở rộng tầm với của AI đến mọi nhà phát triển, từ các nhà khoa học dữ liệu, sinh viên đến những người đam mê công nghệ. Với giá cả phải chăng hơn so với các siêu máy tính trước đây, sản phẩm này hứa hẹn trở thành một công cụ đắc lực cho những ai muốn tham gia vào kỷ nguyên AI.
Trước đó, Nvidia cũng từng ra mắt Jetson Orin Nano Super – một hệ thống AI nhỏ gọn giá chỉ 249 USD (khoảng 6 triệu đồng), nhắm đến các startup và người dùng đam mê công nghệ với khả năng xử lý mô hình lên đến 8 tỷ tham số. Project Digits, với sức mạnh vượt trội hơn, là bước tiếp theo trong chiến lược phổ biến AI của Nvidia.