Rocket 7638D là bộ chuyển mạch PCIe Gen5 mới được HighPoint giới thiệu, nổi bật khi trở thành sản phẩm đầu tiên trong ngành hỗ trợ công nghệ Nvidia GPUDirect Storage. Giải pháp này mở ra khả năng kết nối trực tiếp giữa GPU và bộ nhớ lưu trữ NVMe, giúp loại bỏ nút thắt cổ chai do CPU gây ra và tối ưu hiệu suất cho các tác vụ AI cũng như machine learning.
GPUDirect và tầm quan trọng với AI
Công nghệ GPUDirect do Nvidia phát triển cho phép GPU giao tiếp trực tiếp với ổ lưu trữ NVMe và các thiết bị mạng, thay vì phải đi qua CPU. Điều này loại bỏ tình trạng sao chép dữ liệu không cần thiết, giảm tải cho CPU và hạn chế độ trễ, nhờ vậy quá trình huấn luyện mô hình, suy luận và xử lý dữ liệu AI trở nên nhanh chóng và hiệu quả hơn.
Trước đây, hầu hết các tác vụ I/O đều do CPU quản lý, dẫn đến hiện tượng “đói dữ liệu” khi GPU phải chờ đợi. Với GPUDirect, luồng dữ liệu có thể đi thẳng từ thiết bị lưu trữ đến bộ nhớ GPU, mang lại sự thay đổi lớn cho các hệ thống AI hiện đại.
Rocket 7638D – PCIe switch thế hệ mới
Bộ chuyển mạch Rocket 7638D được HighPoint thiết kế với 48 làn PCIe Gen5, bao gồm một đường truyền x16 dành riêng cho GPU và các ổ NVMe từ cùng một khe cắm. Ngoài ra, thiết bị tích hợp các cổng MCIO có thể kết nối tới 16 ổ NVMe, hỗ trợ cấu hình lưu trữ lên đến 2 petabyte với tốc độ truyền dữ liệu tối đa 64 GB/s.
Rocket 7638D sử dụng chip tích hợp dựa trên kiến trúc Arm (Broadcom PEX 89048), cho phép hoạt động độc lập mà không cần phụ thuộc vào CPU chính. Nhờ vậy, sản phẩm tương thích với cả hệ thống x86 và Arm, đồng thời không yêu cầu cài đặt driver hoặc phần mềm bổ sung để kích hoạt luồng dữ liệu.
Ý nghĩa với ngành AI và lưu trữ hiệu năng cao
Theo HighPoint, Rocket 7638D sẽ mang lại cải thiện rõ rệt cho các khối lượng công việc AI như huấn luyện mô hình, suy luận và phân tích dữ liệu lớn. Khả năng kết nối trực tiếp GPU với bộ nhớ lưu trữ tốc độ cao giúp loại bỏ nút thắt cổ chai, cho phép các trung tâm dữ liệu và nhà nghiên cứu vận hành hệ thống AI ở quy mô lớn một cách hiệu quả hơn.
Hiện HighPoint chưa công bố chi tiết về giá bán hay thời điểm phát hành, chỉ cho biết khách hàng quan tâm có thể liên hệ trực tiếp để nhận thông tin. Với những gì Rocket 7638D mang lại, đây hứa hẹn sẽ là một trong những giải pháp phần cứng quan trọng, mở ra hướng đi mới cho việc xử lý dữ liệu trong kỷ nguyên AI.