Điểm chính
- Axera ra mắt dòng chip AX8860 chuyên dụng cho mô hình ngôn ngữ lớn và tác nhân AI.
- Chip mới đạt hiệu năng xử lý nhanh hơn NVIDIA DGX Spark từ 25% đến 30% theo công bố.
- Sản phẩm hỗ trợ dung lượng bộ nhớ lớn cùng khả năng ghép cụm linh hoạt.
Hãng thiết kế chip AI Axera của Trung Quốc vừa chính thức công bố dòng sản phẩm AX8860, hướng đến việc vận hành các mô hình ngôn ngữ lớn và hệ thống tác nhân trí tuệ nhân tạo với mức chi phí cạnh tranh.
Thông số kỹ thuật và hiệu năng
Theo đơn vị phân phối Sipeed, khi thử nghiệm với mô hình Qwen 27B, chip AX8860 cho tốc độ xử lý đầu vào nhanh hơn NVIDIA DGX Spark 25% và tốc độ sinh kết quả vượt trội 30%. Mức giá dự kiến của sản phẩm này cũng chỉ bằng khoảng một nửa so với đối thủ.
Về cấu trúc phần cứng, AX8860 được sản xuất trên tiến trình 6nm, tích hợp 16 nhân CPU Arm Cortex-A55 cùng bộ xử lý thần kinh NPU đạt hiệu suất tối đa 256 TOPS ở độ chính xác FP4. Bên cạnh đó, vi xử lý hỗ trợ chuẩn kết nối PCIe 5.0 và bộ nhớ LPDDR5/5X 256 bit.
Khả năng mở rộng và thiết kế
Yếu tố cốt lõi mang lại sức mạnh cho chip là khả năng hỗ trợ tới 128 GB bộ nhớ LPDDR5X, cung cấp băng thông đạt 273 GB/s, tương đương với các nền tảng cao cấp như NVIDIA DGX Spark hay AMD Ryzen AI Halo. Khả năng cung cấp băng thông lớn đóng vai trò quyết định trong việc xử lý các mô hình ngôn ngữ phức tạp.
AX8860 cũng sở hữu lợi thế về khả năng kết nối mạng với tốc độ 256 Gbps khi ghép cụm, vượt trội hơn mức 200 Gbps của DGX Spark. Việc kết hợp nhiều chip giúp mở rộng năng lực tính toán đáng kể, đạt 512 TOPS khi dùng hai chip và lên đến 1.024 TOPS khi dùng bốn chip.
Dạng thức sản phẩm và lộ trình phát triển
Sản phẩm sẽ được thương mại hóa dưới nhiều hình thức khác nhau như mô-đun công suất 40W, card PCIe một khe cắm tích hợp tản nhiệt riêng, cũng như phiên bản card bốn chip hiệu năng cao. Các dòng máy tính mini sử dụng dòng chip này cũng đang trong quá trình phát triển.
Sipeed cho biết các đơn hàng đặt trước sẽ sớm được triển khai và sản phẩm thương mại dự kiến giao trong năm nay. Về mặt sinh thái phần mềm, chip tương thích với nhiều bộ công cụ phổ biến như vLLM, SGLang và PyTorch.
Trong tương lai, Axera dự định tiếp tục mở rộng dải sản phẩm với các dòng chip thế hệ mới như AX8950 và AX8970 nhằm nâng cao năng lực tính toán. Tuy nhiên, các thông số hiệu năng và giá bán hiện tại vẫn cần được kiểm chứng độc lập từ thị trường trước khi khẳng định vị thế cạnh tranh thực tế.
