Axera prezentuje układ AX8860 do AI. Firma deklaruje wyższą wydajność od DGX Spark w testach LLM

Axera zaprezentowała nowy układ AI AX8860, który ma konkurować z kompaktowymi platformami do uruchamiania dużych modeli językowych. Firma deklaruje, że rozwiązanie może być szybsze od NVIDIA DGX Spark w wybranych testach LLM, przy niższym poborze mocy i niższej cenie. Na razie są to jednak dane producenta oraz partnerów, a nie wyniki niezależnych testów.

AX8860: 16 rdzeni Arm i do 256 TOPS

Axera AX8860 to układ projektowany z myślą o zastosowaniach związanych z modelami LLM oraz agentami AI. Według ujawnionych informacji chip korzysta z 16-rdzeniowego procesora Arm Cortex-A55 oraz autorskiego NPU, którego deklarowana moc obliczeniowa sięga 256 TOPS w formacie FP4, bez uwzględniania sparsity.

Układ ma być produkowany w procesie 6 nm i obsługiwać interfejs PCIe 5.0. Producent przewidział także 256-bitowy kontroler pamięci LPDDR5/LPDDR5X. Maksymalna konfiguracja obejmuje do 128 GB pamięci LPDDR5X, a przepustowość ma dochodzić do 273 GB/s.

Porównanie z DGX Spark i dane z testów Qwen 27B

Według Sipeed, który udostępnił informacje o wydajności i kosztach platformy, AX8860 miał zostać sprawdzony w modelu Qwen 27B. W tych testach deklarowano o 25 proc. szybszy etap prefill oraz o 30 proc. szybsze dekodowanie względem NVIDIA DGX Spark.

Sipeed twierdzi również, że rozwiązanie oparte na AX8860 ma kosztować około połowy ceny DGX Spark. Nie doprecyzowano jednak, czy porównanie odnosi się do wersji z 64 GB, czy 128 GB pamięci. Z tego względu dane cenowe należy traktować jako deklarację, a nie pełne zestawienie rynkowe.

Skalowanie i warianty sprzętowe

Axera przewiduje możliwość łączenia wielu układów w konfiguracje klastrowe. Interfejs sieciowy ma oferować przepustowość 256 Gb/s, czyli więcej niż 200 Gb/s wskazywane przy DGX Spark. W konfiguracji z dwoma układami deklarowana moc obliczeniowa ma wynosić około 512 TOPS, a w wariancie czteroukładowym około 1024 TOPS przy sprawności skalowania na poziomie 80 proc.

Zapowiedziane formy urządzeń

• Moduł dedykowany o deklarowanym poborze mocy około 40 W.
• Karta PCIe jednoslotowa z interfejsem Gen5 x4, chłodzeniem aktywnym oraz złączami sieciowymi i wyświetlania.
• Karta z czterema układami w formacie jednoslotowym, wyposażona w duży radiator, cztery wentylatory i standardowe zasilanie 8-pin.
• Mini PC i Pocket PC, które również mają wykorzystywać AX8860.

Obsługiwane oprogramowanie i dalsza mapa rozwoju

Po stronie programowej układ ma wspierać popularne narzędzia i frameworki wykorzystywane przy pracy z modelami językowymi, w tym vLLM, SGLang oraz PyTorch. To istotny element dla potencjalnych użytkowników, choć do oceny dojrzałości całego ekosystemu potrzebne będą testy niezależne od producenta.

Axera przedstawiła także plan kolejnych układów. Wśród zapowiadanych rozwiązań znalazł się AX8950 z deklarowaną wydajnością do 500 TOPS oraz AX8970, który ma przekraczać 700 TOPS.

Ważne zastrzeżenie

Dane dotyczące wydajności, ceny i efektywności energetycznej AX8860 pochodzą z deklaracji Axery oraz informacji opublikowanych przez Sipeed. Jeżeli zostaną potwierdzone w niezależnych testach, układ może stać się interesującą propozycją dla kompaktowych systemów przeznaczonych do lokalnego uruchamiania LLM i zadań agentic AI.