Raport: szafy NVIDIA Kyber mogą oferować 340,4 TB pamięci DRAM i kosztować 41,6 mln dolarów

Nadchodzące systemy NVIDIA Vera Rubin Ultra, w tym szafy Kyber, mają znacząco zwiększyć pulę dostępnej pamięci. Według raportu Bank of America pojedyncza szafa Kyber z 144 układami GPU ma oferować łącznie 340,4 TB DRAM, a jej szacowana cena ma sięgać 41,6 mln dolarów.

Bank of America wskazuje na rosnące znaczenie LPDDR5X

Z informacji przytoczonych w raporcie wynika, że w przypadku szaf Kyber większym obciążeniem kosztowym niż HBM4E może być pamięć LPDDR5X stosowana w modułach SOCAMM2. Bank of America szacuje, że 216 TB LPDDR5X w jednej szafie będzie kosztować około 2,8 mln dolarów.

Dla porównania, 124,4 TB pamięci HBM4E ma odpowiadać za koszt około 2,5 mln dolarów. Cena HBM4E została w raporcie określona na 19,76 dolara za GB. Łącznie daje to konfigurację z 340,4 TB pamięci DRAM na szafę.

Konfiguracja Vera Rubin i Kyber

Obecnie bazowy układ Rubin GPU jest opisywany jako wyposażony w 288 GB pamięci HBM4 w ośmiu stosach, co ma zapewniać przepustowość do 22 TB/s na GPU. Z kolei procesor Vera CPU odchodzi od klasycznych serwerowych modułów RDIMM na rzecz modułów SOCAMM2 opartych na LPDDR5X.

Moduły SOCAMM2 wykorzystują złącze kompresyjne umieszczane płasko względem płyty głównej. Takie rozwiązanie ma skracać ścieżki sygnałowe i zapewniać parametry wymagane w centrach danych. Każdy procesor Vera CPU ma obsługiwać osiem gniazd SOCAMM2, co przy modułach 192 GB daje teoretycznie do 1,5 TB LPDDR5X na CPU.

Najważniejsze dane z raportu

• 340,4 TB DRAM — łączna pula pamięci w szafie Kyber według raportu.
• 216 TB LPDDR5X — pamięć SOCAMM2 szacowana na około 2,8 mln dolarów.
• 124,4 TB HBM4E — pamięć wyceniana łącznie na około 2,5 mln dolarów.
• 19,76 dolara za GB — podawana cena HBM4E.
• 41,6 mln dolarów — raportowany koszt pojedynczej szafy Kyber.

Szacunki UBS dotyczące kosztów komponentów

W osobnym raporcie UBS oszacowano, że jeden układ Rubin GPU w konfiguracji superchipa Vera Rubin kosztuje około 9247 dolarów. Kwota ta obejmuje między innymi HBM4, pakowanie, interposer oraz elementy peryferyjne.

Według UBS procesor Vera CPU ma kosztować około 20 059 dolarów, wliczając w to pamięć SOCAMM2 LPDDR5X, a dodatkowe komponenty płytki mają kosztować około 350 dolarów. Raport wskazuje, że znacząca część kosztu GPU i niemal cały koszt CPU wynika z zastosowanej pamięci DRAM.

Większa pula pamięci niż w generacji Blackwell

W serwerach Blackwell procesory Grace były wyposażone w 480 GB pamięci, natomiast układy Blackwell GPU oferowały 192 GB HBM3E w GB200 oraz do 288 GB HBM3E w GB300. W przypadku szaf Vera Rubin łączna pula pamięci HBM4 i SOCAMM2 ma wzrosnąć do 74,7 TB, a w szafach Kyber — według przytoczonych szacunków — do 340,4 TB.

Źródło zwraca również uwagę, że plany dotyczące systemów Vera Rubin Ultra pozostają przedmiotem spekulacji. W branży pojawiają się pogłoski o możliwym ograniczeniu ilości HBM4E przypadającej na GPU, co miałoby pomóc NVIDIA w ochronie marż.