Celowanie w rynek niskiego opóźnienia AI inference: Nvidia (NVDA.US) Groq 3 LPX w pełnej produkcji masowej, pierwsze systemy zostaną wdrożone w NEBIUS (NBIS.US)
W poniedziałek Nvidia ogłosiła, że system Groq 3 LPX na poziomie rackowym wszedł w fazę pełnej produkcji masowej, co oznacza, że po zeszłorocznym przejęciu przez firmę aktywów związanych z Groq za około 20 miliardów dolarów, ta technologia niskolatencyjnego inferencjonowania AI oficjalnie weszła w fazę komercjalizacji.
Według aplikacji finansowej SmartFinance, Nvidia (NVDA.US) ogłosiła w poniedziałek, że system Groq 3 LPX na poziomie szafy serwerowej wszedł w pełną produkcję masową, co oznacza, że po tym jak firma wydała około 20 miliardów dolarów na przejęcie powiązanych aktywów Groq w zeszłym roku, technologia AI o niskiej latencji została oficjalnie wprowadzona na rynek komercyjny. Pierwsze systemy zostaną wdrożone przez dostawcę usług AI w chmurze NEBIUS (NBIS.US) i zaplanowano ich uruchomienie jeszcze w tym roku.
Dyrektor wysokiego szczebla Nvidia, Dion Harris, powiedział mediom, że Groq 3 LPX będzie wdrażany razem z centralnym procesorem Vera i procesorem graficznym Rubin firmy Nvidia w centrum danych Nebius.
Szybka masowa produkcja produktów Groq pokazuje, że w miarę jak zastosowania AI przesuwają się z treningu modeli do rzeczywistego wdrożenia, AI o niskiej latencji staje się nowym, kluczowym rynkiem, o który Nvidia chce walczyć. W szczególności w aplikacjach takich jak AI agent i AI programowanie modele muszą generować treści szybciej, skracając czas oczekiwania użytkownika.
Nvidia w grudniu zeszłego roku wydała około 20 miliardów dolarów na przejęcie aktywów startupu Groq zajmującego się chipami AI, co jest największą transakcją przejęcia w historii firmy.
Jedną z głównych cech architektury chipów Groq jest integracja 500 MB szybkiej pamięci SRAM bezpośrednio na chipie, co zmniejsza potencjalne wąskie gardła w przesyłaniu danych związane z tradycyjnym dostępem do pamięci i przyspiesza reakcje modeli AI podczas procesów inferencji.
W przeciwieństwie do głównych GPU Nvidia, produkowanych przez TSMC (TSM.US), chipy Groq są wytwarzane przez Samsung.
Obecnie Nvidia integruje 256 chipów Groq 3 w jednym regale LPX. Według danych z testów przytoczonych przez Nvidia z Artificial Analysis, system Groq 3 LPX jest w stanie generować około 3400 tokenów na sekundę.
W przypadku generatywnej AI token jest podstawową jednostką przetwarzania i generowania tekstu przez model. Wyższa liczba tokenów na sekundę oznacza szybszą reakcję AI na żądania użytkownika, co ma znaczenie zwłaszcza w aplikacjach takich jak AI programowanie czy agent AI w czasie rzeczywistym, w których latencja jest krytyczna.
Harris stwierdził, że dla dostawców usług inferencji AI w chmurze niższa latencja pozwala im oferować droższe, zaawansowane usługi klientom o wyższych wymaganiach dotyczących szybkości reakcji.
Jednak chipy Groq nie zostały zaprojektowane jako zamiennik tradycyjnych GPU Nvidia.
GPU pozostaje obecnie podstawą infrastruktury obliczeniowej AI: mogą być wykorzystywane zarówno do treningu modeli, jak i do zadań inferencji oraz charakteryzują się uniwersalnością, pozwalając na obsługę różnych modeli i architektur technicznych.
Chipy typu Groq, skoncentrowane na niskiej latencji, są optymalizowane pod kątem szczególnych etapów inferencji AI, zwłaszcza podczas fazy "dekodowania" generowania treści przez model.
Harris wyjaśnił: "Nie chodzi tutaj o zastąpienie GPU, lecz o użycie najbardziej odpowiednich procesorów w różnych częściach obciążenia pod względem ceny i wydajności."
To oznacza, że Nvidia próbuje stworzyć bardziej zróżnicowaną architekturę obliczeniową AI: CPU Vera i GPU Rubin nadal realizują szerokie zadania obliczeniowe AI, podczas gdy chipy Groq są zoptymalizowane pod kątem obciążeń inferencji wymagających bardzo niskiej latencji.
Wraz z przejściem branży AI z masowego treningu modeli do fazy gwałtownego wzrostu zapotrzebowania na inferencję konkurencja na rynku niskiej latencji rośnie.
AMD (AMD.US) ogłosiło na początku tego roku, że ich system AI na poziomie szafy serwerowej zostanie zintegrowany z chipami Cerebras (CBRS.US), również skupiając się na AI inferencji o niskiej latencji.
Znaczenie tego segmentu rośnie wraz z popularyzacją aplikacji takich jak AI programowanie. W artykule zaznaczono, że najnowszy tryb Ultrafast prezentowany przez OpenAI obiecuje generowanie 750 tokenów na sekundę i jest wspierany przez Cerebras jako bazę mocy obliczeniowej.
Dla porównania, według testów przytoczonych przez Nvidia, Groq 3 LPX osiąga 3400 tokenów na sekundę. Jednak warunki testowe i scenariusze zastosowań różnych systemów mogą się różnić, dlatego tych wyników nie można bezpośrednio porównać jako jednoznaczny wskaźnik wydajności.
Jednocześnie Nvidia przyspiesza sprzedaż systemu Vera Rubin, który wszedł w fazę produkcji na początku tego roku.
Prezes Nvidia, Jensen Huang, podczas premiery Vera Rubin i Groq 3 LPX w marcu przewidywał, że łączny przychód ze sprzedaży od obecnych chipów Blackwell do nowych systemów Vera Rubin może do 2027 roku sięgnąć 1 biliona dolarów.
Huang ujawnił również, że w przestrzeni centrów danych dedykowanych aplikacjom AI programowania zamierza przydzielić około jednej czwartej dla chipów Groq, a pozostałą część dla systemów Vera Rubin.
Ten proporcjonalny podział pokazuje rosnące znaczenie rynku inferencji o niskiej latencji dla Nvidia. Wraz z dynamicznym rozwojem AI agentów, AI programowania oraz generatywnej AI w czasie rzeczywistym szybkość inferencji staje się kluczowym wskaźnikiem konkurencyjności firm chmurowych i programistów AI.
Rozpoczęcie masowej produkcji Groq 3 LPX oznacza również, że Nvidia rozwija się od dostawcy AI chipów skoncentrowanych na GPU do tworzenia specjalnych architektur obliczeniowych dedykowanych różnym obciążeniom AI.
Rynek będzie zwracał uwagę na najnowsze wyniki Nvidia. Firma opublikuje raport finansowy w tę środę, a poza popytem na Blackwell i Vera Rubin, również postępy w komercjalizacji Groq i działalność inferencyjna AI mogą stać się nowymi punktami zainteresowania dla inwestorów.
Zastrzeżenie: Treść tego artykułu odzwierciedla wyłącznie opinię autora i nie reprezentuje platformy w żadnym charakterze. Niniejszy artykuł nie ma służyć jako punkt odniesienia przy podejmowaniu decyzji inwestycyjnych.
Może Ci się również spodobać
Raport finansowy Delta Airlines (DAL.US) ujawnia, że branża lotnicza „pożera zyski przez energię”! Przychody w III kwartale osiągnęły rekordowy poziom, ale wysokie ceny ropy obniżają perspektywy zysków
W trzecim kwartale Delta Airlines odnotowała wzrost skorygowanych wydatków na paliwo o 62% rok do roku, a skorygowana marża operacyjna spadła z 11,1% do 9,4%. Wyniki te oraz perspektywy na przyszłość pokazują odporność tej gigantycznej linii lotniczej w obliczu wysokich cen ropy, ale jeszcze nie sygnalizują ponownego rozszerzenia marży zysku.
Morgan Stanley jest optymistyczny wobec SpaceX: Potencjał “Tera’Merica” jest niedoceniany, rozwój AI dla przedsiębiorstw i ekspansja mocy obliczeniowej otwierają przestrzeń wzrostu
Morgan Stanley uważa, że logika wzrostu SpaceX rozszerza się z sektora kosmicznego i łączności satelitarnej na sztuczną inteligencję dla przedsiębiorstw i infrastrukturę obliczeniową, a odbudowa zaawansowanego przemysłu wytwórczego w USA może otworzyć jeszcze szersze perspektywy długoterminowe. Komercjalizacja AI dla firm oraz ekspansja mocy obliczeniowej stanowią bezpośrednie wsparcie dla wzrostu, a szanse związane z przemysłem wytwórczym, określane mianem "Tera’Merica", zapewniają spółce dodatkowy potencjał wzrostu w długim terminie.
Delta Air Lines obniża prognozy zysków z powodu wzrostu kosztów paliwa przekraczającego wzrost cen biletów
Delta Air Lines obniżyła prognozę rocznego zysku z powodu wzrostu kosztów paliwa o 6 miliardów dolarów, co stanowi wyzwanie dla zdolności pasażerów do znoszenia gwałtownie rosnących cen biletów. Przewiduje się, że działalność rafineryjna wygeneruje 700 milionów dolarów zysku, łagodząc wpływ kosztów paliwa. W piątek Delta Air Lines obniżyła swoją prognozę rocznego zysku o prawie jedną czwartą, ponieważ gwałtownie rosnące koszty paliwa niwelują pozytywny wpływ silnego popytu na podróże i wyższych cen biletów lotniczych. Obniżenie prognozy podkreśla coraz poważniejsze wyzwania, przed którymi stają amerykańskie linie lotnicze: czy, jeśli ceny paliwa utrzymają się na wysokim poziomie, pasażerowie będą gotowi zaakceptować dalszy wzrost cen biletów. Linie lotnicze już znacząco podniosły ceny biletów w bieżącym roku, a analitycy ostrzegają, że dalsze podwyżki mogą wystawić na próbę chęć pasażerów do dalszego wydawania pieniędzy. Firma z siedzibą w Atlancie spodziewa się, że jej roczne wydatki na paliwo wzrosną o około 6 miliardów dolarów w porównaniu z rokiem poprzednim. W trzecim kwartale wydatki na paliwo wzrosły o 62% rdr, do 4,1 miliarda dolarów, przekraczając lipcową prognozę o ponad 500 milionów dolarów. Zapytany o powody obniżenia prognozy, dyrektor finansowy Delta, Erik Snell, powiedział: „To wyłącznie kwestia paliwa”, zauważając wzrost cen ropy i rafinowanego paliwa lotniczego od okresu letniego. Obecnie Delta przewiduje skorygowany roczny zysk na akcję w wysokości 5,10–5,60 USD, poniżej prognozy z lipca wynoszącej 6,50–7,50 USD. Według danych London Stock Exchange Group, nowa mediana wynosi 5,35 USD, mniej niż średnia prognoza analityków wynosząca 5,46 USD. Spółka spodziewa się skorygowanego zysku przed opodatkowaniem w 2026 roku w wysokości 4,5 miliarda dolarów. Według danych London Stock Exchange Group, skorygowany zysk na akcję za trzeci kwartał wyniósł 1,72 USD, nieco poniżej średniej oczekiwań analityków wynoszącej 1,76 USD, a skorygowana marża operacyjna spadła z 11,1% do 9,4%. Delta jest pierwszą dużą amerykańską linią lotniczą, która opublikowała wyniki finansowe za trzeci kwartał. Jej konkurenci, United Airlines, American Airlines oraz Southwest Airlines, opublikują raporty jeszcze w tym miesiącu. Wzrost cen biletów Według danych Amerykańskiego Biura Statystyki Transportu, w pierwszych ośmiu miesiącach 2026 roku amerykańskie linie lotnicze wydały na paliwo do lotów rozkładowych łącznie 42,9 miliarda dolarów - to prawie 13,2 miliarda dolarów więcej niż rok wcześniej, mimo lekkiego spadku zużycia paliwa. Silny popyt i ograniczony wzrost liczby miejsc pozwoliły liniom lotniczym przerzucić wyższe koszty paliwa na pasażerów. Według amerykańskiego Biura Statystyki Pracy, w ciągu pięciu miesięcy do sierpnia ceny biletów lotniczych w USA wzrosły przeciętnie o około 25% w porównaniu do analogicznego okresu rok wcześniej. Wobec utrzymujących się wysokich cen paliwa i planów zwiększenia mocy przewozowych branży w czwartym kwartale, analitycy uważnie obserwują, czy linie lotnicze, w tym Delta, będą mogły jeszcze bardziej podnosić ceny biletów bez tłumienia popytu na podróże. Analitycy Deutsche Bank przewidują, że w czwartym kwartale branża odzyska w postaci przychodów mniejszy procent kosztów paliwa i spodziewają się pełnego odzyskania kosztów dopiero na początku 2027 roku. Delta twierdzi, że popyt pozostaje silny. Snell poinformował, że poziom rezerwacji na czwarty kwartał sięga już prawie 60%, a firma spodziewa się wzrostu przychodów rok do roku o około 20%. Według danych LSEG, firma przewiduje skorygowany zysk na akcję w czwartym kwartale na poziomie 1,15–1,65 USD, z medianą (1,40 USD) blisko średniej prognozy analityków wynoszącej 1,39 USD. Przewaga rafinerii Delta posiada przewagę nad innymi amerykańskimi liniami lotniczymi: jej rafineria pod Filadelfią ma wygenerować w tym roku 700 milionów dolarów zysku. „Posiadamy rafinerię, która zapewnia nam zabezpieczenie przed wahaniami cen paliwa – częściowe zabezpieczenie – czego nie ma żadna inna firma,” powiedział Snell. Monroe Refinery, kupiona w 2012 roku, przetwarza ropę naftową na paliwo lotnicze i inne produkty. Choć Delta płaci swojej jednostce lotniczej za paliwo po cenie rynkowej, zysk z rafinerii zostaje w spółce. Przy rosnącej różnicy między cenami ropy a produktów gotowych, to chroni Delta przed kosztami paliwa. Jednakże ta ochrona zależy od poziomu marży rafineryjnych — przy ich spadku rafineria może przynosić straty. Jednak ta rafineria łagodzi tylko częściowo wpływ wzrostu cen paliwa. Nawet przy spodziewanym zysku 40 centów na galonie, Delta przewiduje wzrost kosztów paliwa z 3,61 USD za galon w III kwartale do 4,25 USD w IV kwartale. Snell stwierdził, że koszty paliwa pozostaną wysokie przez jakiś czas. „Ostatecznie ceny paliwa spadną. Ale kiedy to nastąpi, jeszcze nie wiemy,” powiedział. (Niniejsze tłumaczenie artykułu przygotowane automatycznie przez Reuters dla wygody czytelników niebędących rodzimymi użytkownikami język
Koniec teorii "SaaS dobiega końca"? Autodesk (ADSK.US) i Intuit (INTU.US) na przekór trendowi prowadzą wzrosty, Wall Street ponownie wycenia narrację "AI pożera oprogramowanie"
W tym tygodniu, Autodesk i Intuit mogą odnotować najsilniejszy tygodniowy wzrost od kilku miesięcy, wykazując odporność w obliczu ogólnej presji na sektor technologiczny i wysyłając sygnał, że rynek ponownie jest optymistyczny co do perspektyw wzrostu branży SaaS (Software as a Service).
Ceny krypto
Więcej
