OpenAI zaprezentowało swoje Jalepeño. Niepozorny chip okazuje się miażdżyć NVIDIĘ w pierwszych benchmarkach.
OpenAI coraz wyraźniej zaznacza swoją obecność nie tylko na rynku modeli AI, ale również sprzętu, który je wykorzystuje. Firma przedstawiła wyniki testów własnego układu ASIC o nazwie Jalapeño, opracowanego we współpracy z Broadcomem. Procesor został zaprojektowany przede wszystkim z myślą o wnioskowaniu i według danych zaprezentowanych przez OpenAI może zapewniać od 1,5 do 1,9 raza większą przepustowość na kilowat niż systemy Nvidia GB200 i GB300.
Wyniki zostały przedstawione podczas konferencji Hot Chips, gdzie OpenAI zaprezentowało porównanie Jalapeño z platformami Nvidia GB200 i GB300. Wykorzystano przy tym publiczny zestaw testów InferenceX przygotowany przez SemiAnalysis. Sprawdzano działanie trzech modeli: GPT-OSS 120B, DeepSeek R1 670B oraz Kimi K2.5 firmy Moonshot AI. To całkiem rzetelny test.
Sprawdź też: Prompt engineering – co to jest? Czy to zawód przyszłości?
W zależności od obciążenia autorski układ OpenAI miał osiągać od 1,5 do 1,9 raza większą przepustowość w przeliczeniu na zużyty kilowat energii. Jednocześnie całkowite opóźnienie miało być od 1,7 do 3,6 raza niższe niż w porównywanych systemach. To doskonały wynik.
Jalapeño korzysta z sześciu stosów pamięci HBM4. Łącznie zapewniają one 216 GB pojemności oraz przepustowość sięgającą 15,4 TB/s. Dla porównania GB300 wykorzystuje 288 GB pamięci HBM3E, przy jednocześnie dwukrotnie wyższym deklarowanym TDP samego akceleratora. Jalapeño nie ma też być jedynie demonstracją możliwości. Firma planuje wykorzystać własne układy w centrach danych jeszcze w tym roku.
Zobacz też:
OpenAI ogłasza przełom, Sam Altman czekał na niego całe życie.
OpenAI mocno dokłada już do interesu. ChatGPT kosztuje fortunę.
AI samo kupuje już sobie pamięć RAM.
