400G proti 800G NIC: Katerega izbrati?

Izbira med 400G NIC in 800G NIC je odločitev o strukturi in ne primerjava-strani za nakup. Hitrejši adapter se izplača le, če lahko strežnik, stikalo, optika in kabli prenašajo to hitrost od konca do konca. Ta vodnik obravnava kompromis-z vidika uvajanja in nabave, tako da se lahko odločite, preden dodelite proračun za adapterje, stikala, sprejemnike in sprejemnike, DAC, AOC, AEC ali optična vlakna.

Kratka različica: omrežna kartica 400G je zrela, stroškovno{1}}učinkovita privzeta možnost za večino današnjih delovnih obremenitev AI, HPC, pomnilnika in oblaka ter se čisto preslika v gostitelje NDR InfiniBand in PCIe Gen5. 800G NIC zasluži svojo premijo, ko gradite naslednjo-generacijo umetne inteligence z gostejšimi grafičnimi procesorji, gostejšim vzhodno-zahodnim prometom in načrtom za XDR InfiniBand, 800G Ethernet in na koncu 1,6T.

400G proti 800G NIC

Izberite 400G NIC, ko so vaši strežniki, stikala in optični obrati že standardizirani na 400G Ethernet ali NDR InfiniBand ali ko delovna obremenitev ne nasiči vsake poti GPU-do-GPU. To je tudi varnejši klic, ko so razpoložljivost, proračun in čas kvalifikacije pomembnejši od največje hitrosti vrat.

Izberite 800G NIC, ko postaja omrežje ozko grlo za obsežno-usposabljanje, visoko-strežnike GPU z gostoto ali naslednje-pospeševalnike generacije. Približno prepolovi število povezav in optičnih modulov, potrebnih za določeno količino pasovne širine, in pripravi strukturo za naslednjo nadgradnjo.

Vrata 800G se splača kupiti šele, ko jih lahko napaja preostali del sistema. Če gostitelj adapterju ne more izpostaviti dovolj pasov PCIe, 800G NIC postane draga, premalo uporabljena vrata in ne nadgradnja zmogljivosti.

Kaj je 400G NIC?

400G NIC je omrežni adapter, ki premakne do 400 gigabitov na sekundo na vrata. V okoljih umetne inteligence in HPC upravlja z omrežjem gruče GPU-, porazdeljenim usposabljanjem, dostopom do shranjevanja, prometom MPI, tkaninami RoCE in povezavami NDR InfiniBand. Za večino operaterjev je 400G že velik skok v primerjavi s 100G ali 200G in odpravlja očitna ozka grla, ne da bi zahtevala preoblikovanje strežnika in preklopnih nivojev.

Kam 400G NIC-ji danes ustrezajo

400G adapterji so delujoča privzeta oprema za vadbene gruče AI na trenutnih{1}}generacijskih grafičnih procesorjih, HPC in znanstvenih-računalniških strukturah, visoko-zmogljivih omrežjih za shranjevanje, RoCEv2 Ethernet in InfiniBand tkaninah, splošnih flotah strežnikov v oblaku in nadgradnjah s 100G/200G-na-400G v sobah mešanih generacij. V teh nastavitvah je 400G le redko kompromis. To je preprosto pravi hitrostni razred, ko velikost gruče, število GPE in proračun ne upravičijo dodatne kompleksnosti 800G.

Zakaj je 400G še vedno smiselno

Izbira omrežne kartice je problem-uravnoteženosti sistema. Če gostitelj ne more napajati adapterja 800G, če je delovna obremenitev- ali shramba-vezana ali če je hrbtenica še vedno 400G, potem opustitev 800G NIC zviša stroške, ne da bi spremenila zmogljivost aplikacije. Dobro-zgrajena tkanina 400G z nizko prekomerno naročnino, čisto topologijo, RDMA, kakovostno optiko in prilagojenim nadzorom zastojev še vedno udobno opravlja zahtevna opravila AI in HPC.

Kaj je 800G NIC?

NIC 800G zagotavlja do 800 gigabitov na sekundo na vrata. Cilja na podatkovne centre z umetno inteligenco naslednje{3}}generacije, velike gruče GPU in spletna mesta hiperscale, kjer povpraševanje po komunikaciji presega običajna strežniška omrežja. Generacija 800G je zdaj standardizirana:standard IEEE 802.3df, ratificiran leta 2024, definira 800-gigabitni ethernet in podpira pod-hitrosti, kot so 1x800G, 2x400G in 8x100G, zaradi česar je selitev z mešano-hitrostjo praktična.

Vrednost ni le podvojena stopnja naslova. 800G omogoča arhitektom, da povečajo gostoto pasovne širine, odrežejo število povezav in modulov ter podpirajo večje strukture za usposabljanje z bolj agresivnim prometom od vseh-za-vse.

Zakaj se gruče AI selijo na 800G

Velik-model usposabljanja ustvarja ogromen GPU-na-GPU in strežnik-na-promet med strežniki. Gradientna izmenjava, vse-zmanjševanje, mešanica-strokovnjakov za usmerjanje, kontrolne točke in shranjevanje-težki cevovodi, vse to uničuje strukturo. Ker postajajo pospeševalniki hitrejši, mora omrežje slediti tempu, sicer dragi grafični procesorji mirujejo in čakajo na sinhronizacijo. 800G NIC se na to odzovejo s povečanjem pasovne širine na vozlišče, na pospeševalnik ali na omrežni tir.

800G je odločitev o tkanini, ne le adapter

Prehod na 800G preoblikuje izbiro stikala, optiko, načrtovanje dosega, toplotno zasnovo, pretok zraka in postavitev stojala. Zlasti optične in bakrene izbire postanejo strožje: vrata 800G lahko uporabljajo modul OSFP ali QSFP-DD, moduli na strani-strani stikala in strani-na strani NIC pa se lahko razlikujejo po toplotni in mehanski zasnovi celo pri enaki stopnji. Če vaš obrat uporablja strukturirana vlakna, zgodaj potrdite tip modula in konektorja; našpregled faktorja oblike QSFP-DDzajema, kjer ustreza glede na OSFP. Obravnavajte 800G kot program-na ravni strukture, ne kot zamenjavo ene vrstice-elementa.

400G NIC proti 800G NIC

Kdaj izbrati 400G NIC

Izberite 400G NIC, ko je cilj visoko{1}}zmogljivo omrežje z zrelo strojno opremo, predvidljivo uvedbo in nadzorovanimi stroški.

Gradite na obstoječi 400G infrastrukturi

Če so vaša stikala, kabli, optika in strežniške platforme že standardizirane na 400G, ostanete pri omrežnih karticah 400G in odstranite vrsto preverjanj združljivosti in vam omogočijo ponovno uporabo večine trenutnega ekosistema. To še posebej velja pri nadgradnji s 100G ali 200G, kjer je povečanje zmogljivosti veliko in je ekosistem veliko bolj zrel kot 800G.

Vaša AI delovna obremenitev ne nasiči tkanine

Vsako delo AI ne potrebuje 800G na strežnik. Številni so-vezani na računalništvo,-shrambo,-pomnilnik ali omejeni z učinkovitostjo programske opreme in ne s pasovno širino omrežja. Če profiliranje pokaže, da omrežje ni primarno ozko grlo, 400G NIC običajno zagotavlja boljši donos.

Potrebujete stroškovno-učinkovit HPC

Številne delovne obremenitve HPC so občutljive na zakasnitev, vedenje-prehajanja sporočil in prezasedenost spleta in ne na surovo pasovno širino. Dobro-nastavljena tkanina 400G pogosto premaga slabo integrirano tkanino 800G. Koristno vprašanje ni, katera omrežna kartica je hitrejša, temveč katera zasnova omrežja zagotavlja najboljšo zmogljivost aplikacije na dolar.

Potrebujete hitrejšo nabavo-z manjšim tveganjem

400G adapterje, optiko in kable je lažje pridobiti in kvalificirati na več platformah strežnikov in stikal. Ko ima ekipa omejen čas za preverjanje, je 400G izbira z manjšim-tveganjem, ki še vedno odpravi večino ozkih grl.

Kdaj izbrati 800G NIC

Izberite 800G NIC, ko lahko aplikacija, platforma GPE in tkanina dejansko uporabljajo dodatno pasovno širino.

Načrtujete strukturo za usposabljanje z umetno inteligenco naslednje-generacije

Velike gruče za usposabljanje ustvarjajo močno komunikacijo med-vse-vsemi in vzhod-zahodom. Ko velikost modela, število GPE in vzporednost rastejo, postane omrežje omejevalnik. Tu omrežne kartice 800G povečajo pasovno širino na-vozlišče in zmanjšajo tveganje, da bi splet zadušil GPU.

Potrebujete večjo gostoto pasovne širine

800G zmanjša število vrat, povezav in modulov, potrebnih za zagotavljanje dane količine pasovne širine. To je pomembno v gostih gručah, kjer so omejeni prostor v omari, -število vrat na sprednji plošči, upravljanje kablov in osnova stikala. Manj hitrejših povezav lahko poenostavi gradnjo, če sta struktura stikala in načrt kablov zasnovana za to.

Načrtujete platforme GPU naslednje-generacije

Če načrt vključuje naslednjo-generacijo strežnikov GPU, višjo gostoto moči v omarah, tekočinsko hlajenje in večje gruče, je 800G močnejša strateška zahteva. Nakup 400G danes je lahko še vedno razumen, vendar mora biti tkanina zasnovana tako, da omogoča prehod na 800G ali več.

Želite zmanjšati dolgoročne-motenje nadgradnje

Postopna strategija 800G zmanjša težave pri prihodnji migraciji. Najprej uvedite stikala, ki podpirajo 800G-, povežite obstoječe omrežne kartice 400G prek prelomnih ali mešanih-hitrosti, nato pa nadgradite strežnike na 800G pozneje. To ščiti trenutno naložbo, medtem ko uprizarja tkanino za naslednjo generacijo.

Kdaj NE izbrati 800G NIC

To je pogosto bolj uporabno vprašanje in izloči večino nakupov, ki so obžalovani. Odložite 800G, če velja kar koli od naslednjega:

• Gostitelj adapterju ne more izpostaviti celotne poti PCIe Gen6 razreda x16. Vrata bodo delovala izčrpana in plačali boste za pasovno širino, ki je strežniško vodilo ne more zagotoviti.
• Hrbtenica je predpisana ali še vedno 400G. Hitrejša omrežna kartica ne popravi omejene strukture; samo premakne ozko grlo za en korak stran.
• Delovna obremenitev je vezana na zakasnitev- ali MPI-in ne na pasovno širino-. Dodatna prepustnost ne pomaga opravilom, ki jih določa sinhronizacija ali obnašanje majhnih-sporočil.
• Optike, kablov ali hlajenja za 800G ni mogoče pridobiti in potrditi na vaši časovnici. Nekvalificiran modul, ki loputa pod obremenitvijo, je slabši od počasnejše povezave, ki ostane gor.
• Konkretnega načrta rasti, ki bi danes upravičil premijo, ni.

Če veljata dva ali več od tega, je 400G skoraj zagotovo pravi odgovor za to zgradbo, pri čemer je 800G v rezervi za naslednjo osvežitev.

400G proti 800G NIC za podatkovne centre v oblaku

Tkanine v oblaku redko tečejo povsod z eno hitrostjo. Segmentirajo po prometnem razredu, izbira omrežne kartice pa sledi segmentu in ne podatkovnemu centru kot celoti.

• Sprednji-konec / sever-južni promet:400G je običajno dovolj za ravni-obrnjene k uporabnikom in API-je, kjer je pasovna širina na-tok skromna in prevladuje število povezav.
• Skladiščenje in promet vzhod-zahod:odgovor je odvisen od tega, kako razčlenjena je arhitektura. 400G pokriva večino splošnih skupin; 800G pomaga pri velikih, porazdeljenih shranjevalnih pogonih, ki so prenašali vzhod-zahodno obremenitev.
• Umetna inteligenca:400G je dovolj za številne oblake sklepanja, medtem ko 800G ustreza gosto mešanico--usmerjanja strokovnjakov ali razčlenjene storitve, kjer se žetoni premikajo po številnih vozliščih.
• Več{0}}najemna tkanina:tukaj razmerje prevelikega števila naročnin in izolacija najemnika vplivata na zmogljivost veliko bolj kot najvišja stopnja NIC. Uravnotežena 400G tkanina z močno izolacijo pogosto premaga hitrejšo, a obremenjeno.

Ker oblak vzhod-zahod raste na strukturiranih vlaknih, načrtujte glavne kable poleg NIC; našvodnik za MPO/MTP trank kabliranjezajema poteke z visoko{0}}gostoto. Praviloma uporabite 400G za večino sprednjih-slojev in splošnih ravni oblaka ter rezervirajte 800G za segmente, kjer prevladujejo gosto streženje z umetno inteligenco ali velika vzhodno-zahodna združenja.

Ključni dejavniki izbire poleg hitrosti vrat

Hitrejša omrežna kartica ne zagotavlja hitrejših delovnih obremenitev, razen če je podpira celotna platforma. Pet dejavnikov odloča o tem, ali vrata 800G zagotavljajo ali mirujejo.

Generacija PCIe in pasovna širina gostitelja

NIC doseže gostitelja prek PCIe in ta povezava je trd strop. Vrata s hitrostjo 400 Gb/s potrebujejo približno 50 GB/s na smer, kar lahko prenese reža PCIe Gen5 x16 s približno 63 GB/s, uporabnih na smer. Vrata 800 Gb/s potrebujejo približno 100 GB/s na smer, poleg reže Gen5 x16, zato adapterji 800G na splošno pričakujejospecifikacijo PCIe 6.0 podjetja PCI-SIG(64 GT/s, do 256 GB/s dvosmerno na x16) ali neobičajna zasnova x32. Preden se odločite za 800G, potrdite:

• generacija PCIe
• Število voznih pasov in ožičenje rež
• Umestitev NUMA in pot GPE-do-NIC
• Preverjanje prodajalca-strežnika za adapter
• Podpora za BIOS in strojno programsko opremo

V strežnikih GPE postavitev omrežne kartice glede na CPE in GPE odloča o tem, kako čisto se premikajo podatki. Gen6-omrežna kartica razreda, ki je padla v Gen5 x8 režo, je najpogostejše ozko grlo, ki ga povzroči sam na tem področju.

Switch Fabric in prekomerna naročnina

Hitrost omrežne kartice se mora ujemati s strukturo. 800G adapterji ne naredijo ničesar, če je leaf{1}}hrbtenica preveč naročena ali so navzgornje povezave tanke. Preverite hitrosti vrat in končnih vrat, razmerje prevelike naročnine, število omrežnih tirnic, vzorec vzhod-zahod, zasnovo domene napake- in zahtevano razpolovljeno pasovno širino. Za usposabljanje nižje razmerje prekomerne naročnine običajno naredi več za zmogljivost kot hitrejša omrežna kartica.

RoCE, InfiniBand in Ultra Ethernet

Tkanine AI in HPC se opirajo na RDMA, da zmanjšajo stroške procesorja, protokol pa oblikuje omrežno kartico, stikalo, nadzor prezasedenosti in operacije. Danes NDR InfiniBand deluje pri 400 Gb/s na vrata inXDR InfiniBand doseže 800 Gb/s na vrata, ki se ujema neposredno z nivojema NIC 400G in 800G. Na strani Etherneta je

Specifikacija 1.0 konzorcija Ultra Ethernetdefinira sklad RDMA-preko-Etherneta, ki obsega omrežne kartice, stikala, optiko in kable, ki je neposredno usmerjen v obseg-umetne inteligence in HPC.

Izberite InfiniBand za tesno integrirano strukturo HPC ali AI z nizko-zakasnitvijo, ko vaša ekipa pozna ta ekosistem. Izberite Ethernet ali RoCE za večjo izbiro prodajalcev in integracijo v oblak. Razmislite o Ultra Ethernetu, če želite standardizirano, odprto pot za-visokozmogljiv-ethernet naslednje generacije.

Optika, faktorji oblike in kabli

Pri 400G in 800G je fizična združljivost pomembna enako kot hitrost. Dva modula si lahko delita hitrost, vendar se razlikujeta po faktorju oblike, toplotni zasnovi in ​​zahtevah gostitelja. Preverite OSFP v primerjavi s QSFP112 v primerjavi s QSFP-DD, ploščat-top vs finned-top OSFP, switch-side vs NIC-strani zahteve modula, DAC, AEC, AOC ali optični doseg, podporo za preboj ter kodiranje in vdelano programsko opremo proizvajalca. Ne predvidevajte, da bo OSFP 800G, ki deluje v stikalu, pravilno nameščen in ohlajen v omrežni kartici; veliko stikal in modulov NIC uporablja različne toplotne in mehanske zasnove.

Moč, pretok zraka in toplotna validacija

Komponente 800G porabijo več energije in se segrejejo. Preverite omrežno kartico, optiko, stikalna vrata in pot zračnega toka pod trajno obremenitvijo, ne v prostem teku. Potrdite moč NIC in optičnega-modula, smer zračnega toka in hladilno višino, največjo vstopno temperaturo, gostoto kabla in blokado zračnega toka ter predpostavke glede zračnega- in tekočinskega-hlajenja. Toplotna nestabilnost se kaže kot lopute povezave in naraščajoče stopnje napak, vrsta občasne napake, ki jo je v proizvodnji počasno in drago loviti.

Pogoste napake, ki se jim je treba izogibati

Nakup 800G samo zato, ker je hitrejši

800G ni samodejno boljše. Če delovna obremenitev, strežnik ali splet ne morejo uporabiti pasovne širine, se dodatni stroški ne spremenijo v zmogljivost aplikacije. Povežite vrata z ozkim grlom, ki ga dejansko imate.

Ignoriranje pasovne širine PCIe

NIC lahko premika podatke samo tako hitro, kot to omogoča gostiteljsko vodilo. Preverite generacijo PCIe, število pasov in topologijo strežnika, preden izberete razred hitrosti, ne po prihodu strojne opreme.

Izbira napačnega optičnega modula

Pri teh stopnjah sta faktor oblike modula in toplotna zasnova kritična. Napačna različica OSFP morda ne ustreza dani kletki ali pa se prilega, vendar se pod trajnim prometom pregreje, kar povzroči napake, ki so videti kot težava s strukturo.

Pozabite na kabelski doseg

DAC, AEC, AOC, večmodna optika in eno-modna optika služijo različnim razponom razdalje, različni razredi vlaken pa prenašajo različne razdalje; našrazčlenitev meja dosega OM1 do OM5prikazuje, kje je posamezna ocena najvišja. Izbira napačne medsebojne povezave poveča zakasnitev, stroške ali predelavo.

Obravnava NIC, stikal in optike kot ločenih nakupov

Naročite adapter, stikalo, optiko in kable kot en potrjen seznam materiala. Neusklajenost, odkrita po uvedbi, pomeni vrata, ki se povezujejo, vendar lopute, ali strojno opremo, ki jo je treba vrniti sredi -izdelave, kar je veliko bolj moteče, kot če bi jo ujeli med kvalifikacijo.

Končno priporočilo

Izberite 400G NIC za preverjen, stroškovno-učinkovit adapter, ki ustreza današnjim AI, HPC, shranjevanju in spletom v oblaku. Je praktična izbira za večino obstoječih gruč GPE in mešanih-generacijskih sob. Izberite 800G NIC, ko gostota pasovne širine, -komunikacija GPU velikega obsega in pripravljenost na nadgradnjo odtehtajo vnaprejšnje stroške in ko je celotna pot zgrajena za to.

Odločitev ni nikoli samo v hitrosti. Ali lahko vaši strežniki, stikala, optika, kabli, napajanje in hlajenje spremenijo to hitrost v zmogljivost aplikacije. Disciplina, ki varuje proračun, je preprosta: potrdite NIC, stikalo, optiko in kable kot en sistem, preden oddate naročilo.