Mobiln├ę Spr├ívy, Gadgety, Blogy's Secenziami

AmazonGraviton2 proti AMD a Intel: Arm-based Graviton2: Porovnanie cloud computingu

U┼ż je to rok a pol Amazon vydali svoje procesorov├ę jadro Graviton Arm prvej gener├ície, ktor├ę je verejne dostupn├ę v AWS EC2 ako takzvan├ę pr├şpady A1. Aj ke─Ć procesor na jeho v├Żkon pr├şli┼í nezaujal, bol to sign├íl a prv├Ż krok toho, ─Źo m├í pr├şs┼ą v najbli┼ż┼í├şch rokoch.

Tento rok, Amazon zdvojn├ísobuje svoje ├║silie v oblasti krem├şka, ke─Ć ohl├ísil nov├Ż procesor Graviton2 v decembri minul├ęho roku a pl├ínuje dostupnos┼ą EC2 verejnosti v najbli┼ż┼í├şch mesiacoch. Najnov┼íia gener├ícia zaviedla nov├║ mikroarchitekt├║ru Neoverse N1 CPU a sie┼ąov├ę prepojenie, kombinovan├║ platformu orientovan├║ na infra┼ítrukt├║ru, ktor├║ sme podrobne uviedli pred viac ako rokom. T├íto platforma je obrovsk├Żm skokom v porovnan├ş s predch├ídzaj├║cimi pokusmi o server Arm Amazon sa nezameriava iba na ved├║ce konkuren─Źn├ę postavenie.

Amazon├Üsilie v oblasti navrhovania vlastn├Żch SoC pre cloudov├ę slu┼żby sa za─Źalo v roku 2015, ke─Ć spolo─Źnos┼ą z├şskala laborat├│rium Annapurna Labs zalo┼żen├ę na Isareli. Annapurna predt├Żm pracovala na Arm SoC zameran├Żch na vytv├íranie siet├ş, ktor├ę sa v├Ą─Ź┼íinou pou┼ż├şvaj├║ v produktoch, ako s├║ zariadenia NAS. pod Amazon, t├şm bol poveren├Ż vytvoren├şm vlastn├ęho ─Źipu triedy servera Arm a nov├Ż Graviton2 je prv├Żm v├í┼żnym pokusom o naru┼íenie priestoru.

AmazonGraviton2 proti AMD a Intel: Arm-based Graviton2: Porovnanie cloud computingu 1

─îo je to Graviton2? Jedn├í sa o 64-jadrov├Ż monolitick├Ż serverov├Ż ─Źip, ktor├Ż vyu┼ż├şva nov├ę jadr├í Arm Neoverse N1 od Arm (mikroarchitekt├║rne deriv├íty mobiln├Żch jadier Cortex-A76), ako aj sie┼ąov├ę prepojenie Arm CMN-600. Je to celkom jednoduch├Ż n├ívrh, ktor├Ż je v podstate takmer toto┼żn├Ż so 64-jadrovou referen─Źnou platformou N1 spolo─Źnosti Arm, ktor├║ spolo─Źnos┼ą predstavila pred rokom. Amazon trochu sa odklonilo, napr├şklad procesorov├ę jadr├í Graviton2 s├║ taktovan├ę o nie─Źo ni┼ż┼íie 20,5 GHz a zahrnutie iba 32 MB namiesto 64 MB vyrovn├ívacej pam├Ąte L3 do prepojenia siete. Syst├ęm je podporovan├Ż 8-Kan├ílov├ę pam├Ą┼ąov├ę radi─Źe DDR-3200 a SoC podporuje 64 PCIe4 dr├íh pre I / O. Je to implement├ícia dizajnu relat├şvne u─Źebnice pre platformu N1, ktor├í sa vyr├íba v procesnom uzle 7nm TSMC.

AmazonGraviton2 proti AMD a Intel: Arm-based Graviton2: Porovnanie cloud computingu 2

Potenci├íl Graviton2 je samozrejme umo┼żnen├Ż nov├Żmi jadrami N1. U┼ż sme videli skvel├Ż v├Żkon Cortex-A76 v minuloro─Źn├Żch mobiln├Żch SoC a o─Źak├íva sa, ┼że mikroarchitekt├║ra N1 prinesie e┼íte lep┼í├ş v├Żkon a funkcie na ├║rovni servera, a to v┼íetko pri zachovan├ş energetickej ├║─Źinnosti, v─Ćaka ktorej je Arm v mobilnom priestore tak ├║spe┼ín├Ż. Jadr├í N1 zost├ívaj├║ pri projektovan├ş ve─żmi chud├ę a efekt├şvne10,4 mm┬▓ pre implement├íciu vyrovn├ívacej pam├Ąte 1MB L2, ako je to na zariaden├ş Graviton2, a vynikaj├║ca energetick├í ├║─Źinnos┼ą pribli┼żne ~ 1 W na jadro na 2Frekvencia .5 GHz, pri ktorej AmazonPr├şde nov├Ż ─Źip.

Celkov├í spotreba energie SoC je nie─Źo tak├ę Amazon nebol pr├şli┼í ochotn├Ż to zverejni┼ą v kontexte n├í┼ího ─Źl├ínku – spolo─Źnos┼ą st├íle dr┼ż├ş niektor├ę aspekty dizajnu bl├şzko hrude, aj ke─Ć sme dok├ízali vysk├║┼ía┼ą nov├║ ─Źipov├║ sadu v cloude. Vzh─żadom na konzervat├şvnej┼íiu taktovaciu frekvenciu ─Źipu sa Armova predpokladan├í hodnota okolo 105 W pre 64-jadro 2Implement├ícia 0,6 GHz a ned├ívne odhalenie ich 80-jadrov├ęho ─Źipov├ęho servera 3GHz N1 spolo─Źnosti Ampere prich├ídzaj├║ceho na 210 W, odhadujeme, ┼że Graviton2 mus├ş pr├şs┼ą okolo kdeko─żvek medzi 80 W ako n├şzky odhad na pribli┼żne 110 W pre pesimistick├║ projekciu.

Testovanie v cloude s EC2

Vzh─żadom na to AmazonGraviton2 je vertik├ílne integrovan├Ż produkt ┼ípeci├ílne navrhnut├Ż pre AmazonM├í zmysel, ┼że nov├║ ─Źipov├║ sadu testujeme v jej ur─Źenom prostred├ş (okrem toho, ┼że nie je k dispoz├şcii in├Żm sp├┤sobom!). Za posledn├Żch p├ír t├Ż┼żd┼łov sme mali pr├şstup k uk├í┼żkam Amazon Webov├ę slu┼żby (AWS) Elastic Compute Cloud (EC2) nov├ę in┼ítancie ÔÇ×m6gÔÇť zalo┼żen├ę na Graviton2.

Pre ─Źitate─żov, ktor├ş nie s├║ obozn├ímen├ş s cloud computingom, to v podstate znamen├í, ┼że sme nasadili virtu├ílne stroje AmazonDatacentr├í, slu┼żba, pre ktor├║ Amazon sa stala sl├ívnou a teraz predstavuje hlavn├Ż podiel na v├Żnosoch spolo─Źnosti, ktor├í poh├í┼ła niektor├ę z najv├Ą─Ź┼í├şch internetov├Żch slu┼żieb na trhu.

D├┤le┼żit├Żm ukazovate─żom ur─Źuj├║cim schopnosti tak├Żchto in┼ítanci├ş je ich typ (v podstate diktuj├║ci architekt├║ru CPU a mikroarchitekt├║ru, ktor├í poh├í┼ła z├íkladn├Ż hardv├ęr) a mo┼żn├Ż podtyp; v AmazonTo sa t├Żka vari├íci├ş platforiem, ktor├ę s├║ navrhnut├ę pre ┼ípeci├ílne pr├şpady pou┼żitia, napr├şklad s lep┼íou v├Żpo─Źtovou schopnos┼ąou alebo s v├Ą─Ź┼íou kapacitou pam├Ąte.

Na dne┼ín├ę testovanie sme mali pr├şstup k in┼ítanci├ím ÔÇ×m6gÔÇť, ktor├ę s├║ ur─Źen├ę na v┼íeobecn├ę pracovn├ę za┼ąa┼żenie. ÔÇ×6ÔÇťV ozna─Źen├ş nomenklat├║ry AmazonHardv├ęr ┼íiestej gener├ície v EC2, pri─Źom Graviton2 je v s├║─Źasnosti jedinou platformou, ktor├í dr┼ż├ş toto ozna─Źenie.

Priepustnos┼ą in┼ítancie je definovan├í v vCPU

Okrem typu in┼ítancie je najd├┤le┼żitej┼íou ─Ćal┼íou metrikou, ktor├í definovala mo┼żnosti in┼ítancie, jej po─Źet vCPU. ÔÇ×Virtu├ílne procesoryÔÇť v podstate znamenaj├║ logick├ę jadr├í CPU dostupn├ę virtu├ílnemu stroju. Amazon pon├║ka pr├şpady od 1 vCPU a┼ż 128, pri─Źom najbe┼żnej┼íie spomedzi najpopul├írnej┼í├şch platforiem prich├ídzaj├║ vo ve─żkostiach 2, 4, 8, 16, 32, 48, 64 a 96.

Graviton2 ako 64-jadrov├í platforma s jedn├Żm socketom bez SMT znamen├í, ┼że maxim├ílna dostupn├í ve─żkos┼ą in┼ítancie vCPU je 64.

─îo to v┼íak tie┼ż znamen├í, je to, ┼że ke─Ć hovor├şme o platform├ích, ktor├ę prich├ídzaj├║ so SMT, sme celkom v k├║te porovn├íva─Źa jab─║k a pomaran─Źov. Ke─Ć hovor├şme o 64 in┼ítanci├ích vCPU (ÔÇ×16-n├ísobokÔÇť v EC2 lingu), znamen├í to, ┼że pre in┼ítanciu Graviton2 dost├ívame 64 fyzick├Żch jadier, zatia─ż ─Źo pre syst├ęmy AMD alebo Intel dostaneme iba 32 fyzick├Żch jadier so SMT. Som si ist├Ż, ┼że bud├║ existova┼ą ─Źitatelia, ktor├ş bud├║ pova┼żova┼ą tak├ęto porovnanie za ÔÇ×nespravodliv├ęÔÇť, je to v┼íak aj poz├şcia, Amazon sa sna┼ż├ş, pokia─ż ide o dodan├║ priepustnos┼ą, a ─Źo je najd├┤le┼żitej┼íie, urobi┼ą rovnocenn├ę ceny medzi r├┤znymi typmi in┼ítanci├ş.

Dne┼ín├í s├║┼ąa┼ż

Dne┼ín├Ż ─Źl├ínok sa zameria na dvoch hlavn├Żch konkurentov Graviton2: in┼ítancie m5a poh├í┼łan├ę AMD EPYC 7571 (Zen1) a m5n na procesoroch Intel Xeon Platinum 8259CL (Cascade Lake). V s├║─Źasnosti s├║ to najsilnej┼íie pr├şklady, ktor├ę s├║ k dispoz├şcii od dvoch etablovan├Żch spolo─Źnost├ş x86, a mali by poskytova┼ą najzauj├şmavej┼íie porovn├ívacie ├║daje.

Je potrebn├ę poznamena┼ą, ┼że by sme boli radi, keby sme do tohto porovnania mohli zahrn├║┼ą pr├şpady AMD EPYC2 v R├şme (c5a / c5ad); Amazon ozn├ímila, ┼że na tak├Żchto nasadeniach pracovali minul├Ż november, ale bohu┼żia─ż, spolo─Źnos┼ą s nami nechcela zdie─ża┼ą pr├şstup k n├íh─żadu. (Jedn├Żm z uveden├Żch d├┤vodov boli pr├şpady typu R v R├şme nie s├║ dobr├ę v porovnan├ş s in┼ítanciou typu M Graviton2. , hoci to naozaj ned├íva ┼żiadny technick├Ż zmysel). Ke─Ć┼że sa tieto pr├şpady bl├ş┼żia k dostupnosti uk├í┼żky, budeme pracova┼ą na samostatnom ─Źl├ínku, ktor├Ż prid├í t├║to d├┤le┼żit├║ ─Źas┼ą h├ídanky konkuren─Źnej krajiny.

Testovan├ę 16-n├ísobn├ę pr├şpady EC2
M6Gm5aM5N
Platforma CPUGraviton2EPYC 7571Xeon Platinum 8259CL
vCPUs64
Cores per Socket643224
(16 okam┼żit├Żch)
SMT2smern├ęho2smern├ęho
Sokety CPU112
frekvencia2.5GHz2,5-2.9GHz2,9-3.2GHz
architekt├║raRameno v8.2x86-64 + AVX2x86-64 + AVX512
╬╝architectureNeoverse N1ZenCascade Lake
L1I Cache64 KB64 KB32 KB
L1D Cache64 KB32 KB32 KB
L2 Cache1 MB.512 KB1 MB.
L3 Cache32 MB zdie─żan├ę8 MB zdie─żan├ę
za 4-core CCX
Zdie─ża sa 35,75 MB
na soket
Pam├Ą┼ąov├ę kan├íly8x DDR4-32008x DDR-2666
(2x na NUMA uzol)
6x DDR4-2933
na soket
Uzly NUMA142
DRAM256GB.
TDPodhaduje
80-110W?
180W210W
na soket
cena$20,644 / hodinu$20,752 za ÔÇőÔÇőhodinu$30,808 / hod

Pri porovnan├ş in┼ítanci├ş Graviton2 m6g s in┼ítanciami AMD m5a a Intel m5n sme zaznamenali nieko─żko rozdielov v hardv├ęrov├Żch mo┼żnostiach, ktor├ę poh├í┼łaj├║ VM. Najzn├ímej┼í├ş rozdiel je op├Ą┼ą v tom, ┼że Graviton2 prich├ídza s po─Źty fyzick├Żch jadier, ktor├ę sa zhoduj├║ s nasaden├Żm ─Ź├şslom vCPU, zatia─ż ─Źo konkurencia po─Ź├şta logick├ę jadr├í SMT ako vCPU.

─Äal┼í├şmi aspektmi, ke─Ć hovor├şme o pr├şpadoch s vy┼í┼í├şm po─Źtom vCPU, je skuto─Źnos┼ą, ┼że m├┤┼żete z├şska┼ą virtu├ílny po─Ź├şta─Ź, ktor├Ż pokr├Żva nieko─żko soketov. Prostredie m5a.16xlarge AMD je st├íle schopn├ę nasadi┼ą VM do jedin├ęho soketu v─Ćaka 32 jadr├ím EPYC 7571, av┼íak syst├ęm Xeon od spolo─Źnosti Intel tu vyu┼ż├şva dve z├ísuvky, preto┼że v s├║─Źasnosti v syst├ęme EC2 nie je nasaden├Ż ┼żiadny hardv├ęr Intel, ktor├Ż by mohol pon├║knu┼ą po┼żadovan├Ż po─Źet vCPU v jeden konektor.

EPYC 7571 aj Xeon Platinum 8259CL s├║ ─Źasti, ktor├ę nie s├║ verejne dostupn├ę alebo dokonca uveden├ę na zozname SKU ktorejko─żvek spolo─Źnosti, tak┼że ide o vlastn├ę diely pre ob─ż├║ben├ę Amazon pre nasadenie d├ítov├ęho centra.

─îas┼ą AMD je 32-jadrov├ę rie┼íenie zalo┼żen├ę na jednotnom sokete Zen1 (aspo┼ł pre 16-n├ísobn├ę pr├şpady v na┼íich testoch) 2,5 GHz v┼íetky jadr├í a┼ż do 20,9 GHz v scen├íroch s ─żahk├Żmi vl├íknami. Zvl├í┼ítnos┼ąou tohto syst├ęmu je to, ┼że je do istej miery obmedzen├ę ┼ítvorp├ísmov├Żm MCM syst├ęmom AMD, ktor├Ż m├í ┼ítyri uzly NUMA (jeden na jeden ─Źip a 2(radi─Ź kan├ílovej pam├Ąte), charakteristika, ktor├í bola eliminovan├í v nov┼í├şch syst├ęmoch zalo┼żen├Żch na EPYC2 Zen2. Nem├íme konkr├ętne potvrdenie ├║dajov, ale m├íme podozrenie, ┼że ide o 180W ─Źas┼ą na z├íklade ─Ź├şsla SKU.

Procesor Intel Xeon Platinum 8259CL je zalo┼żen├Ż na nov┼í├şch jadr├ích CPU Cascade Lake. T├íto konkr├ętna ─Źas┼ą je tie┼ż ┼ípecifick├í pre Amazona pozost├íva z 24 jadier povolen├Żch na soket. Na dosiahnutie po─Źtu 16xlarge 64 vCPU n├ím EC2 poskytuje syst├ęm s dvoma z├ísuvkami so 16 z 24 jadier vytvoren├Żch na ka┼żdej sokete. Op├Ą┼ą nem├íme v tejto veci ┼żiadne potvrdenie, ale tieto ─Źasti by mali by┼ą ohodnoten├ę na 210 W na soket alebo celkom 420 W. Mus├şme si pripomen├║┼ą, ┼że v na┼íom pr├şpade pou┼ż├şvame iba 66% jadier syst├ęmu, hoci m├íme pr├şstup k celej ┼í├şrke p├ísma pam├Ąte a vyrovn├ívacej pam├Ąte syst├ęmu.

Zauj├şmav├í je tu predov┼íetk├Żm konfigur├ícia vyrovn├ívacej pam├Ąte, preto┼że medzi platformami sa veci dos┼ą l├ş┼íia. S├║kromn├ę ÔÇőÔÇővyrovn├ívacie pam├Ąte samotn├Żch CPU s├║ relat├şvne samovysvet─żuj├║ce a Graviton2 tu poskytuje najvy┼í┼íiu kapacitu vyrovn├ívacej pam├Ąte z tria, ale inak sa rovn├í platforme Xeon. Keby sme mali rozdeli┼ą dostupn├║ vyrovn├ívaciu pam├Ą┼ą na vl├íkno, vl├íkno Graviton2 vedie s├║bor na 1.5 MB, pred EPYC 10,25 MB a Xeon 10,05MB Syst├ęmy Graviton2 a Xeon maj├║ v├Żrazn├║ v├Żhodu v tom, ┼że ich medzipam├Ąte poslednej ├║rovne s├║ zdie─żan├ę v celom sokete, zatia─ż ─Źo AMD L3 je zdie─żan├í iba medzi 4-core CCX moduly.

Rozdiely medzi NUMA medzi syst├ęmami nie s├║ tak├ę d├┤le┼żit├ę v paralelnom pracovnom za┼ąa┼żen├ş pri spracovan├ş so skuto─Źn├Żmi viacer├Żmi procesmi, ale bude to ma┼ą vplyv na v├Żkon s viacer├Żmi vl├íknami, ako aj na procesy s jedn├Żm vl├íknom a architekt├║ra zjednotenej pam├Ąte Graviton2 bude ma┼ą d├┤le┼żit├║ v├Żhodu v nieko─żko scen├írov.

Nakoniec je medzi jednotliv├Żmi in┼ítanciami pomerne rozdiel v cen├ích. O $20,46 za hodinu, syst├ęm Graviton2 vynik├í cenou syst├ęmu AMD a je v├Żrazne lacnej┼í├ş ako $3N├íklady na in┼ítanciu zalo┼żen├║ na Xeone 0,80 za hodinu. Aj ke─Ć hovor├şme o cen├ích, mus├şme pam├Ąta┼ą na to, ┼że skuto─Źn├í dodan├í hodnota bude tie┼ż ve─żmi z├ívisie┼ą od v├Żkonu a priepustnosti syst├ęmov, ktor├ę podrobnej┼íie rozoberieme nesk├┤r v ─Źl├ínku.

─Äakujeme Amazon za poskytnutie n├íh─żadu pr├şstupu k in┼ítanci├ím m6g Graviton2. Okrem spr├şstupnenia n├ím Amazon ani ┼żiadna z uveden├Żch spolo─Źnost├ş nemala vplyv na na┼íu metodiku testovania a my sme zaplatili za ─Źas testovania in┼ítancie EC2 sami.