Martin7 napísal: ↑Ut 02 08, 2022 11:27 pm
edit: Juggler, kľudne sem daj to k tomu ARM-u Amazonu.
OK. Napíš svoj stručný názor. Ja som v podstate ani nevedel, že AMD a Intelu konkuruje (resp.berie trh ) aj Amazon.
Dávam to v SK preklade, lebo nejde o free obsah.
___________________________________________________
Amazon: Graviton3 I
Júl 27, 2022
Zhrnutie
Hoci s miernym oneskorením, Graviton3 dorazil do spoločnosti Amazon.
Jeho výkonnostné nároky sa zdajú byť v súlade s očakávaniami.
To znamená, že Graviton3 je opäť mimoriadne konkurencieschopný.
Pozrime sa, aké postrehy môžeme urobiť o tomto novom kroku spoločnosti Amazon pri nasadzovaní vlastného ,,siliconu,,.
Po prvé, nezabudnite, že spoločnosť Amazon už predtým výrazne rozširovala pokrytie služieb na inštanciách Graviton2. Graviton2 bol už sám o sebe dosť konkurencieschopný. Očakával som však veľký výkonnostný skok v prípade Gravitonu3, keďže by bol založený na 2-generačnom kroku ARM IP oproti Gravitonu2.
Treba si tiež uvedomiť, že celá táto analýza je z pohľadu používateľa cloudu (kupujúceho cloudové služby od Amazonu). Graviton3 nie je dostupný mimo AWS spoločnosti Amazon, hoci existujúci nám dáva predstavu o tom, čo by sa mohlo stať v súvislosti s inými serverovými procesormi tretích strán, ktoré používajú ekvivalentnú IP architektúru ARM.
Dôvod na optimizmus
Spoločnosť ARM pri predstavení svojho IP Neoverse V1, na ktorom je Graviton3 založený, tvrdila, že výkon vzrastie až o 48 %. To bolo v súlade s mojimi vlastnými predpoveďami.
Spoločnosť ARM tiež ukázala, aký výkon očakáva od svojej nadchádzajúcej IP a aké výzvy bude riešiť:
Opäť by som mal zdôrazniť, podobne ako v článku o Gravitone2, že existuje niečo, čo masívne zvýhodňuje cloudové ponuky založené na ARM:
Amazon, podobne ako iní poskytovatelia cloudových služieb, stanovuje ceny za virtuálne jadro. Virtuálne jadro v inštancii ARM je fyzické jadro. Virtuálne jadro v inštancii x86 je vlákno vo viacvláknovom jadre (na jedno fyzické jadro pripadajú dve vlákna).
Z tohto dôvodu bude mať inštancia x86 vždy tendenciu dosahovať nižší výkon ako inštancia ARM, pokiaľ druhé vlákno nie je náhodou zaneprázdnené. Hyperthreading môže za optimálnych okolností zvýšiť výkon jadra o 35 - 50 % pri spracovaní 2 vlákien (v porovnaní s rovnakými 2 vláknami na jadre s vypnutým hyperthreadingom). Preto by fyzické jadro ARM, aj keby malo len 75 % jednovláknového výkonu jadra x86, už malo tendenciu vyrovnať sa výkonu zaťaženého jadra x86.
To už platilo pre Graviton2 založený na jadre ARM Neoverse N1. Samozrejme, spoločnosti Intel (INTC) a AMD (AMD) nezaháľali a nové inštancie založené na jadrách Intel a AMD opäť vyvíjali tlak na Graviton2 z hľadiska výkonu. Preto bolo pre nás o to dôležitejšie zistiť, ako bude Graviton3 reagovať. Mohli sme však byť optimistickí, pretože sľubovaný výkonnostný skok bol pomerne veľký.
Výkonnostný skok
Spoločnosť Amazon vo svojej tlačovej správe, v ktorej oznamuje komerčnú dostupnosť inštancií poháňaných Gravitonom3, uvádza niekoľko tvrdení o náraste výkonu:
Nové inštancie C7g poháňané novou generáciou procesorov AWS Graviton3 poskytujú až o 25 % vyšší výkon pre výpočtovo náročné aplikácie v porovnaní so súčasnou generáciou inštancií C6g
V porovnaní s predchádzajúcou generáciou procesorov AWS Graviton2 poskytujú procesory AWS Graviton3 až 2-násobne vyšší výkon pre kryptografické pracovné zaťaženia
Až 3× vyšší výkon pre odvodzovanie strojového učenia
Takmer 2x vyšší výkon s pohyblivou desatinnou čiarkou pre vedecké úlohy, strojové učenie a kódovanie médií.
Procesory AWS Graviton3 sú tiež energeticky efektívnejšie, spotrebujú až o 60 % menej energie pri rovnakom výkone ako porovnateľné inštancie EC2.
Inštancie C7g sú ako prvé v cloude vybavené najnovšou pamäťou DDR5, ktorá poskytuje o 50 % vyššiu šírku pamäťového pásma ako inštancie založené na AWS Graviton2, čím sa zvyšuje výkon vedeckých aplikácií náročných na pamäť, ako sú napríklad výpočtová dynamika tekutín, geovedecké simulácie a spracovanie seizmických údajov.
Inštancie C7g poskytujú aj o 20 % vyššiu šírku pásma siete ako inštancie C6g pre aplikácie náročné na sieť, ako je vyrovnávanie záťaže siete a analýza údajov.
Všeobecne som očakával 50-80% nárast výkonu. 50 % pri zachovaní rovnakej frekvenčnej úrovne (optimalizácia účinnosti) alebo 80 % pri využití celého frekvenčného priestoru. Spoločnosť Amazon sa zjavne rozhodla pre účinnosť, dosť pravdepodobne preto, že nárast výkonu bol dostatočný na optimalizáciu prevádzkových nákladov.
Pri dôkladnom porovnávaní a použití geometrického priemeru mnohých rôznych benchmarkov totiž portál Phoronix.com dospel k zhruba 42 % nárastu výkonu oproti ekvivalentným inštanciám poháňaným Gravitonom2:
Pri výpočte geometrického priemeru zo všetkých hrubých výkonnostných benchmarkov vykonaných na inštanciách Graviton2 aj Graviton3 vyšlo, že inštancia c7g.4xlarge je približne o 42 % rýchlejšia ako inštancia typu c6g.4xlarge.
Zdá sa teda, že Graviton3 je na mieste. Tento evolučný krok spoločnosti Amazon s vlastným kremíkom nesklamal.
Moje predchádzajúce (už staré) porovnanie Gravitonu2 s riešeniami poháňanými Intelom a AMD však vychádzalo zo staršej serverovej technológie. Nakoľko je teda Graviton3 konkurencieschopný v porovnaní so súčasnými výkonnejšími riešeniami Intel a AMD, ktoré sú k dispozícii v spoločnosti Amazon?
Aj na to nám poskytlo odpoveď porovnávacie cvičenie Phoronixu, ktorý niekoľko dní po porovnaní Gravitonu3 s predchádzajúcim Gravitonom2 urobil aj nové cvičenie. V tomto novom cvičení Phoronix postavil Graviton3 proti ekvivalentným inštanciám Amazon x86:
c6a.4xlarge - inštancia typu AMD EPYC 7003 "Milan" poháňaná procesorom AMD EPYC 7R13. Cena inštancie c6a.4xlarge na požiadanie bola 0,612 USD za hodinu.
c6i.4xlarge - Typ inštancie Intel Xeon Scalable "Ice Lake" využívajúci procesor Xeon Platinum 8375C. Typ c6i.4xlarge používal procesor Xeon Platinum 8375C. Cena typu inštancie c6i.4xlarge bola na požiadanie 0,68 USD za hodinu.
To znamená, že ide o priamo porovnateľné inštancie, najmodernejšie dostupné, s tou, ktorá používa Graviton3:
c7g.4xlarge - Nový typ inštancie Graviton3 s jadrami Neoverse-V1. Cena c7g.4xlarge na požiadanie je v súčasnosti 0,58 USD za hodinu.
Už môžeme vidieť aj rozdielne ceny, pričom inštancie Graviton3 majú 15 % zľavu oproti inštanciám Intel a 5 % zľavu oproti inštanciám AMD.
Čo teda Phoronix pri porovnávaní týchto inštancií pozoroval? Zistila, že:
Najčastejšie boli najvýkonnejšie inštancie Graviton3. Takže takmer v polovici všetkých rôznych benchmarkov, hoci by inštancia Graviton3 bola lacnejšia, bola by aj výkonnejšia.
Pomocou geometrického priemeru všetkých testov bol Gravitor3 tiež najrýchlejší. Za zmienku stojí predchádzajúci záver, ktorý je dôležitejší - sprostredkúva, že pri viacerých rôznych typoch úloh bude najlepšou voľbou inštancia Graviton3. Toto druhé zistenie je viac ovplyvnené odľahlými hodnotami (keď Intel vyhrá, často vyhrá s veľkým náskokom - napríklad pri použití AVX512).
Najdôležitejšie je, že ide o pozorovania týkajúce sa samotného výkonu. Keďže inštancie Graviton3 sú lacnejšie až oveľa lacnejšie ako inštancie x86, je možné, že by bolo žiaduce používať Graviton3 aj pri miernom výkonnostnom deficite.
Záver
Graviton3 opäť stavia vlastné inštancie poháňané architektúrou ARM pred ponuku x86 spoločnosti Amazon. Stalo sa tak aj napriek tomu, že Amazon zrejme namiesto priameho výkonu zvolil kompromis v oblasti efektivity (rovnako ako v prípade Gravitonu2).
Amazon hovorí o 60 % nižšej spotrebe energie pri porovnateľnom výkone ako predtým. Nuž, pre Amazon je to dobré, ale pre niekoho, kto si prenajíma inštancie Graviton3, je, samozrejme, dôležitá len skutočná cena. Každopádne cena zostáva nižšia ako pri inštanciách x86, takže môžeme usúdiť, že Amazon aspoň časť úspory energie prenáša aj pri oveľa vyššom výkone.
Je pravdepodobné, že ak Graviton3 bude naďalej získavať podiel v rámci pracovných záťaží Amazonu a ekvivalentné ponuky urobia to isté v spoločnostiach Google (GOOGL) (GOOG), Microsoft (MSFT) a ďalších exaskalátoroch, bude to mať za následok nižší dopyt po serverových čipoch Intel a AMD. Je to súčasť pretrvávajúceho rizika pre spoločnosti Intel a AMD.
Spoločnosti Amazon vlastníctvo Gravitonu3 nielenže umožňuje potenciálne nasadiť lacnejšie a výkonnejšie riešenie, ale umožňuje jej odviazať vlastnú ekonomiku cloudu od ekonomiky vyplývajúcej z jednoduchého nákupu hardvéru od spoločností Intel a AMD ako všetci ostatní. Okrem toho mu Graviton3 umožňuje lepšie vyjednávať pri priamom rokovaní s Intelom a AMD, čím potenciálne znižuje investičné náklady na dané množstvo výpočtovej techniky od týchto poskytovateľov. To je tiež výhoda oproti iným poskytovateľom cloudových služieb, ktorí zatiaľ nemajú ekvivalent Graviton3.
Napokon sa však zdá, že Intel aj AMD sú blízko k tomu, aby predstavili novú generáciu čipov pre serverovňu. Intel so Sapphire Rapids a AMD so svojím radom procesorov Genoa EPYC založeným na Zen 4.
Zdá sa, že Sapphire Rapids od Intelu prinesie veľký nárast jednovláknového výkonu, čo by na porovnaniach, ktoré sme práve videli, vyzeralo dobre. AMD Genoa by zažiarila hlavne na počte jadier, zatiaľ čo jej nárast IPC vyzerá obmedzene (a teda by úplne nevyliečila deficit, ktorý sme videli u Gravitonu3).
Treba poznamenať, že inštancie AMD začínajú byť kvôli veľkým výhodám v počte jadier o dosť lacnejšie ako inštancie Intelu. AMD Genoa by mohla priblížiť ceny inštancií poháňaných AMD k cenám Graviton3, čo by mohlo viesť Amazon k zlacneniu inštancií Graviton3.
V každom prípade je Graviton3 ďalším krokom k problémom pre Intel a AMD v serverovni. Treba si tiež všimnúť, že Graviton3 je opäť založený na už 2 generácie starej technológii ARM. Čoskoro by sme sa mali dočkať oznámenia ARM pre ďalší krok v oblasti jadier serverovej triedy. Napriek tomu ARM v poslednom čase trochu poľavil v náraste výkonu.