CloudSigma GPU ako služba

CloudSigma umožňuje zákazníkom pridávať GPU do svojich virtuálnych strojov a využívať vysoko výkonné, nákladovo efektívne výpočty, ktoré dokážu zvládnuť aj tie najnáročnejšie pracovné zaťaženia. Srdcom ponuky GPU spoločnosti CloudSigma je NVIDIA A100 Tensor Core GPU optimalizovaná pre HPC, AI a dátovú analytiku. A100 prekonáva NVIDIA TESLA V100 a má nové funkcie, ktoré môžu aplikácie AI plne využiť. Zákazníkom umožňujeme jednoducho vytvárať optimalizované VM s NVIDIA A100 v režime passthrough, takže inštancie VM majú priamu kontrolu nad GPU a ich vstavanou pamäťou.

Prípady použitia

Rast výpočtovo náročných aplikácií bežiacich v cloude viedol k nedávnemu rozmachu cloudových výpočtov akcelerovaných pomocou GPU. Tieto aplikácie zahŕňajú trénovanie a inferenciu hlbokého učenia AI, dátovú analytiku, vedecké výpočty, genomiku, vykresľovanie grafiky a hranie hier, aby sme menovali aspoň niektoré. Od škálovania trénovania AI a vedeckých výpočtov až po horizontálne škálovanie inferenčných aplikácií a umožnenie konverzačnej AI v reálnom čase, GPU poskytujú potrebný výkon na akceleráciu mnohých komplexných a nepredvídateľných pracovných zaťažení bežiacich v cloude.

NVIDIA A100 Tensor Core GPU predstavuje obrovský skok vpred a prináša bezprecedentnú akceleráciu pre AI, dátovú analytiku a HPC v akomkoľvek rozsahu. Poháňaná architektúrou NVIDIA Ampere, A100 poskytuje až 20-násobne vyšší výkon ako predchádzajúca generácia. CloudSigma sprístupňuje verziu s 80 GB pamäťou, ktorá ponúka najrýchlejšiu šírku pásma na svete s rýchlosťou viac ako 2 terabajty za sekundu (TB/s) na spúšťanie najväčších modelov a dátových sád.

GPU od spoločnosti NVIDIA patria medzi popredné výpočtové motory poháňajúce AI tým, že poskytujú výrazné zrýchlenie pre trénovanie AI a inferenčné zaťaženia. Okrem toho GPU NVIDIA akcelerujú mnohé typy HPC a dátovo-analytických aplikácií a systémov, čím premieňajú dáta na poznatky.

AI a HPC
Trénujte zložité modely strojového učenia rýchlejšie a efektívnejšie vďaka akcelerácii GPU. Zvládnite úlohy náročné na dáta a dosiahnite prelomové objavy v inováciách poháňaných AI.NVIDIA AI Enterprise je komplexný, cloud-native balík softvéru pre AI a dátovú analytiku, optimalizovaný tak, aby umožnil akejkoľvek organizácii využívať AI. Je certifikovaný na nasadenie vo verejnom cloude a zahŕňa globálnu podnikovu podporu, ktorá udržiava projekty AI na správnej ceste. A100 umožňuje výskumníkom rýchlo prinášať reálne výsledky a nasadzovať riešenia do produkcie vo veľkom meradle.

TRÉNOVANIE HLBOKÉHO UČENIA
Trénovanie modelov AI si vyžaduje masívny výpočtový výkon a škálovateľnosť. Jadrá NVIDIA A100 Tensor s technológiou Tensor Float (TF32) poskytujú až 20-násobne vyšší výkon v porovnaní s NVIDIA Volta s nulovými zmenami v kóde a dodatočné 2-násobné zvýšenie s automatickou zmiešanou presnosťou a FP16.

Tréningové zaťaženie ako BERT dokáže 2 048 GPU A100 vyriešiť vo veľkom meradle za menej ako minútu, čo je svetový rekord v čase potrebnom na vyriešenie.

Pre najväčšie modely s masívnymi dátovými tabuľkami, ako sú odporúčacie modely hlbokého učenia (DLRM), A100 80GB dosahuje až 1,3 TB zjednotenej pamäte na uzol a poskytuje až 3-násobné zvýšenie priepustnosti v porovnaní s A100 40GB.

Líderstvo spoločnosti NVIDIA v MLPerf, ktoré stanovilo viacero výkonnostných rekordov v celoodvetvovom benchmarku pre trénovanie AI.

INFERENCIA HLBOKÉHO UČENIA
A100 prináša prelomové funkcie na optimalizáciu inferenčných zaťažení. Akceleruje celú škálu presnosti od FP32 po INT4. Technológia Multi-Instance GPU (MIG) umožňuje súčasný chod viacerých sietí na jedinej A100 pre optimálne využitie výpočtových zdrojov. A podpora štrukturálnej riedkosti prináša až 2-násobne vyšší výkon nad rámec ostatných nárastov inferenčného výkonu A100.

Pri najmodernejších modeloch konverzačnej AI, ako je BERT, A100 zrýchľuje priepustnosť inferencie až 249-násobne v porovnaní s CPU.

Pri najzložitejších modeloch, ktoré sú obmedzené veľkosťou dávky, ako je RNN-T pre automatické rozpoznávanie reči, zvýšená kapacita pamäte A100 80GB zdvojnásobuje veľkosť každej inštancie MIG a poskytuje až 1,25-násobne vyššiu priepustnosť v porovnaní s A100 40GB.

Trhovo vedúci výkon spoločnosti NVIDIA bol preukázaný v MLPerf Inference. A100 prináša 20-násobne vyšší výkon, čím toto prvenstvo ešte viac upevňuje.

VYSOKOVÝKONNÉ VÝPOČTY
Na odomknutie objavov novej generácie sa vedci spoliehajú na simulácie, aby lepšie porozumeli svetu okolo nás.

NVIDIA A100 predstavuje Tensor Cores s dvojitou presnosťou, ktoré prinášajú najväčší skok vo výkone HPC od uvedenia GPU. S 80GB najrýchlejšej pamäte GPU môžu výskumníci skrátiť 10-hodinovú simuláciu s dvojitou presnosťou na menej ako štyri hodiny na A100. HPC aplikácie môžu využiť TF32 na dosiahnutie až 11-násobne vyššej priepustnosti pri operáciách násobenia hustých matíc s jednou presnosťou.

Pre HPC aplikácie s najväčšími súbormi dát prináša dodatočná pamäť A100 80GB až 2-násobné zvýšenie priepustnosti s programom Quantum Espresso, ktorý slúži na simuláciu materiálov. Táto masívna pamäť a bezprecedentná šírka pásma pamäte robia z A100 80GB ideálnu platformu pre pracovné zaťaženia novej generácie.

VYSOKOVÝKONNÁ DÁTOVÁ ANALYTIKA
Dátoví vedci musia byť schopní analyzovať, vizualizovať a premieňať masívne súbory dát na poznatky. Avšak scale-out riešenia sú často brzdené dátovými sadami rozptýlenými na viacerých serveroch.

Akcelerované servery s A100 poskytujú potrebný výpočtový výkon — masívnu pamäť, šírku pásma pamäte viac ako 2 TB/s a škálovateľnosť s technológiami NVIDIA® NVLink® a NVSwitch™ — na zvládnutie týchto pracovných zaťažení. V kombinácii s InfiniBand, NVIDIA Magnum IO™ a sadou open-source knižníc RAPIDS™, vrátane RAPIDS Accelerator pre Apache Spark pre GPU-akcelerovanú dátovú analytiku, platforma dátových centier NVIDIA akceleruje tieto obrovské pracovné zaťaženia na bezprecedentnú úroveň výkonu a efektivity.

V benchmarku analýzy veľkých dát (big data) priniesol A100 80GB výsledky s 2-násobným nárastom oproti A100 40GB, vďaka čomu je ideálne prispôsobený pre vznikajúce pracovné zaťaženia s rapídne rastúcim objemom dát.

VEDECKÉ SIMULÁCIE: Urýchlite vedecký výskum a simulácie, čo umožní rýchlejšie získavanie poznatkov a objavov vo fyzike, chémii a vede o životnom prostredí.

MÉDIÁ A ZÁBAVA: Renderujte grafiku vo vysokom rozlíšení, videá a animácie bleskovou rýchlosťou. Poskytnite svojmu publiku výnimočné vizuálne zážitky bez kompromisov v kvalite.

FINANČNÉ MODELOVANIE: Analyzujte rozsiahle súbory dát a vykonávajte komplexné finančné modelovanie s bezkonkurenčnou rýchlosťou, čo poskytuje kľúčové poznatky pre informované rozhodovanie.