Stiahnutie ovládačov:Prihlásenie na hypertextový odkaz je viditeľné.
CUDA Toolkit:Prihlásenie na hypertextový odkaz je viditeľné.
cuDNN:Prihlásenie na hypertextový odkaz je viditeľné.
Čo je GPU?
Koncept GPU navrhla spoločnosť Nvidia v roku 1999. GPU je čip na grafickej karte, rovnako ako CPU je čip na základnej doske. Takže pred rokom 1999 neboli na grafických kartách žiadne GPU? Samozrejme, existovala, ale vtedy ju nikto nepomenoval, nepritiahla dostatočnú pozornosť ľudí a jej vývoj bol relatívne pomalý.
Od chvíle, keď Nvidia navrhla koncept GPU, GPU vstúpili do obdobia rýchleho vývoja. Stručne povedané, prešiel nasledujúcimi fázami vývoja:
1. Iba pre grafické vykresľovanie, táto funkcia je pôvodným zámerom GPU, čo je vidieť už z jej názvu: Graphic Processing Unit;
2. Neskôr sa zistilo, že je príliš plytvavé, aby sa také výkonné zariadenie ako GPU používalo iba na spracovanie grafiky, a malo by sa používať na viac práce, napríklad na operácie s pohyblivou desatinnou čiarkou. Ako to urobiť? Priame poskytovanie operácií s pohyblivou desatinnou čiarkou GPU nie je možné, pretože sa v tom čase dá použiť iba na spracovanie grafiky. Najjednoduchšie je spracovať operácie s pohyblivou desatinnou čiarkou, zabaliť ich do úloh grafického renderovania a potom ich odovzdať GPU. Toto je koncept GPGPU (General Purpose GPU). Je tu však nevýhoda, že musíte mať nejaké znalosti grafiky, inak nebudete vedieť, ako baliť.
3. Preto, aby ľudia, ktorí nerozumejú grafike, mohli zažiť silu GPU výpočtov, Nvidia navrhla koncept CUDA.
Čo je CUDA?
CUDA (ComputeUnified Device Architecture) je výpočtová platforma spustená výrobcom grafických kariet NVIDIA. CUDA je univerzálna paralelná výpočtová architektúra, ktorú spustila spoločnosť NVIDIA. Obsahuje architektúru inštrukčnej sady CUDA a paralelný výpočtový engine vo vnútri GPU. CUDA programy môžete vyvíjať pomocou jazyka CUDA C podobného jazyku C, čo uľahčuje využívanie výkonného výkonu GPU, namiesto toho, aby ste výpočtovú úlohu balili do grafického renderovania a potom ju odovzdali GPU na spracovanie.
Inými slovami, CUDA je paralelný výpočtový rámec spustený spoločnosťou NVIDIA pre jej vlastné GPU, čo znamená, že CUDA môže bežať iba na GPU NVIDIA a môže plniť úlohu CUDA len vtedy, keď je riešením výpočtový problém to, že sa dá vypočítať vo veľkom počte paralelných výpočtov.
Všimnite si, že nie všetky GPU podporujú CUDA.
Čo je CUDNN?
NVIDIA cuDNN je GPU-akcelerovaná knižnica pre hlboké neurónové siete. Kladie dôraz na výkon, jednoduchosť používania a nízku pamäťovú záťaž. NVIDIA cuDNN môže byť integrovaná do vyšších frameworkov strojového učenia, ako je Tensorflow od Google, populárny softvér pre kávu na UC Berkeley. Jednoduchý návrh plug-inu umožňuje vývojárom sústrediť sa na navrhovanie a implementáciu modelov neurónových sietí namiesto len ladenia výkonu, pričom zároveň umožňuje vysokovýkonné moderné paralelné výpočty na GPU.
Ak chcete trénovať model pomocou GPU, cuDNN nie je povinný, ale vo všeobecnosti sa používa ako akceleračná knižnica.
Aký je vzťah medzi CUDA a CUDNN?
CUDA je vnímaná ako pracovný stôl s množstvom nástrojov, ako sú kladivá, skrutkovače a podobne. cuDNN je knižnica založená na hlbokom učení založená na CUDA, akcelerovaná GPU, s ktorou je možné vykonávať výpočty hlbokého učenia na GPU. Je ekvivalentný nástroju na prácu, napríklad je to kľúč. Ale keď bol pracovný stôl CUDA kúpený, neposkytol kľúč. Ak chcete spustiť hlbokú neurónovú sieť na CUDA, musíte nainštalovať cuDNN, rovnako ako chcete skrutkovať maticu a kúpiť kľúč späť. To umožňuje GPU pracovať s hlbokými neurónovými sieťami, čo je oveľa rýchlejšie ako CPU.
|
Zverejnené 14. 11. 2024 13:19:15
|
|
|
|
Prenajímateľ|
Zverejnené 5. 2. 2025 11:01:16
|
