Завантаження драйвера:Вхід за гіперпосиланням видно.
Набір інструментів CUDA:Вхід за гіперпосиланням видно.
cuDNN:Вхід за гіперпосиланням видно.
Що таке GPU?
Концепцію GPU запропонувала компанія Nvidia у 1999 році. GPU — це чіп на відеокарті, так само як процесор — це чіп на материнській платі. Отже, до 1999 року на відеокартах не було GPU? Звісно, вона була, але тоді ніхто не називав її, і вона не привертала достатньо уваги, а її розвиток був відносно повільним.
Відтоді як Nvidia запропонувала концепцію GPU, GPU увійшли у період швидкого розвитку. Коротко кажучи, вона пройшла такі етапи розвитку:
1. Лише для графічного рендерингу ця функція є початковим призначенням GPU, що видно з назви: Графічний процесорний блок;
2. Пізніше було виявлено, що надто марнотратно, щоб такий потужний пристрій, як GPU, використовувався лише для обробки графіки, і його слід використовувати для більшої кількості роботи, наприклад, для операцій з плаваючою комою. Як це зробити? Передача операцій з плаваючою комою безпосередньо на GPU неможлива, оскільки вона може використовуватися лише для обробки графіки (на той час). Найпростіше — це обробити операції з плаваючою комою, упакувати їх у завдання рендерингу графіки, а потім передати GPU. Це концепція GPGPU (GPU загального призначення). Однак є й недолік: вам потрібно мати певні знання графіки, інакше ви не будете знати, як пакувати речі.
3. Тому, щоб дозволити людям, які не розуміються на графікі, відчути потужність GPU-обчислень, Nvidia запропонувала концепцію CUDA.
Що таке CUDA?
CUDA (ComputeUnified Device Architecture) — це обчислювальна платформа, запущена виробником відеокарт NVIDIA. CUDA — це універсальна архітектура паралельних обчислень, запущена компанією NVIDIA. Він містить архітектуру набору інструкцій CUDA та паралельний обчислювальний рушій всередині GPU. Ви можете розробляти програми CUDA, використовуючи мову CUDA C, подібну до мови C, що полегшує використання потужної обчислювальної потужності GPU, замість того, щоб пакувати обчислювальне завдання у завдання рендерингу графіки, а потім передавати його GPU для обробки.
Інакше кажучи, CUDA — це паралельна обчислювальна система, запущена NVIDIA для власних GPU, тобто CUDA може працювати лише на GPU NVIDIA і може виконувати роль CUDA лише тоді, коли обчислювальна задача, яку потрібно розв'язати, полягає у великій кількості паралельних обчислень.
Зверніть увагу, що не всі відеокарти підтримують CUDA.
Що таке CUDNN?
NVIDIA cuDNN — це GPU-прискорена бібліотека для глибоких нейронних мереж. Він робить акцент на продуктивності, простоті використання та низьких витратах на пам'ять. NVIDIA cuDNN можна інтегрувати у більш високорівневі фреймворки машинного навчання, такі як Tensorflow від Google — популярне програмне забезпечення для caffe від UC Berkeley. Простий дизайн плагінів дозволяє розробникам зосередитися на проєктуванні та реалізації моделей нейронних мереж, а не просто на налаштуванні продуктивності, а також забезпечувати високопродуктивні сучасні паралельні обчислення на GPU.
Якщо ви хочете навчити модель за допомогою GPU, cuDNN не є обов'язковим, але зазвичай використовується як бібліотека прискорення.
Який зв'язок між CUDA і CUDNN?
CUDA розглядається як верстак із багатьма інструментами, такими як молотки, викрутки тощо. cuDNN — це бібліотека на основі CUDA з прискореним GPU, за допомогою якої можна виконувати розрахунки глибокого навчання на GPU. Він еквівалентний інструменту для роботи, наприклад, це ключ. Але коли верстак CUDA купували, він не давав гайкового ключа. Щоб запустити глибоку нейронну мережу на CUDA, потрібно встановити cuDNN, так само, як ви хочете прикрутити гайку і купити ключ назад. Це дозволяє GPU працювати на глибоких нейронних мережах, які значно швидші, ніж у процесорів.
|
Опубліковано 14.11.2024 13:19:15
|
|
|
|
Орендодавець|
Опубліковано 05.02.2025 11:01:16
|
