Посібник з встановлення CUDA на Windows

  • Сумісність: Підтримувані версії Windows, відповідні драйвери та правильно налаштовані моделі WDDM/TCC.
  • Гнучка інсталяція: графічний або безшумний інструментарій, Conda та Wheels, з перевіркою за допомогою зразків.
  • Гібридні середовища: підтримка WSL з мінімальним ядром, Docker та фреймворками штучного інтелекту в Linux на Windows.
Daniel Terrasa

8 хвилин

CUDA на Windows

Встановлення CUDA на Windows Це не обов'язково має бути головним болем, якщо ви будете дотримуватися чіткого шляху, перевіреного офіційними посібниками. У цьому практичному та технічному посібнику ми розглянемо все необхідне для точного налаштування набору інструментів, драйверів та інструментів перевірки як у рідній Windows, так і в WSL. Мета полягає в тому, щоб ви отримали робочу та перевірену інсталяцію., готовий пришвидшити ваші робочі процеси на графічному процесорі.

Окрім класичних кроків, ми розглянемо сумісність із Visual Studio, тиху інсталяцію, пакети Conda та диски NVIDIA, перевірку за допомогою прикладів CUDA, особливості WSL та ключові примітки до випуску (такі як видалення драйвера з інсталятора в CUDA 13). Ви також побачите, як діагностувати поширені проблеми. (включаючи реальний випадок з Lenovo Ideapad та драйверами 526.56) та специфічні вимоги для певних сценаріїв, таких як Model Builder з CUDA 10.1 та cuDNN 7.6.4.

Що таке CUDA?

CUDA — це платформа та модель паралельного програмування NVIDIA, яка дозволяє прискорювати роботу ресурсомістких програм на графічному процесорі. З CUDA C/C++ та його розширеннями Ви можете зосередитися на паралелізації алгоритму, поки середовище виконання CUDA керує виконанням та пам'яттю між процесором та графічним процесором. Розділяючи послідовну (процесор) та паралельну (графічний процесор) роботу, Масштабувати продуктивність можна, використовуючи тисячі потоків та спільну вбудовану пам'ять.

Цей посібник зосереджений на тому, як точно налаштувати середовище у Windows (нативне та WSL), встановити Toolkit, скомпілювати приклади та перевірити, чи система правильно розпізнає графічний процесор. Перевірка за допомогою таких зразків, як deviceQuery та bandwidthTest Це критично важливий елемент, який часто ігнорується, і який ми тут безпосередньо розглядаємо.

CUDA

Системні вимоги та підтримувані версії Windows

Для використання CUDA вам потрібна сумісна відеокарта NVIDIA та підтримувана операційна система Windows. Підтримувані версії операційної системи включаютьWindows 11 24H2, 23H2 та 22H2-SV2; Windows 10 22H2; Windows Server 2022 та Windows Server 2025. Перевірте в диспетчері пристроїв, чи відображається ваша відеокарта в розділі "Відеоадаптери", та її сумісність з офіційним списком графічних процесорів із підтримкою CUDA (сторінка NVIDIA).

На рівні компілятора Toolkit підтримує MSVC 193x у Visual Studio 2022 17.x (C++11/14/17/20) та MSVC 192x у Visual Studio 2019 16.x (C++11/14/17). Підтримка Visual Studio 2015 була припинена у версії 11.1.Для VS 2017 його було вилучено з версії 12.5 та видалено з версії 13.0. Зверніть увагу, що 32-бітну компіляцію було видалено, починаючи з CUDA 12.0 (нативна та крос-компіляція); якщо вам потрібна 32-бітна версія, вам доведеться використовувати старіші інструментарії.

Хоча драйвер NVIDIA й надалі дозволятиме запускати 32-розрядні бінарні файли на відеокартах GeForce аж до архітектури Ada, Ада буде останньою з такою підтримкою.Hopper більше не підтримує 32-розрядні програми. Це критично важливо, якщо ви підтримуєте застаріле програмне забезпечення у виробництві та вам потрібно планувати оновлення.

У Windows 10 та пізніших версіях драйвер NVIDIA може працювати за двома моделями: WDDM (для пристроїв відображення) і TCC (Tesla Compute Cluster) для графічних процесорів без відеовиходу, таких як Tesla або деякі моделі Titan. З nvidia-smi Ви можете перевірити поточний режим і, якщо підтримується, перемикатися між ними. На настільних ПК з ігровими відеокартами WDDM буде нормою; на робочих станціях з обчислювальними картами, TCC зазвичай увімкнено за замовчуванням..

Встановлення Toolkit у Windows: крок за кроком

  1. Перевірте, чи у вас є графічний процесор із підтримкою CUDA та підтримувана версія Windows.У диспетчері пристроїв (відеоадаптери) ви можете побачити виробника та модель.
  2. Завантажте NVIDIA CUDA Toolkit з офіційної сторінки завантажень. У вас є два формати: мережевий інсталятор (завантажує лише те, що вибрано під час інсталяції) та повний інсталятор (включає всі компоненти, корисний для автономного використання або для розгортання в підприємстві).
  3. Запустіть інсталятор та дотримуйтесь інструкцій графічного майстра. встановити Toolkit, приклади та інтеграцію з Visual Studio, якщо потрібно.
  4. В автоматизованих установках можна використовувати беззвучний режим з -sта додайте параметри для вибору конкретних підпакетів. Прапорець -n Уникайте автоматичного перезапуску, якщо це необхідно.
  5. Завершити та перезапустити за запитом.
  6. Відкрийте командний рядок і запустіть nvcc -V щоб побачити встановлену версію компілятора CUDA.

Встановлення CUDA на Windows

Тиха інсталяція та підпакети Toolkit

Інсталятор дозволяє розгортати певні компоненти Toolkit, що корисно в керованих середовищах або середовищах неперервної інтеграції. Деякі типові підпакети в CUDA 13.0 (шлях за замовчуванням C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v13.0) є:

  • cublas_13.0 / cublas_dev_13.0Бібліотеки середовища виконання cuBLAS.
  • crt_13.0компілятор для CUDA-застосунків.
  • ctadvisor_13.0Аналіз трасування NVCC/NVRTC для скорочення часу компіляції.
  • cuda_profiler_api_13.0 y cuadrt_13.0: Профайлер CUDA та API середовища виконання.
  • cufft_13.0 / cufft_dev_13.0: cuFFT.
  • cuobjdump_13.0 y nvdisasm_13.0утиліти для огляду кубів.
  • cupti_13.0інтерфейс інструментів профілювання.
  • curand_13.0 / curand_dev_13.0: КУРАНД.
  • cusolver_13.0 / cusolver_dev_13.0 y cusparse_13.0 / cusparse_dev_13.0бібліотеки лінійної алгебри.
  • cuxxfilt_13.0: фільтр demangler cu++.
  • документація_13.0Посібники у форматі HTML та PDF (програмування, рекомендації тощо).
  • nsight_compute_13.0, nsight_systems_13.0 y nsight_vse_13.0Інструменти Nsight.
  • npp_13.0 / npp_dev_13.0: АЕС.
  • nvcc_13.0Компілятор CUDA.
  • nvfatbin_13.0, nvjitlink_13.0, nvtx_13.0, nvvm_13.0, nvptxcompiler_13.0: інструменти/бібліотеки набору інструментів та трасування.
  • nvjpeg_13.0 / nvjpeg_dev_13.0: nvJPEG.
  • nvml_dev_13.0Заголовки та бібліотеки NVML.
  • nvprune_13.0обрізання об'єктів/статики за допомогою цільових пристроїв.
  • калькулятор_охоплення_13.0: електронна таблиця заповнюваності.
  • opencl_13.0Бібліотека OpenCL.
  • санітайзер_13.0API обчислювального дезінфікуючого засобу.
  • thrust_13.0 y visual_studio_integration_13.0Тяга та інтеграція VS.

Якщо вам потрібно перевірити вміст перед встановленням, ви можете розпакувати повний інсталятор за допомогою інструменту, сумісного з LZMA (наприклад, 7-Zip). Файли Toolkit знаходяться в папці CUDAToolkit. Після розпакування файлів ви знайдете всередині файли .dll та .nvi, які можна ігнорувати, якщо потрібно лише переглянути дерево інсталяції. Видалення виконується через Панель керування > Програми та засоби.

Встановлення за допомогою pip (колеса NVIDIA)

Для середовищ, орієнтованих на Python, NVIDIA пропонує Wheels, які встановлюють середовище виконання CUDA та бібліотеки через pip. Ці пакети призначені для використання під час виконання. і не включають інструменти розробки (за потреби їх можна встановити окремо). Примітка: середовище CUDA керується в середовищі pip, тому вам потрібно буде налаштувати хост-середовище, якщо ви плануєте використовувати CUDA поза ним.

Спочатку встановіть nvidia-pyindex щоб pip міг розпізнавати модулі з репозиторію NVIDIA NGC. За потреби, оновити pip та setuptools щоб уникнути подальших помилок. Ви також можете додати рядок nvidia-pyindex до вас requirements.txt якщо ви працюєте з цією конвенцією.

Перевірка встановлення: зразки та випробування

Перевірте версію компілятора за допомогою nvcc -V з CMD. Клонуйте зразки CUDA з github.com/nvidia/cuda-samplesСкомпілюйте та запустіть їх, як зазначено в репозиторії. Наполегливо рекомендується зібрати та запустити deviceQuery щоб підтвердити, що графічний процесор виявлено та конфігурація правильна.

Тест bandwidthTest перевіряє продуктивність та зв'язок між хост-пристроєм. В обох випадках важливо, щоб пристрій з'явився.Він відповідає вашому обладнанню та проходить тести. Якщо deviceQuery Графічний процесор не виявлено, перевірте встановлення драйвера та працездатність пристрою в системі.

CUDA та WSL у Windows 11 та Windows 10 21H2+

Windows 11 та новіші версії Windows 10 (21H2 та пізніші) підтримують запуск інструментів машинного навчання з прискоренням на графічному процесорі за допомогою WSL. Ви зможете використовувати TensorFlow, PyTorch, Docker та NVIDIA Container Toolkit у дистрибутивах Linux на базі glibc (Ubuntu, Debian тощо).

Ключові кроки: встановлення драйвера NVIDIA CUDA з підтримкою в WSL, увімкнення WSL та додавання дистрибутива типу Ubuntu/Debian. Переконайтеся, що у вас встановлена ​​остання версія ядра WSL. (мінімум 5.10.43.3). Ви можете перевірити це в PowerShell за допомогою: wsl cat /proc/versionДалі, дотримуйтесь інструкцій з посібника користувача NVIDIA CUDA in WSL для роботи з NVIDIA Docker або встановіть PyTorch/TensorFlow у дистрибутиві.

Перевірки та діагностика у Windows

Щоб дізнатися, який у вас графічний процесор: у меню «Налаштування» > «Система» > «Дисплей» > «Додаткові налаштування» ви знайдете марку та модель у розділі «Інформація про дисплей». У диспетчері завдань, вкладка «Продуктивність»Виберіть графічний процесор, щоб переглянути використання, модель і пам’ять. Якщо він не відображається, перевірте Диспетчер пристроїв > Відеоадаптери та встановіть відповідний драйвер для карти.

Щоб побачити версію CUDA, "повідомлену" вашим драйвером, виконайте команду nvidia-smi. Щоб дізнатися версію встановленого компілятора Toolkit, використовує nvcc --version. Майте на увазі, що nvidia-smi Він відображає максимальну версію CUDA "API", яку підтримує драйвер, а не ту, що знаходиться на диску з набору інструментів.

Використання хмари: приклад екземплярів з графічним процесором

Якщо вам потрібна потужність на вимогу, хмарні постачальники пропонують інсталяції з графічними процесорами, такими як NVIDIA A100, RTX 4090 або A6000. Такий підхід дозволяє оплату за використання, майже миттєве розгортання та готові шаблони. для популярних фреймворків (PyTorch, TensorFlow). Для великих робочих навантажень або тимчасових піків це ефективна альтернатива без інвестування у власне обладнання та з підтримкою останніх версій CUDA.

Юридичні повідомлення та торговельні марки

Документація та програмне забезпечення NVIDIA надаються «як є», з усіма правами, захищеними, та без будь-яких неявних гарантій товарної придатності або придатності для певної мети. NVIDIA може змінювати специфікації та документи без попереднього повідомленняЗавжди перевіряйте найактуальнішу інформацію та поважайте умови продажу та ліцензування третіх сторін. OpenCL є торговою маркою Apple Inc., ліцензованою для Khronos; NVIDIA та її логотип є зареєстрованими торговими марками в США та інших країнах.

З огляду на все вищесказане, тепер у вас є все необхідне для встановлення, налаштування та перевірки CUDA у Windows (а також у WSL або Linux, коли вам це потрібно). Від вимог та драйверів до інтеграції з Visual Studio та перевірки за допомогою зразківКлючовим є узгодження версії драйвера, інструментарію та середовища, а також використання таких інструментів, як nvidia-smi, nvcc і зразки, щоб підтвердити, що весь ланцюг працює належним чином.