借助 R515 驅(qū)動程序，NVIDIA 于 2022 年 5 月發(fā)布了一套開源的 Linux GPU 內(nèi)核模塊，該模塊采用雙許可證，即 GPL 和 MIT 許可。初始版本主要面向數(shù)據(jù)中心計算 GPU，而 GeForce 和工作站 GPU 則處于 Alpha 狀態(tài)。

當時，我們宣布，在后續(xù)版本中將提供更可靠、功能齊全的 GeForce 和工作站 Linux 支持，NVIDIA 開放內(nèi)核模塊最終將取代閉源驅(qū)動。

NVIDIA GPU 共享一個通用的驅(qū)動程序架構(gòu)和功能集。您的臺式機或筆記本電腦所使用的相同驅(qū)動程序能夠在云端運行世界上最先進的 AI 工作負載，對我們來說，把它做到恰到好處一直都極其重要。

兩年過去了，我們利用開源的 GPU 內(nèi)核模塊實現(xiàn)了與原來的應用程序性能相當或更好的性能，并添加了大量新的功能。

異構(gòu)內(nèi)存管理 (HMM) 支持

機密計算

Grace 平臺的連貫內(nèi)存架構(gòu)

其他功能

現(xiàn)在，我們處于完全過渡到開源 GPU 內(nèi)核模塊的時刻。在即將發(fā)布的 R560 驅(qū)動版本中，我們將作出這一改動。

支持的 GPU

并不是每個 GPU 都能與開源 GPU 內(nèi)核模塊兼容。

對于 NVIDIA Grace Hopper 或 NVIDIA Blackwell 等尖端平臺，您必須使用開源的 GPU 內(nèi)核模塊，因為這些平臺不支持專有的驅(qū)動程序。

對于來自 Turing、Ampere、Ada Lovelace 或 Hopper 架構(gòu)的較新 GPU，NVIDIA 建議將其切換到開源的 GPU 內(nèi)核模塊。

對于 Maxwell、Pascal 或 Volta 架構(gòu)中的舊版 GPU，其開源 GPU 內(nèi)核模塊不兼容您的平臺。因此，請繼續(xù)使用 NVIDIA 專有驅(qū)動。

對于在同一系統(tǒng)中使用較舊和較新的 GPU 的混合部署，請繼續(xù)使用專有驅(qū)動程序。

如果您不確定，NVIDIA 提供了一種新的檢測輔助腳本的方式，以幫助指導您選擇合適的驅(qū)動程序。有關(guān)更多信息，請參閱本文后面的使用安裝輔助腳本部分。

安裝程序更改

通常情況下，通過各種安裝方法安裝的驅(qū)動程序默認版本正在從專有驅(qū)動程序切換到開源驅(qū)動程序。這有一些特定情況值得特別注意：

具有 CUDA 元軟件包的軟件包管理器

運行文件

安裝輔助腳本

軟件包管理器詳細信息

適用于 Linux 的 Windows 子系統(tǒng)

CUDA 工具包

將軟件包管理器與 CUDA 元軟件包結(jié)合使用

當您使用包管理器（而非 .run 文件）安裝 CUDA 工具包時，安裝元包是存在并常用的。通過安裝頂級 cuda 軟件包，您將安裝 CUDA 工具包和相關(guān)驅(qū)動版本的組合。例如，在 CUDA 12.5 發(fā)布時間范圍內(nèi)安裝 cuda 時，您將獲得專有的 NVIDIA 驅(qū)動 555 以及 CUDA 工具包 12.5。

圖 1 顯示此軟件包結(jié)構(gòu)。

圖 1. CUDA 工具包 12.6 之前的 CUDA 軟件包

以前，使用開源 GPU 內(nèi)核模塊意味著您可以使用頂級元軟件包。這意味著您需要安裝發(fā)行版特定的 NVIDIA 驅(qū)動開放軟件包，同時還需要安裝您選擇的 cuda-toolkit-X-Y 軟件包。

從 CUDA 12.6 版本開始，流的位置將有效切換（圖 2）。

圖 2. CUDA 工具包 12.6 版本發(fā)布后的 CUDA 軟件包

使用運行文件

如果您使用 .run 文件安裝 CUDA 或 NVIDIA 驅(qū)動，安裝程序?qū)⒉樵兡挠布⒆詣影惭b最適合您系統(tǒng)的驅(qū)動。此外，您還可以使用 UI 開關(guān)來選擇專有驅(qū)動或開源驅(qū)動。

如果您通過 CUDA .run 文件并使用 ncurses 用戶界面進行安裝，現(xiàn)在將看到一個類似于以下內(nèi)容的菜單：

 CUDA Driver                                 
  [ ] Do not install any of the OpenGL-related driver files         
  [ ] Do not install the nvidia-drm kernel module              
  [ ] Update the system X config file to use the NVIDIA X driver       
 - [X] Override kernel module type                      
   [X] proprietary                             
   [ ] open                                
  Change directory containing the kernel source files            
  Change kernel object output directory                  
  Done                                    
                                       
                                       
                                       
 Up/Down: Move | Left/Right: Expand | 'Enter': Select | 'A': Advanced options

如果您通過驅(qū)動 .run 文件進行安裝，將看到類似的選擇（圖 3）。

圖 3. 新的運行文件交互式選擇（驅(qū)動安裝程序）

如果您使用 Ansible 等自動化工具，也可以使用命令行傳遞 overrides，以在不使用用戶界面的情況下進行安裝。

# sh ./cuda_12.6.0_560.22_linux.run --override --kernel-module-type=proprietary


# sh ./NVIDIA-Linux-x86_64-560.run --kernel-module-type=proprietary

使用安裝輔助腳本

如前所述，如果您不確定為系統(tǒng)中的 GPU 選擇哪種驅(qū)動程序，NVIDIA 創(chuàng)建了一個輔助腳本，以指導您完成驅(qū)動程序的選擇過程。

要使用它，請首先使用包管理器安裝nvidia-driver-assistant包，然后運行該腳本。

$ nvidia-driver-assistant

軟件包管理器詳細信息

為了獲得一致的體驗，NVIDIA 建議您使用包管理器來安裝 CUDA Toolkit 和驅(qū)動程序。但是，不同發(fā)行版使用哪些包管理系統(tǒng)或包的結(jié)構(gòu)方式的具體細節(jié)可能因您的特定發(fā)行版而異。

本節(jié)概述了各種平臺所需的具體細節(jié)、注意事項和遷移步驟。

apt: 基于 Ubuntu 和 Debian 的發(fā)行版

運行以下命令：

$ sudo apt-get install nvidia-open

要在 Ubuntu 20.04 上使用 cuda 元軟件包進行升級，請先切換到開啟的內(nèi)核模塊。

$ sudo apt-get install -V nvidia-kernel-source-open
$ sudo apt-get install nvidia-open

dnf: Red Hat Enterprise Linux、Fedora、Kylin、Amazon Linux 或 Rocky Linux

運行以下命令：

$ sudo dnf module install nvidia-driver:open-dkms

要在基于 DNF 的發(fā)行版上使用 cuda 元軟件包進行升級，必須首先禁用模塊流。

$ echo "module_hotfixes=1" | tee -a /etc/yum.repos.d/cuda*.repo
$ sudo dnf install --allowerasing nvidia-open
$ sudo dnf module reset nvidia-driver

zypper: SUSE Linux Enterprise Server 或 OpenSUSE

運行以下命令之一：

# default kernel flavor
$ sudo zypper install nvidia-open


# azure kernel flavor (sles15/x86_64)
$ sudo zypper install nvidia-open-azure


# 64kb kernel flavor (sles15/sbsa) required for Grace-Hopper
$ sudo zypper install nvidia-open-64k

軟件包管理器摘要

為簡化起見，我們已將包管理器建議壓縮為表格格式。從驅(qū)動版本 560 和 CUDA 工具包 12.6 開始的所有版本都將使用這些打包規(guī)范。

表 1. 軟件包管理器安裝建議

有關(guān)更多信息，請參閱 NVIDIA 數(shù)據(jù)中心驅(qū)動：

https://docs.nvidia.com/datacenter/tesla/drivers/index.html

適用于 Linux 的 Windows 子系統(tǒng)

適用于 Linux 的 Windows 子系統(tǒng)（WSL）使用來自主機 Windows 操作系統(tǒng)的 NVIDIA 內(nèi)核驅(qū)動程序。因此，您不應該專門為此平臺安裝任何驅(qū)動程序。如果您使用的是 WSL，則無需進行任何更改或操作。

CUDA 工具包

通過軟件包管理器，CUDA 工具包的安裝保持不變。請運行以下命令：

$ sudo apt-get/dnf/zypper install cuda-toolkit

更多信息

如需詳細了解如何安裝 NVIDIA 驅(qū)動程序或 CUDA 工具包，包括如果此時無法遷移到開源 GPU 內(nèi)核模塊，如何確保安裝專有驅(qū)動程序，請參閱《CUDA 安裝指南》中的驅(qū)動程序安裝部分。