本文分為三部分介紹了大模型高效訓練所需要的主要技術，并展示當前較為流行的訓練加速庫的統計。

引言：隨著BERT、GPT等預訓練模型取得成功，預訓-微調范式已經被運用在自然語言處理、計算機視覺、多模態語言模型等多種場景，越來越多的預訓練模型取得了優異的效果。為了提高預訓練模型的泛化能力，近年來預訓練模型的一個趨勢是參數量在快速增大，目前已經到達萬億規模。

但如此大的參數量會使得模型訓練變得十分困難，于是不少的相關研究者和機構對此提出了許多大模型高效訓練的技術。本文將分為三部分來介紹大模型高效訓練所需要的主要技術：并行訓練技術、顯存優化技術和其他技術。文章最后會展示當前較為流行的訓練加速庫的統計。歡迎大家批評指正，相互交流。

預訓練模型參數量增長趨勢

一、并行訓練技術：

并行訓練技術主要是如何使用多塊顯卡并行訓練模型，主要可以分為三種并行方式：數據并行（Data Parallel）、張量并行（Tensor Parallel）和流水線并行（Pipeline Parallel）。

數據并行（Data Parallel）

數據并行是目前最為常見和基礎的并行方式。這種并行方式的核心思想是對輸入數據按 batch 維度進行劃分，將數據分配給不同GPU進行計算。

在數據并行里，每個GPU上存儲的模型、優化器狀態是完全相同的。當每塊GPU上的前后向傳播完成后，需要將每塊GPU上計算出的模型梯度匯總求平均，以得到整個batch的模型梯度。

數據并行（圖片來自 Colossal-AI 的文檔）

目前 PyTorch 已經支持了數據并行 [1]：

https://pytorch.org/docs/stable/generated/torch.nn.parallel.DistributedDataParallel.html

張量并行（Tensor Parallel）

在訓練大模型的時候，通常一塊GPU無法儲存一個完整的模型。張量并行便是一種使用多塊GPU存儲模型的方法。

與數據并行不同的是，張量并行是針對模型中的張量進行拆分，將其放置到不同的GPU上。比如說對于模型中某一個線性變換Y=AX，對于矩陣A有按列拆解和按行拆解兩種方式：

我們可以將矩陣A1和A2分別放置到兩塊不同的GPU上，讓兩塊GPU分別計算兩部分矩陣乘法，最后再在兩張卡之間進行通信便能得到最終的結果。

同理也可以將這種方法推廣到更多的GPU上，以及其他能夠拆分的算子上。

下圖是Megatron-LM[2] 在計算 MLP 的并行過程，它同時采用了這兩種并行方式：

整個MLP的輸入X先會復制到兩塊GPU上，然后對于矩陣A采取上面提到的按列劃分的方式，在兩塊GPU上分別計算出第一部分的輸出Y1和Y2。

接下來的 Dropout 部分的輸入由于已經按列劃分了，所以對于矩陣B則采取按行劃分的方式，在兩塊GPU上分別計算出Z1和Z2。最后在兩塊GPU上的Z1和Z2做All-Reduce來得到最終的Z。

以上方法是對矩陣的一維進行拆分，事實上這種拆分方法還可以擴展到二維甚至更高的維度上。在Colossal-AI中，他們實現了更高維度的張量并行：

https://arxiv.org/abs/2104.05343 https://arxiv.org/abs/2105.14500 https://arxiv.org/abs/2105.14450

對于序列數據，尤洋團隊還提出了Sequence Parallel來實現并行：

https://arxiv.org/abs/2105.13120

流水線并行（Pipeline Parallel）

和張量并行類似，流水線并行也是將模型分解放置到不同的GPU上，以解決單塊GPU無法儲存模型的問題。和張量并行不同的地方在于，流水線并行是按層將模型存儲的不同的GPU上。

比如以Transformer為例，流水線并行是將連續的若干層放置進一塊GPU內，然后在前向傳播的過程中便按照順序依次計算hidden state。反向傳播也類似。下圖便是流水線并行的示例：

但樸素的流水線并行實現會導致GPU使用率過低（因為每塊GPU都要等待之前的GPU計算完畢才能開始計算），使流水線中充滿氣泡，如下圖所示：

有兩種比較經典的減少氣泡的流水線并行算法：GPipe[7] 和PipeDream[8]

GPipe 方法的核心思想便是輸入的minibatch劃分成更小的 micro-batch，讓流水線依次處理多個 micro batch，達到填充流水線的目的，進而減少氣泡。GPipe 方法的流水線如下所示：

PipeDream 解決流水線氣泡問題的方法則不一樣，它采取了類似異步梯度更新的策略，即計算出當前 GPU 上模型權重的梯度后就立刻更新，無需等待整個梯度回傳完畢。相較于傳統的梯度更新公式：

PipeDream 的更新公式為：

由于這種更新方式會導致模型每一層使用的參數更新步數不一樣多，PipeDream 對上述方法也做出了一些改進，即模型每次前向傳播時，按照更新次數最少的權重的更新次數來算，即公式變為：

PipeDream 方法的流水線如下所示：

對比總結

下面是對這三種并行技術從通用性、計算效率、顯存開銷和通信量這幾個方面進行對比。

可以看出數據并行的優勢在于通用性強且計算效率、通信效率較高，缺點在于顯存總開銷比較大；而張量并行的優點是顯存效率較高，缺點主要是需要引入額外的通信開銷以及通用性不是特別好；流水線并行的優點除了顯存效率較高以外，且相比于張量并行的通信開銷要小一些，但主要缺點是流水線中存在氣泡。

二、顯存優化技術：

在模型訓練的過程中，顯存主要可以分為兩大部分：常駐的模型及其優化器參數，和模型前向傳播過程中的激活值。顯存優化技術主要是通過減少數據冗余、以算代存和壓縮數據表示等方法來降低上述兩部分變量的顯存使用量，大致可分為四大類：ZeRO技術、Offload技術、checkpoint技術以及一些節約顯存的優化器。

ZeRO 技術

ZeRO[9] 技術是微軟的 DeepSpeed 團隊解決數據并行的中存在的內存冗余問題所提出的解決方法。常駐在每塊GPU上的數據可以分為三部分：模型參數，模型梯度和優化器參數。注意到由于每張 GPU 上都存儲著完全相同的上述三部分參數，我們可以考慮每張卡上僅保留部分數據，其余的可以從其他 GPU 上獲取。

即假如有N張卡，我們可以讓每張卡上只保存其中1/N的參數，需要的時候再從其他 GPU 上獲取。ZeRO 技術便是分別考慮了上述三部分參數分開存儲的情況，下圖中的Pos、Pos+g和Pos+g+p就分別對應著將優化器參數分開存儲、將優化器參數和模型梯度分開存儲以及三部分參數都分開存儲三種情況。

論文里不僅分析了三種情況可以節省的內存情況，還分析出了前兩種優化方法不會增加通信開銷，第三種情況的通信開銷只會增加50%。

目前Pytorch也已經支持了類似的技術：

https://engineering.fb.com/2021/07/15/open-source/fsdp/ https://pytorch.org/docs/stable/fsdp.html

Offload 技術

ZeRO-Offload[10] 技術主要思想是將部分訓練階段的模型狀態 offload 到內存，讓 CPU 參與部分計算任務。

為了避免 GPU 和 CPU 之間的通信開銷，以及 CPU 本身計算效率低于 GPU 這兩個問題的影響。Offload 的作者在分析了 adam 優化器在 fp16 模式下的運算流程后，考慮只將模型更新的部分下放至 CPU 計算，即讓 CPU 充當 Parameter Server 的角色。如下圖所示：

同時為了提高效率，Offload 的作者提出可以將通信和計算的過程并行起來，以降低通信對整個計算流程的影響。

具體來說，GPU 在反向傳播階段，可以待梯度值填滿bucket后，一邊計算新的梯度一邊將bucket傳輸給CPU；當反向傳播結束，CPU基本上獲取了最新的梯度值。同樣的，CPU在參數更新時也同步將已經計算好的參數傳給GPU，如下圖所示：

最后作者也分析了多卡的情況，證明了他提出的方案具有可擴展性。

Checkpoint 技術

在模型前向傳播的過程中，為了反向傳播計算梯度的需要，通常需要保留一些中間變量。例如對于矩陣乘法

A和B的梯度計算公式如下所示

可以看出要想計算A和B的梯度就必須在計算過程中保留A和B本身。這部分為了反向傳播所保留的變量會占用不小的空間。Checkpoint技術的核心是只保留checkpoint點的激活值，checkpoint點之間的激活值則在反向傳播的時候重新通過前向進行計算。可以看出，這是一個以算代存的折中方法。最早是陳天奇將這個技術引入機器學習中 [11]：

https://arxiv.org/abs/1604.06174

目前該方法也以及被 PyTorch 所支持。

https://pytorch.org/docs/stable/checkpoint.html

節約顯存的優化器

比較早期的工作是如Adafactor[12] 主要是針對 Adam 進行優化的，它取消了 Adam 中的動量項，并使用矩陣分解方法將動量方差項分解成兩個低階矩陣相乘來近似實現 Adam 的自適應學習率功能。

后來也有使用低精度量化方式存儲優化器狀態的優化器，如8 bit Optimizer[13]，核心思想是將優化器狀態量化至 8 bit 的空間，并通過動態的浮點數表示來降低量化的誤差。還有更加激進的使用 1 bit 量化優化器的方法，如1-bit Adam[14] 和1-bit LAMB[15]。他們主要是使用壓縮補償方法的來減少低精度量化對模型訓練的影響。

三、其他優化技術：

大批量優化器

在目前模型訓練的過程中，直接使用大批量的訓練方式可能導致模型訓練不穩定。最早有 Facebook 的研究[16] 表明，通過線性調整學習率，并配合 warmup 等輔助手段，讓學習率隨 batch 的增大而線性增大，即可在ResNet-50上將 batch size 增大至 8K 時仍不影響模型性能。

但該方法在 AlexNet 等網絡失效，在LARS[17] 優化器這篇論文中，作者尤洋在實驗中發現不同層的權值和其梯度的 2 范數的比值差異很大，據此基于帶動量的SGD優化器提出LARS優化器。核心算法如下圖所示：

基于以上的思路，尤洋將上述方法擴展到Adam優化器，提出了LAMB[18] 優化器：

FP16

FP16[19] 基本原理是將原本的32位浮點數運算轉為16位浮點數運算。一方面可以降低顯存使用，另一方面在 NVIDIA 的顯卡上 fp16 的計算單元比 fp32 的計算單元多，可以提升計算效率。在實際的訓練過程中，為了保證實際運算過程中的精度，一般還會配合動態放縮技術。目前的主流框架都已實現該功能。

算子融合

算子融合實際上是將若干個 CUDA 上的運算合成一個運算，本質上是減少了 CUDA 上的顯存讀寫次數。舉個例子，對于一個線性層 + batch norm + activation 這個組合操作來說：

直接使用 PyTorch 實現的會在計算y1,y2,y3的過程中分別產生一次顯存的讀和寫操作，即3次讀和寫。如果將其按下面的公式合并成一個算子進行計算，那么中間的結果可以保留在 GPU 上的寄存器或緩存中，從而將顯存讀寫次數降低至1次。

目前 PyTorch 可以使用 torch.jit.script 來將函數或 nn.Module 轉化成 TorchScript 代碼，從而實現算子融合。

https://pytorch.org/docs/stable/generated/torch.jit.script.html

設備通信算法

在之前介紹的模型分布式訓練中，通常需要在不同 GPU 之間傳輸變量。在 PyTorch 的 DataParallel 中，使用的是Parameter Server架構，即存在一個中心來匯總和分發數據：

但上述方式的缺點是會導致 Parameter Server 成為通信瓶頸。之后PyTorch的Distributed DataParallel則使用了Ring All-Reduce[20] 方法，將不同的GPU構成環形結構，每個GPU只用與環上的鄰居進行通信：

稀疏attention

稀疏Attention技術最開始是運用在長序列的Transformer建模上的，但同時也能有效的降低模型計算的強度。稀疏Attention主要方法可以分為以下五類 [21]：

目前DeepSpeed已經集成了這個功能：

https://www.deepspeed.ai/tutorials/sparse-attention/

自動并行

目前并行訓練技術在大模型訓練中已被廣泛使用，通常是會將前面介紹的三種并行方法結合起來一起使用，被稱之為 3D 并行。

但這些并行方式都有不少的訓練超參數，之前的一些研究者是使用手動的方式來設置這些超參數。目前也出現了不少自適應的方法來設置超參數，被稱為自動并行技術。

這些方法包括動態規劃、蒙特卡洛方法、強化學習等。下面的 GitHub 倉庫整理了一些自動并行的代碼和論文：

https://github.com/ConnollyLeon/awesome-Auto-Parallelism

四、訓練加速庫概覽

下面是本人對當下比較流行的訓練加速庫的統計，可供大家進行參考。

審核編輯：劉清