本文來自“AI服務器元年，接口互聯芯片梳理”，據 TrendForce 數據，AI 服務器出貨約13萬臺，占全球服務器出貨約1%，展望2023年，Microsoft、Meta、Baidu 與 ByteDance 相繼推出基于生成式 AI 衍生的產品服務而積極加單，預估 23 年 AI 服務器出貨量年增率可望達 15.4%，且隨著未來 ChatGPT 對 AI 服務器需求用量，預計 2023-2027 年 AI 服務器將以 12.2%年復合增速成長。  

DGX H100 于 2022 年推出，是 NVIDIA 的 DGX 系統的最新迭代產品，也是 NVIDIA DGX SuperPOD 的基礎。DXG 服務器配備 8 塊 H100 GPU，6400億個晶體管，在全新的 FP8 精度下 AI 性能比上一代高 6 倍，可提供 900GB/s 的帶寬。

在 DGX H100 服務器內部，藍色方塊為 IP 網卡，既可充當網卡又可發揮PCIe Switch 擴展功能，成為 CPU與 GPU（H100）之間互聯的橋梁。其內部采用 PCle 5.0 標準。此外，CX7 以網卡芯片的形式做成 2 塊板卡來插入服務器，每 4 個 CX7 芯片組成一塊板卡并且對外輸出 2 個 800G OSFP光模塊口。

而 GPU（H100）之間互聯主要通過 NV Switch 芯片來實現。每個 DGXH100 內的一個 GPU 向外伸出 18 個 NVLink ，單鏈雙向帶寬為 50 GB/s，共計18*50GB/s=900GB/s 雙向帶寬，拆分到 4 個板載的 NV Switch 上去，因而每個NV Switch 對應 4-5 個 OSFP 光模塊（共計 18 個）。每個 OSFP 光模塊采用 8 個光通道，每個通道的傳輸速率為 100Gbps，因此總速率高達 800Gbps，能夠實現高速的數據傳輸。

1、CPU、GPU等組件互聯：PCIE Switch、Retimer芯片

PCIe Switch 即 PCIe 開關或 PCIe 交換機，主要作用是實現 PCIe 設備互聯，PCIe Switch 芯片與其設備的通信協議都是 PCIe。由于 PCIe 的鏈路通信是一種端對端的數據傳輸，因此需要 Switch 提供擴展或聚合能力，從而允許更多的設備連接到一個 PCle 端口，以解決 PCIe 通道數量不夠的問題。目前 PCIe Switch 不僅已經被廣泛應用在了傳統存儲系統中，而且在部分服務器平臺也逐漸普及，用于提高數據傳輸的速度。

PCIe 總線技術升級，PCIe Switch 每代速率提升。PCIe 總線是 PCI 總線的高速串行替代品。2001 年，Intel公布取代 PCI 總線的第三代 I/O 技術——“3GIO”，2002 年該項技術經過 PCI 特殊興趣組織（PCI-SIG）審核后正式改名為“PCI Express”，標志著 PCIe 的誕生。2003 年，PCIe 1.0 正式發布，可支持每通道傳輸速率為 250MB/s，總傳輸速率為 2.5 GT/s。2007 年 PCI-SIG 宣布推出 PCI Express Base 2.0 規范。在 PCIe 1.0 的基礎上將總傳輸速率提高了一倍，達到 5 GT/s，每通道傳輸速率從 250 MB/s 上升至 500 MB/s。2022 年 PCI-SIG正式發布 PCIe 6.0 規范，將總帶寬提高至 64 GT/s。

隨著PCIe 在服務器中越來越廣泛地被應用，PCIe Switch 的市場需求也被帶動起來。根據 QYResearch（恒州博智）的統計及預測，2021 年全球 PCIe 芯片市場銷售額達到了 7.9 億美元，預計 2028 年將達到 18 億美元，年復合增長率（CAGR）為 11.9%。

中國是 PCIe Switch 最大市場。隨著服務器對海量數據存儲與傳輸的要求日益提高，PCIe Switch 市場發展成為一片藍海。中國是全球最大的電子產品生產和消費國家之一，在大數據、云計算、人工智能等領域，需要大量高速互聯解決方案來實現海量數據傳輸。而 PCIe Switch 作為高速互聯解決方案，在中國市場具有極大的需求。

在 AI 服務器中，GPU 與 CPU 連接時至少需要一顆 Retimer 芯片來保證信號質量。具體而言，很多 AI 服務器都會配置多顆 Retimer 芯片，例如 Astera Labs在 AI 加速器中配置了 4 顆 Retimer 芯片。

PCIe Retimer 藍海市場三足鼎立，潛在競爭者躍躍欲試。目前譜瑞-KY、Astera labs、瀾起科技是 PCIe Retimer 藍海市場中的三家主要廠商，占據領先地位。其中瀾起科技布局 PCIe 較早，是全球可量產 PCIe 4.0 Retimer 的唯一中國大陸供應商，且目前 PCIe 5.0 Retimer 研發順利。

此外，包括瑞薩，TI，微芯科技等在內的芯片廠商也在積極投入 PCIe Retimer 的產品研發中。根據官網信息，瑞薩可提供包括 89HT0816AP 和 89HT0832P 在內的兩款 PCIe 3.0 Retimer產品；TI 可提供一款 16Gbps 8 通道 PCIe 4.0 Retimer——DS160PT801；同樣地，微芯科技于 2020 年 11 月發布 XpressConnect 系列 Retimer 芯片，可支持PCIe 5.0 的 32GT/s 速率。

2、GPU與 GPU連接：NVLink、NVSwitch

全球各大芯片廠商均在關注高速接口的相關技術，除了 NVDIA 的 NVLink 之外，AMD的 Infinity Fabric 和 Intel 的 CXL（Compute Express Link）等也為服務器內部的高速串聯提供了解決方案。

不斷迭代更新的 NVlink 掀起高速互聯技術革命。NVLink 是一種由 NVIDIA開發的高速互連技術，旨在加快 CPU 與 GPU、GPU 與 GPU 之間的數據傳輸速度，提高系統性能。從 2016 年到 2022 年，NVLink 已經迭代至第四代。

2016 年，NVDIA 發布了 Pascal GP100 GPU 所搭載的新的高速接口芯片—— NVLink ， 這 是 第 一 代 NVLink 。NVLink 采 用 High-Speed Signalinginterconnect（NVHS）技術，主要用于 GPU 與 GPU 之間、GPU 與 CPU 之間的信號傳輸。GPU 之間傳輸 NRZ（Non-Return-to-Zero）編碼形式的差分阻抗電信號。第一代NVLink單鏈可實現40 GB/s的雙向帶寬，單芯片可支持4鏈路，即 160 GB/s 的總雙向帶寬。

此后，NVLink 歷經多次迭代更新，掀起了高速互聯技術革新浪潮。2017 年，基于 Volta 架構的第二代 NVLink 發布，單鏈可實現 50 GB/s 的雙向帶寬，單芯片可支持 6 鏈路，即 300 GB/s 的總雙向帶寬。2020 年，基于 Ampere 架構的第三代 NVLink 發布，單鏈可實現 50 GB/s 的雙向帶寬，單芯片可支持 12 鏈路，即 600 GB/s 的總雙向帶寬。2022 年，基于 Hopper 架構的第四代 NVLink 發布，傳輸信號變為 PAM4 調制電信號，單鏈可實現 50 GB/s 的雙向帶寬，單芯片可支持 18 鏈路，即 900 GB/s 的總雙向帶寬。

2018 年 NVDIA 發布了第一代 NVSwitch，為提高服務器內部帶寬、降低延遲、實現多 GPU 間通信提供了解決方案。第一代 NVSwitch 采用臺積電 12nmFinFET 工藝制造，共有 18 個 NVLink 2.0 接口。一臺服務器內部可以通過 12 個NVSwitch 支持 16 個 V100 GPU，實現以 NVLink 最高速率互聯。

目前 NVSwitch 已經迭代至第三代。第三代 NVSwitch 采用 TSMC 4N 工藝構建，每個 NVSwitch 芯片上擁有 64 個 NVLink 4.0 端口，GPU 間通信速率可達 900GB/s，這些通過 NVLink Switch 互聯的 GPU 可用作單個高性能加速器，擁有深度學習的功能。

3、CPU 與 DRAM高速互聯，拉動內存接口芯片

服務器內存模組主要類型為 RDIMM、LRDIMM，相較于其他類型內存模組，服務器內存模組對穩定性、糾錯能力以及低功耗均有較高要求。內存接口芯片是服務器內存模組的核心邏輯器件，是服務器 CPU 存取內存數據的必由通路。其主要作用是提升內存數據訪問的速度及穩定性，滿足服務器 CPU 對內存模組日益增長的高性能及大容量需求。

從 DDR4 至 DDR5，內存接口芯片速率持續升級。2016 年開始，DDR4 成為內存市場的主流技術，為了實現更高的傳輸速率和支持更大的內存容量，JEDEC 組織進一步更新和完善了 DDR4 內存接口芯片的技術規格。在 DDR4 世代，從 Gen1.0、Gen1.5、Gen2.0 到 Gen2plus，每一子代內存接口芯片所支持的最高傳輸速率在持續上升，DDR4 最后一個子代產品 Gen2plus 支持的最高傳輸已達 3200MT/s。隨著 JEDEC 組織不斷完善對 DDR5 內存接口產品的規格定義，DDR5 內存技術正在逐步實現對 DDR4 內存技術的更新和替代。

目前 DDR5 內存接口芯片已經規劃了三個子代，支持速率分別是 4800MT/s、5600MT/s、6400MT/s，行業內預計后續可能還會有 1~2 個子代。

內存接口芯片按功能分為兩類，分別為是寄存緩沖器（RCD）以及數據緩沖器（DB）。RCD 用來緩沖來自內存控制器的地址、命令、控制信號，DB 用來緩沖來自內存控制器或內存顆粒的數據信號。

DDR5 內存模組升級帶來內存接口芯片及模組配套芯片新機遇。2016 年全球內存接口芯片市場規模約 2.8 億美元，2018 年達到約為 5.7 億美元，三年年化增長率為 40%。DDR5 升級，將帶來內存接口芯片市場規模攀升。相較于 DDR4，由于 DDR5 支持速率更高、設計更為復雜，DDR5 第一子代內存接口芯片的起始單價比 DDR4 內存接口芯片更高。同時，隨著 DDR5 內存在服務器、PC 端的滲透率逐步提升，DDR5 相關內存接口芯片市場規模有望實現高速增長。

內存接口芯片行業壁壘高，三足鼎立格局已經形成。內存接口芯片是技術密集型行業，需要通過 CPU、內存和 OEM 廠商的全方位嚴格驗證后，方可進行大規模使用，新的玩家很難介入。隨著技術難度不斷升級，內存接口芯片玩家從DDR2 世代的 10 多家到 DDR4 世代只剩 3 家，行業基本出清，三足鼎立格局已經形成。在 DDR5 世代，全球只有三家供應商可提供 DDR5 第一子代的量產產品，分別是瀾起科技、瑞薩電子（IDT）和 Rambus。