2022-05-29
隨著疫情的發展加速了全球數位化及雲端服務的轉型,遠距視訊看診以及AI快篩影像辨識即將成為當前減輕人工PCR醫療作業負擔的一大助力。大量即時影像資料傳遞及判讀處理的同時,網路資料交換中心(Data Center)高效計算能力及低延遲傳輸,加上快速的資料分析(Data Analytics)和安全的資料加解密,正是Data Center的關鍵特性。
在資料處理量急遽上升的情況下,伺服器(Server)如何有效率的運用中央處理器(CPU),及透過網路控制器(NIC,Network Interface Controller)協助卸載(Offload) 繁雜且固定的網路工作,進而減輕CPU負擔並釋放更多運算執行效能,對於Data Center至關重要。
從一般的通用網路卡(NIC)、智慧網路卡(Smart NIC), 到DPU資料處理器 (DPU,Data Processing Unit) 的智慧網路卡,主要功能差異有哪些?
NVIDIA對 Smart NIC的定義為:協助卸載(Offload)中央處理器網路工作的控制器,而在實現這些不同卸載的架構下,又可大致分為ASIC、FPGA 和SoC 的架構。
| ASIC-based SmartNIC (ConnectX) | SoC-based SmartNIC (BlueField | FPGA-based SmartNIC (INNOVA FLEX) |
|---|---|---|
![]() | ![]() | ![]() |
|
|
|
ASIC 具有成本效益,提供高性價比,但靈活性有限。如NVIDIA ConnectX-6 系列及ConnectX-7,具有相對簡單的可編程數據,為資料中心提供完整的乙太網路解決方案,提供Security(Inline IPseTLS crypto , AEX-XTS , Key management , Hardware Root-od-Trust, Connection Tracking )、Virtualization(OVS offload, SR-IOV, VirtIO acceleration)、Time Sensitive(PTP Hardware Clock)、Storage (NVMe-over-Fabric target offload), 具可擴充性、可靠性和價值,跨足各種應用程式使用,例如:雲端運算、資料儲存空間、人工智慧…等。
圖一、ConnectX-6 系列卸載功能
對於具靈活性的SoC (System On Chip,系統單晶片),如Mellanox DPU 它結合了: NIC subsystem (ConnectX NIC的卸載技術)、Server Class CPU subsystem (64位元16核 ARM A78 處理器),PCIe subsystem、Data acceleration (Virtio-Net emulation , QoS scheduling, Telemetry , Micro Segmentation, Enctyption-IPSec/MACSec , Tunneling-VxLAN/GRE , NAT , Routing, ACL),並提供了Programmability through DOCA SDK, 易於編程和高度的靈活性。
圖二、架構
DPU主打加速和分離多種先進的網路、儲存空間(NVMe-oF : NVMe over Fabrics)和安全服務(加密/解密、防火墙),藉以在雲端、資料中心到邊緣端的任何環境中,提供適用於任何工作負載且安全的加速基礎架構等應用,以對應諸多的儲存與網路層面需求。靈活和可編程的加速引擎為大量的網路作業負載提供了有效率的處理分工,並提升其性能。所有這些 DPU 功能對於實現安全的雲端原生超級電腦大規模運算,提供了最佳的彈性部屬。
相較之下,FPGA NIC,如NVIDIA Innova-2 Flex,具有高度可編程性及多功能介面卡組合能力,幾乎可以支持任何功能。然而,眾所周知,FPGA 編程需要一些技術門檻且價格相較昂貴,但在某些特定應用場景下可以用以實現最高效率,也為客戶提供了更多樣性的選擇。
回歸到網卡類別而言,因不同的加速及不同的工作負載而依功能來區分三類。
基礎NIC (Foundational NIC)僅僅提供了移動網絡流量或是SRIOV 和基本TCP 加速之外,很少或是沒有提供卸載功能。
NVIDIA ConnectX 適配器系列具有可編程數據路徑,並加速及卸載了一系列功能,這些功能最初在公共雲使用案例中變得非常重要,NVIDIA 最新的ConnectX-7 SmartNIC 可處理大量網絡、安全和存儲工作,它支援網路卸載的大多數需求。例如:
NVIDIA 基於BlueField DPU的智慧卡,除了NVIDIA ConnectX 既有對於網路中的封包進行加速及卸載功能,而嵌入式的CPU 則被用來做控制路徑的初始化和異常情況處理,而更專注於加速資料的處理。而DPU網路數據路徑加速引擎,至少需要具備下述 10 項功能:
1. Choosing the Best SmartNIC, NVIDIA, https://reurl.cc/n1r2x8
2. 选择基于 DPU 的最佳 SmartNIC, NVIDIA, https://reurl.cc/9G7qx8
3. What Is a DPU?, NVIDIA, https://reurl.cc/rDr2nE
4. Functional Diagram of the BlueField® SmartNIC. , NVIDIA, https://reurl.cc/NA4gLq
5. Nvidia GTC 2022 keynote , NVIDIA, https://reurl.cc/n1r2M2
| ASIC-based SmartNIC (ConnectX) | SoC-based SmartNIC (BlueField) | FPGA-based SmartNIC (INNOVA FLEX) |
|---|---|---|
![]() | ![]() | ![]() |
|
|
|