超融合成為數據中心基礎設施領域當仁不讓的頭號明星，超融合公司也猶如雨后春筍般不斷涌現，中國超融合市場甚至上演過“百團大戰”的壯觀景象。那么什么是超融合數據中心網絡，它的發展歷程和工作原理是怎樣的？

數據中心網絡連接數據中心內部通用計算、存儲和高性能計算資源，服務器間的所有數據交互都要經由網絡轉發。當前，IT架構、計算和存儲技術都在發生重大變革，驅動數據中心網絡從原來的多張網絡獨立部署向全以太化演進。而傳統的以太網無法滿足存儲和高性能計算的業務需求。超融合數據中心網絡以全無損以太網來構建新型的數據中心網絡，使通用計算、存儲、高性能計算三大種類業務均能融合部署在一張以太網上，同時實現全生命周期自動化和全網智能運維。

為什么會產生超融合數據數據中心網？

現狀：數據中心內有三張網絡

數據中心內部有三類典型的業務：通用計算（一般業務）、高性能計算（HPC）業務和存儲業務。每類業務對于網絡有不同的訴求，比如：HPC業務的多節點進程間通信，對于時延要求非常高；而存儲業務對可靠性訴求非常高，要求網絡0丟包；通用計算業務規模大，擴展性強，要求網絡低成本、易擴展。

由于上述業務對網絡的要求不同，當前數據中心內部一般會部署三張不同的網絡：

1. 由IB（InfiniBand）網絡來承載HPC業務

2. 由FC（Fiber Channel）網絡來承載存儲網絡

3. 由以太網來承載通用計算業務

數據中心內的三張網絡

AI時代的變化1：存儲和計算能力大幅提升，網絡成為瓶頸

企業數字化過程中將產生大量的數據，這些數據正在成為企業核心資產。通過AI技術從海量數據中挖掘價值成為AI時代不變的主題。通過AI機器學習利用各種數據輔助實時決策，已經成為企業經營的核心任務之一。與云計算時代相比，AI時代企業數據中心的使命正在從聚焦業務快速發放向聚焦數據高效處理轉變。

數據中心正在從云計算時代走向AI時代

為了提升海量AI數據處理的效率，存儲和計算領域正在發生革命性的變化：

1. 存儲介質從機械硬盤（HDD）演進到閃存盤（SSD），來滿足數據的實時存取要求，存儲介質時延降低了不止100倍。

2. 為了滿足數據高效計算的訴求，業界已經在采用GPU甚至專用的AI芯片，處理數據的能力提升了100倍以上。

隨著存儲介質和計算能力的大幅提升，在高性能的數據中心集群系統中，當前網絡通信的時延成為應用整體性能進一步提升的瓶頸，通信時延在整個端到端時延中占比從10%上升到60%以上，也就是說，寶貴的存儲或計算資源有一半以上的時間是在等待網絡通信。

總的來說，隨著存儲介質和計算處理器的演進，網絡的低效阻礙了計算和存儲性能的發揮；只有將通信時長降低到與計算和存儲接近，才能消除木桶原理中的“短板”，提升應用整體的性能。

AI時代的變化2：RDMA替代TCP/IP成為大勢所趨，但RDMA的網絡承載方案存在不足

如下圖所示，在服務器內部，由于TCP協議棧在接收/發送報文，以及對報文進行內部處理時，會產生數十微秒的固定時延，這使得在AI數據運算和SSD分布式存儲這些微秒級系統中，TCP協議棧時延成為最明顯的瓶頸。另外，隨著網絡規模的擴大和帶寬的提高，寶貴的CPU資源越來越地多被用于傳輸數據。

RDMA（Remote Direct Memory Access）允許應用與網卡之間的直接數據讀寫，將服務器內的數據傳輸時延降低到接近1us。同時，RDMA允許接收端直接從發送端的內存讀取數據，極大減少了CPU的負擔。

RDMA與TCP的對比

根據業務的測試數據， 采用RDMA可以將計算的效率同比提升6~8倍；而服務器內1us的傳輸時延也使得SSD分布式存儲的時延從ms級降低到us級成為可能，所以在最新的NVMe（Non-Volatile Memory express）接口協議中，RDMA成為主流的默認網絡通信協議棧。因此，RDMA替換TCP/IP成為大勢所趨。

在服務器之間的互聯網絡中，當前有兩種方案來承載RDMA：專用InfiniBand網絡和傳統IP以太網絡，然而，它們都存在不足：

1. InfiniBand網絡：架構封閉，采用私有協議，難以與現網大規模的IP網絡實現很好的兼容互通；運維復雜，專人運維，OPEX居高不下。

2. 傳統IP以太網：對于RDMA來說，大于10-3的丟包率，將導致網絡有效吞吐急劇下降，2%的丟包則使得RDMA的吞吐率下降為0。要使得RDMA吞吐不受影響，丟包率必須保證在十萬分之一以下，最好為無丟包。而擁塞丟包是傳統IP以太網絡的基本機制，傳統IP以太網中會使用PFC和ECN機制來避免丟包，但其基本原理是通過反壓降低發送端速度來保證不丟包，實際上并沒有達到提升吞吐率的效果。

   因此，RDMA的高效運行，離不開一個0丟包、高吞吐的開放以太網作為承載。

AI時代的變化3：分布式架構成為趨勢，加劇網絡擁塞，驅動網絡變革

在企業的數字化轉型中，以金融和互聯網企業為代表，大量的應用系統遷移到分布式系統上：通過海量的PC平臺替代傳統小型機，帶來了成本低廉、易擴展、自主可控等優勢，同時也給網絡互聯帶來了挑戰：

分布式架構帶來了服務器間大量的互通需求。

Incast型流量（多點對一點的流量）會在接收端造成流量突發，瞬間超過接收端接口能力，造成擁塞丟包。

分布式架構流量模型示意

隨著分布式系統應用復雜度的增加，服務器之間交互的消息長度越來越大，即流量具備“大包”特征，進一步加劇了網絡擁塞。

什么是超融合網數據中心網絡的核心指標？

從上一節來看，為了滿足AI時代的數據高效處理訴求、應對分布式架構挑戰，0丟包、低時延、高吞吐成為下一代數據中心網絡的三個核心指標。這三個核心指標是互相影響，有蹺蹺板效應，同時達到最優有很大的挑戰。

三個核心指標相互影響

同時滿足0丟包、低時延、高吞吐，背后的核心技術是擁塞控制算法。通用的無損網絡的擁塞控制算法DCQCN（Data Center Quantized Congestion Notification），需要網卡和網絡進行協作，每個節點需要配置數十個參數，全網的參數組合達到幾十萬；為了簡化配置，只能采用通用的配置，導致針對不同的流量模型，常常無法同時滿足這三個核心指標。

超融合數據中心網絡與HCI有什么異同？

HCI（Hyper-Converged Infrastructure，超融合基礎架構）是指在同一套單元設備中不但具備了計算、網絡、存儲和服務器虛擬化等資源和技術，而且多套單元設備可以通過網絡聚合起來，實現模塊化的無縫橫向擴展(Scale—Out)，形成統一的資源池。

HCI將虛擬化計算和存儲整合到同一個系統平臺。簡單地說就是物理服務器上運行虛擬化軟件（Hypervisor），通過在虛擬化軟件上運行分布式存儲服務供虛擬機使用。分布式存儲可以運行在虛擬化軟件上的虛擬機里也可以是與虛擬化軟件整合的模塊。廣義上說，HCI既可以整合計算和存儲資源，還可以整合網絡以及其它更多的平臺和服務。目前業界普遍認為，軟件定義的分布式存儲層和虛擬化計算是HCI架構的最小集。

與HCI不同，超融合數據中心網絡只專注于網絡層面，提供全新的計算、存儲互聯的網絡層方案。使用超融合數據中心網絡，不需像HCI那樣對計算資源、存儲資源進行改造和融合，并且基于以太網很容易實現成低成本的快速擴容。

的超融合數據中心網絡，基于開放以太網，通過獨特的AI算法，可以使以太網絡同時滿足低成本，0丟包和低時延的訴求。超融合數據中心網絡成為AI時代的數據中心構建統一融合的網絡架構的最佳選擇。

從獨立組網到統一融合的組網

超融合數據中心網絡有什么價值？

傳統的FC專網和IB專網，價格昂貴，生態封閉，且需要專人運維，也不支持SDN，無法滿足云網協同等自動化部署的訴求。

使用華為超融合數據中心網絡具有以下價值：

1. 提升端到端業務性能

   使用華為超融合數據中心網絡，據權威第三方測試EANTC測試結論，可以在HPC場景下最高降低44.3%的計算時延，在分布式存儲場景下提升25%的IOPS能力，且所有場景保證網絡0丟包。

   使用華為超融合數據中心網絡，可提供25G/100G/400G組網，滿足AI時代海量數據對網絡大帶寬的需求。

2. 降低成本，提升收益

   數據中心投資中網絡占比僅10%左右，相對服務器/存儲的投資（占比85%），有10倍的杠桿效應，撬動服務器和存儲投資的大幅降低；華為超融合數據中心網絡可以帶來25%的存儲性能提升，40%的計算效率提升，將帶來數十倍的ROI（Return On Investment）能力。

3. 支持SDN自動化和智能運維

   華為超融合數據中心網絡支持SDN云網協同的全生命周期業務自動化，OPEX降低至少60%以上。另外，由于華為超融合數據中心網絡本質上是以太網，因此傳統以太網運維人員就可以管理，且可以依托華為智能分析平臺iMaster NCE-FabricInsight，多維度地、可視化地對網絡進行運維。

超融合數據中心網絡如何工作？

上文提到，使用以太網來承載RDMA流量，目前使用的協議為RoCE（RDMA over Converged Ethernet）v2。華為超融合數據中心網絡，使用iLossless智能無損算法構建無損以太網絡，是一系列技術的合集，通過以下三個方面技術的相互配合，真正解決傳統以太網絡擁塞丟包的問題，為RoCEv2流量提供“無丟包、低時延、高吞吐”的網絡環境，滿足RoCEv2應用的高性能需求。

1. 流量控制技術

   流量控制是端到端的，需要做的是抑制發送端的發送速率，以便接收端來得及接收，防止設備端口在擁塞的情況下出現丟包。華為提供了PFC死鎖檢測和死鎖預防，提前預防PFC死鎖的發生。

2. 擁塞控制技術

   擁塞控制是一個全局性的過程，目的是讓網絡能承受現有的網絡負荷，往往需要轉發設備、流量發送端、流量接收端協同作用，并結合網絡中的擁塞反饋機制來調節整網流量才能起到緩解擁塞、解除擁塞的效果。在擁塞控制過程中，華為提供了AI ECN、iQCN、ECN Overlay和NPCC功能，解決了傳統DCQCN存在的問題。

3. 智能無損存儲網絡技術

   為了更好地服務存儲系統，華為提供了iNOF（智能無損存儲網絡）功能，實現對主機的快速管控。

以上就是如今超融合數據中心網絡的含義和工作原理。如今，超融合已然成為數據中心的主流選擇之一。IDC全球超融合系統報告顯示，超過72%的企業已經部署或者計劃部署超融合HCI。