12年老牌互聯(lián)網(wǎng)IT解決方案提供商
騰佑科技咨詢熱線咨詢熱線: 400-996-8756
工單提交 注冊/登錄
百度云服務(wù)中心騰佑科技公司

主機租用中服務(wù)器適配器的分解

發(fā)布時間:2016-08-08 11:24 作者:admin

簡述:數(shù)據(jù)中心為我們提供了更加可靠的服務(wù),以各種性能的服務(wù)器為主,同時服務(wù)器商也在不斷的對技術(shù)方面進行更新,在主機租用中服務(wù)器適配器也有了很大的發(fā)展。在最近幾年中,許多數(shù)據(jù)平面處理的實例都已經(jīng)得到了長足的發(fā)展,無論是在開源社區(qū)還是在數(shù)據(jù)中心運營商內(nèi)部的商業(yè)部署。

數(shù)據(jù)中心為我們提供了更加可靠的服務(wù),以各種性能的服務(wù)器為主,同時服務(wù)器商也在不斷的對技術(shù)方面進行更新,在主機租用中服務(wù)器適配器也有了很大的發(fā)展。在最近幾年中,許多數(shù)據(jù)平面處理的實例都已經(jīng)得到了長足的發(fā)展,無論是在開源社區(qū)還是在數(shù)據(jù)中心運營商內(nèi)部的商業(yè)部署。
 
服務(wù)器適配器在服務(wù)器中起到了很大的作用,那么有哪些關(guān)鍵的因素了?
 
       關(guān)鍵因素1:處理器的多線程
 
       流處理需要訪問內(nèi)存,諸如基于RAM的DDR3-或DDR4-。為了協(xié)助在CPU核心的處理,基于硬件的加速器處理重復或?qū)iT的功能,例如加密和散列。單線程處理,通過通用CPU(如標準的x86,MIPS和ARM內(nèi)核)、內(nèi)存和加速器存取延遲浪費CPU周期。例如,訪問DDR3內(nèi)存需要幾百個CPU周期,而訪問硬件加速器可能需要更長的的周期,使CPU核心閑置無用,在這一延長期間有效性無用。對于典型的基于主機的數(shù)據(jù)平面處理任務(wù),這個問題往往會降低CPU的有效利用率約10-20%。軟件定制編碼技術(shù)可以填補延遲差距,但這些變化是費時且相當麻煩的,并且其減少了軟件的可移植性。
 
       解決該問題的一個理想的辦法是實現(xiàn)高度多線程的處理核心。當處理核心多線程(例如,每個核心八線程),處理器流水線可以始終執(zhí)行有用的指導,而不會停滯或閑置。其結(jié)果是,較之單線程機器的存儲器或硬件加速器的訪問要求顯著,而在典型的基于主機聯(lián)網(wǎng)和新興NFV應(yīng)用程序的數(shù)據(jù)平面處理的情況下,多線程處理增益可以高達800%。
 
       關(guān)鍵因素2:許多處理器核心優(yōu)于一些更快的核心
 
       通用CPU通常是針對最高處理器時鐘速度以功率和面積為代價實施了優(yōu)化的。例如,超過15個階段的大型復雜管道,亂序執(zhí)行和分支預測能力在這樣的CPU中是常見的。如前面所解釋的,由于缺乏多線程,以減少內(nèi)存延遲的影響,也同樣需要大的高速緩存。當這樣的通用的CPU核心被打包成一個單一的硅芯片,如在MIPS-或基于ARM的多核SoC,有效性能增益比包裝在相同的硅芯片的大量較小的處理核更低。換言之,在硅芯片使用更加優(yōu)化的多線程處理核心要比使用較少的具備很少或沒有線程和大型高速緩存的高性能通用CPU核心的數(shù)據(jù)平面處理更好。使用大型處理器內(nèi)核會有顯著的開銷,其價格和功耗在服務(wù)區(qū)適配器設(shè)計中已經(jīng)被設(shè)置,作為通用服務(wù)器用于計算節(jié)點顯示。
 
       關(guān)鍵因素3:內(nèi)存和加速器的多線程
 
       在數(shù)據(jù)密集的流處理,對于內(nèi)存和硬件加速器的有效訪問是相當關(guān)鍵的,但該挑戰(zhàn)僅僅只是加劇了大量的流量和復雜的處理(如用于匹配和復雜操作的元組數(shù)目)。鑒于越來越多支持更多的用戶,租戶和應(yīng)用程序的需要,以及對于安全性和服務(wù)水平相關(guān)的嚴格監(jiān)管政策的要求,這樣的要求,必然會成為數(shù)據(jù)中心普遍的問題。雖然更快地訪問內(nèi)存是很重要的,但多線程訪問內(nèi)存更為重要。一個具備硬件加速器的多線程的內(nèi)存子系統(tǒng)可以確保避免處理核心停滯。這樣一個高效的設(shè)計的一個例子是使用多個具備高帶寬縱橫輸入SRAM內(nèi)存庫。采用專用的高性能緊耦合的硬件引擎執(zhí)行關(guān)鍵功能如原子、統(tǒng)計、查詢和負載平衡來訪問這種SRAM內(nèi)存庫,進一步實現(xiàn)了加速。
 
       關(guān)鍵因素4:高性能分布式網(wǎng)格構(gòu)造
 
       以上介紹的多線程處理核心,硬件加速和多組存儲單元必須同步,提供高性能的同時避免停滯。在訪問共享資源時,傳統(tǒng)的共享總線結(jié)構(gòu)受到帶寬飽和和負載的競爭問題的作用。這個問題可以通過在處理元件之間使用具備多比特分帶寬/對半帶寬 (bisection bandwidth)的一個有效的高性能分布式網(wǎng)格構(gòu)造來避免。這種分布式的網(wǎng)格構(gòu)造會避免沖突和在通用的基于CPU的SoC常見的共享總線結(jié)構(gòu)飽和的問題。
 
       關(guān)鍵因素5:優(yōu)化基于主機的網(wǎng)絡(luò)的編程工具
 
       雖然乍看之下,通用CPU內(nèi)核似乎很容易編程,例如,通過使用標準的基于C語言的編程工具,但當試圖讓應(yīng)用程序并行及性能規(guī)模化的時候,其難度和復雜程度大幅增加。所以從這個意義上說,它們?nèi)狈τ陂_發(fā)優(yōu)化的數(shù)據(jù)平面處理應(yīng)用程序良好的支持。當編程的多線程處理核心時,采用強大的、易于使用的、基于C語言的程序工具以支持并行編程環(huán)境,并在編程期間支持提供線程級可視化是相當關(guān)鍵的。他們也應(yīng)該允許創(chuàng)建針對多線程操作優(yōu)化的數(shù)據(jù)平面處理程序。
 
       除了基于C編程工具,正在支持高級編程語言,如P4[3]正成為可能,其能夠使說明和數(shù)據(jù)路徑的功能的代碼更簡單并且不那么耗時。使用開源的P4語言,設(shè)計人員可以編寫簡潔的程序,以靈活地定義匹配,操作處理,以快速部署新的協(xié)議,如新興的網(wǎng)絡(luò)覆蓋 。P4也是硬件無關(guān)的,所以它可以被重新定向到不同的技術(shù)和實現(xiàn)方式中,條件是它們支持P4的環(huán)境。
 
       關(guān)鍵因素6:命中計算節(jié)點經(jīng)濟
 
       智能服務(wù)器適配器正在不斷的以自然的方式發(fā)展,從低容量的特殊應(yīng)用程序開始,有望成為大容量的主流部署。采用多內(nèi)核SoC芯片的初始部署都發(fā)現(xiàn)了他們進入設(shè)備和專用的服務(wù)器的方式,有時被稱為服務(wù)節(jié)點或網(wǎng)絡(luò)節(jié)點。在這樣的應(yīng)用程序中,一些情況下使用網(wǎng)絡(luò)處理器和FPGA。由于服務(wù)節(jié)點的部署量并沒有非常大,數(shù)據(jù)中心運營商都愿意為數(shù)據(jù)平面處理的可編程服務(wù)器適配器支付溢價。
 
       盡管基于主機的軟件定義網(wǎng)絡(luò)(SDN)和網(wǎng)絡(luò)功能的虛擬化(NFV)技術(shù)已經(jīng)成為數(shù)據(jù)中心應(yīng)用的主流,然而,對于智能服務(wù)器適配器在更高容量的計算節(jié)點的需求預計會大幅上升。這種情況將需要智能服務(wù)器適配器能夠較之早期服務(wù)節(jié)點部署提供更好的性價比。具體而言,這樣的適配器將不得不在今天部署的大多數(shù)服務(wù)器的25瓦的PCI Express總線封裝內(nèi)以線速運行。最重要的是,他們必須有合理的價格,以支持計算節(jié)點服務(wù)器的容量經(jīng)濟。因此,在可編程服務(wù)器適配器的硅技術(shù)和數(shù)據(jù)平面處理架構(gòu)必須實現(xiàn)性能,規(guī)模性和經(jīng)濟性。上述從1至5的五大關(guān)鍵因素均要求滿足數(shù)據(jù)平面處理在25-, 40- and 50GbE帶寬的要求,同時命中數(shù)據(jù)中心運營商們對于計算節(jié)點經(jīng)濟的預期。
 
       關(guān)鍵因素7:為主流應(yīng)用做好準備的軟件系統(tǒng)
 
       除了滿足性能、功能、價格和功耗方面的要求,主流對于可編程的服務(wù)器適配器的采用將需要一個良好支持的軟件系統(tǒng)。具體來說,服務(wù)器操作系統(tǒng)內(nèi)核、用戶空間和虛擬交換機的網(wǎng)絡(luò)軟件堆棧必須支持安裝和運行這樣的服務(wù)器適配器,可以卸載數(shù)據(jù)平面處理如虛擬網(wǎng)絡(luò)隧道和匹配相關(guān)流程處理操作。
 
其實在如今的市場中,也有一些主流的產(chǎn)品,用戶當然是可以根據(jù)自身的需求來確定使用什么樣的產(chǎn)品,適配器也逐漸的滿足用戶的需求。
點擊展開全文

騰佑科技(mubashirfilms.com)成立于2009年,總部位于河南鄭州,是一家集互聯(lián)網(wǎng)基礎(chǔ)設(shè)施及軟硬件于一體化的高新技術(shù)企業(yè),具有IDC/ISP/ICP/云牌照、雙軟等資質(zhì),并擁有多個國家版權(quán)局認證。公司自成立以來,一直致力于發(fā)展互聯(lián)網(wǎng)IDC數(shù)據(jù)中心DataCenter、云計算Cloud、大數(shù)據(jù)BigDate、人工智能AI、內(nèi)容加速CDN、互聯(lián)網(wǎng)安全、軟件定制開發(fā)等產(chǎn)品服務(wù)及行業(yè)客戶技術(shù)一體化智能解決方案;2018年成為百度智能云AI河南服務(wù)中心。

售前咨詢熱線:400-996-8756

備案提交:0371-89913068

售后客服:0371-89913000

熱門活動

百度云服務(wù)中心
  • 熱門資訊
  • 隨便看看