人工智能技術(shù)熱火朝天，怎么選擇GPU網(wǎng)絡(luò)服務(wù)器？

常常有好朋友在資詢?cè)趺催x擇GPU來(lái)配備用以深度神經(jīng)網(wǎng)絡(luò)或測(cè)算加快的GPU網(wǎng)絡(luò)服務(wù)器，今天就與大家來(lái)分享一下怎么選擇GPU網(wǎng)絡(luò)服務(wù)器?讓我們?cè)谔暨xGPU網(wǎng)絡(luò)服務(wù)器以前，首先來(lái)跟大伙兒詳細(xì)介紹下常用的用以深度神經(jīng)網(wǎng)絡(luò)技術(shù)專業(yè)的測(cè)算加速卡-NVIDIATesla系列GPU和GPU網(wǎng)絡(luò)服務(wù)器。

一、NVIDIATesla系列的GPU，按系統(tǒng)總線接口方式，能夠分成NV-Link插口、傳統(tǒng)式PCI-e系統(tǒng)總線插口二種。

1、NV-Link接口方式的GPU

典型代表是NVIDIAV100，選用SXM2插口。在DGX-2上面有SXM3的插口。NV-Link總線規(guī)范的GPU網(wǎng)絡(luò)服務(wù)器能夠分成兩大類，一類是NVIDIA公司設(shè)計(jì)的DGX高性能計(jì)算機(jī)，另一類是合伙人設(shè)計(jì)方案的NV-Link插口的網(wǎng)絡(luò)服務(wù)器。DGX高性能計(jì)算機(jī)不僅給予硬件配置，也有相應(yīng)的系統(tǒng)和服務(wù)項(xiàng)目。

2、傳統(tǒng)式PCI-e系統(tǒng)總線插口的GPU

現(xiàn)階段NVIDIA專業(yè)用以技術(shù)專業(yè)測(cè)算加快的TeslaGPU關(guān)鍵有：TeslaP4/P40、P100、V100及其全新的圖靈構(gòu)架TeslaT4這幾種。在其中比較薄和只占一個(gè)槽位的P4和T4，一般用以Inference，現(xiàn)階段也早已有完善的模式開展邏輯推理和鑒別。

二、傳統(tǒng)式PCI-e系統(tǒng)總線的GPU網(wǎng)絡(luò)服務(wù)器也分成兩大類:

一類是OEM網(wǎng)絡(luò)服務(wù)器，通過(guò)NVIDIA官方網(wǎng)檢測(cè)資質(zhì)認(rèn)證的例如H3C、DELL、Lenovo、黎明、的浪潮、華為手機(jī)等其它國(guó)際名牌；

另一類是是非非OEM的網(wǎng)絡(luò)服務(wù)器，也包含許多類型。

挑選服務(wù)器時(shí)除開歸類，還需要考慮到性能參數(shù)，例如精密度、顯存類型、顯存容量及其功能損耗等，從而會(huì)出現(xiàn)一些服務(wù)器是必須水冷散熱、減噪或是對(duì)環(huán)境溫度、移動(dòng)化這些層面有特殊的規(guī)定，就必須特殊的網(wǎng)絡(luò)服務(wù)器。

三、怎么選擇GPU網(wǎng)絡(luò)服務(wù)器？

挑選GPU遠(yuǎn)程服務(wù)器最先要了解業(yè)務(wù)需求來(lái)挑選適宜的GPU型號(hào)規(guī)格。在HPC大數(shù)據(jù)處理中還要依據(jù)精密度來(lái)挑選，例如有些大數(shù)據(jù)處理必須雙精度，這時(shí)候假如應(yīng)用P40或是P4也不適合，只有應(yīng)用V100或是P100；從而會(huì)讓顯存容量有規(guī)定，例如原油或石油化工勘查類的測(cè)算運(yùn)用對(duì)顯卡內(nèi)存規(guī)定高些；還有一些對(duì)系統(tǒng)總線規(guī)范有規(guī)定，因而挑選GPU型號(hào)規(guī)格先要看業(yè)務(wù)需求。

GPU網(wǎng)絡(luò)服務(wù)器人工智能領(lǐng)域的運(yùn)用也較多。在教育情景中，對(duì)GPU虛擬化技術(shù)的需求比較高。依據(jù)課堂教學(xué)總數(shù)，一個(gè)老師很有可能必須將GPU網(wǎng)絡(luò)服務(wù)器虛似出30乃至60個(gè)虛似GPU，因而大批量Training對(duì)GPU規(guī)定高些，通常用V100做GPU的練習(xí)。模型訓(xùn)練完以后必須開展邏輯推理，因而邏輯推理一般會(huì)采用P4或是T4，一小部分狀況也用到V100。

當(dāng)GPU型號(hào)規(guī)格選中后，再考慮到用怎樣GPU的網(wǎng)絡(luò)服務(wù)器。這時(shí)候我們應(yīng)該考慮到下列幾類狀況：

第一、在邊緣服務(wù)器上必須依據(jù)量來(lái)挑選T4或是P4等對(duì)應(yīng)的網(wǎng)絡(luò)服務(wù)器，從而要了解服務(wù)器的適用場(chǎng)景，例如汽車站接口、飛機(jī)場(chǎng)接口或是公安機(jī)關(guān)接口等；在核心端做Inference時(shí)有可能必須V100的網(wǎng)絡(luò)服務(wù)器，必須考慮到貨運(yùn)量及其適用場(chǎng)景、總數(shù)等。

第二、必須考慮到顧客自身應(yīng)用群體和IT運(yùn)維工作能力，針對(duì)BAT這類大企業(yè)而言，他們自己的運(yùn)營(yíng)能力比較強(qiáng)，這時(shí)候會(huì)挑選通用性的PCI-e服務(wù)器；而對(duì)一些IT運(yùn)維工作能力沒(méi)有那么弱的顧客，她們更了解數(shù)據(jù)及其數(shù)據(jù)堂等，大家稱這種人為大數(shù)據(jù)工程師，挑選GPU服務(wù)器的規(guī)范還會(huì)各有不同。

第三、必須考慮到配套設(shè)施手機(jī)軟件和業(yè)務(wù)的意義。

第四、要了解總體GPU群集系統(tǒng)軟件的完善程度上及其工程項(xiàng)目高效率，例如像DGX這類GPU一體化的高性能計(jì)算機(jī)，它有十分完善的從底端電腦操作系統(tǒng)推動(dòng)Docker到其它部位全是固定不動(dòng)且提升過(guò)的，這時(shí)候高效率就高些。

下邊為我們?cè)敿?xì)介紹一款DELLGPU網(wǎng)絡(luò)服務(wù)器：合適公司大中小型深度神經(jīng)網(wǎng)絡(luò)應(yīng)用場(chǎng)景！

PowerEdgeR740機(jī)架式服務(wù)器

對(duì)于工作中負(fù)荷加快進(jìn)行了提升的常用網(wǎng)絡(luò)服務(wù)器

PowerEdgeR740網(wǎng)絡(luò)服務(wù)器在一個(gè)2U兩路服務(wù)平臺(tái)中優(yōu)異均衡了網(wǎng)絡(luò)加速器卡、儲(chǔ)存和云計(jì)算服務(wù)器，可協(xié)助您最大限度地提升應(yīng)用軟件特性。R740給予高達(dá)3個(gè)300W或6個(gè)150W網(wǎng)絡(luò)加速器卡，具備多元性作用，可融入基本上一切應(yīng)用軟件并且為VDI布署給予良好的網(wǎng)站。R740給予高達(dá)16個(gè)2.5"或8個(gè)3.5"控制器及其iDRAC9，因而您可以依據(jù)要求開展拓展并優(yōu)化全部IT生命期。

合適的工作負(fù)荷：

VDI

專用型云

人工智能技術(shù)

機(jī)器學(xué)習(xí)算法

依靠DellEMCPowerEdge產(chǎn)品組合策略完成IT轉(zhuǎn)型發(fā)展

R740是一款對(duì)于工作中負(fù)荷加快進(jìn)行了提升的常用網(wǎng)絡(luò)服務(wù)器。憑著其多功能化，R740可協(xié)助您完成大數(shù)據(jù)中心轉(zhuǎn)型發(fā)展，切合VDI、人工智能技術(shù)和手機(jī)軟件界定儲(chǔ)存(SDS)的發(fā)展趨向。

依靠通過(guò)認(rèn)證、預(yù)捆縛的訂制準(zhǔn)備就緒連接點(diǎn)，簡(jiǎn)單化并加速VMwarevSAN™布署。

運(yùn)用intel®酷睿i5®可擴(kuò)展Cpu拓展云計(jì)算服務(wù)器，與前一代至強(qiáng)處理器對(duì)比，解決關(guān)鍵總數(shù)提升27%，網(wǎng)絡(luò)帶寬提升50%。*

運(yùn)用3個(gè)雙寬GPU拓展VDI布署，適用比R730高于50%的用戶數(shù)。*

應(yīng)用對(duì)于運(yùn)行進(jìn)行了提升的內(nèi)嵌M.2固態(tài)盤，釋放出來(lái)儲(chǔ)存空間。

運(yùn)用智能化內(nèi)嵌式管理方法完成自動(dòng)化技術(shù)，提高效率

DellEMC自動(dòng)化技術(shù)和智能管理代表著您可以降低耗費(fèi)在日常維護(hù)保養(yǎng)里的時(shí)長(zhǎng)，致力于更重要的優(yōu)先選擇事宜。

根據(jù)積極檢查和自動(dòng)修復(fù)，最大限度地增加正常運(yùn)轉(zhuǎn)時(shí)長(zhǎng)并把工作效能提升高達(dá)90%。*

依靠適用VMware®vSphere®、Microsoft®SystemCenter和Nagios®的輕輕松松集成化，充分利用原有的管理方法控制面板。

應(yīng)用免代理商DellEMCiDRAC9開展全自動(dòng)、有效的管理方法，協(xié)助提高效率。

應(yīng)用OpenManage下一代控制面板和服務(wù)器的配置文檔簡(jiǎn)單化布署，迅速、可擴(kuò)展地配備和提前準(zhǔn)備網(wǎng)絡(luò)服務(wù)器。

依靠全方位維護(hù)提高大數(shù)據(jù)中心

DellEMC給予具備互聯(lián)網(wǎng)彈力的全方位構(gòu)架，在每臺(tái)網(wǎng)絡(luò)服務(wù)器中置入安全系數(shù)，保證您的網(wǎng)絡(luò)信息安全無(wú)虞。

應(yīng)用全新升級(jí)配備鎖定功能，避免服務(wù)器的配置和固定件被故意變更。

本地存儲(chǔ)具有系統(tǒng)軟件擦掉作用，在您調(diào)節(jié)主要用途或取代遠(yuǎn)程服務(wù)器，協(xié)助您維護(hù)數(shù)據(jù)隱私。

自動(dòng)化技術(shù)升級(jí)會(huì)在查驗(yàn)文檔依靠項(xiàng)和恰當(dāng)?shù)纳?jí)次序以后，再獨(dú)立于電腦操作系統(tǒng)/vm虛擬機(jī)管理流程布署升級(jí)。

運(yùn)用內(nèi)嵌式身份認(rèn)證（只容許運(yùn)作設(shè)計(jì)方案恰當(dāng)?shù)纳?jí)），便于操縱您的固定件控制面板。（申明:文中轉(zhuǎn)自互聯(lián)網(wǎng)，若有質(zhì)疑，請(qǐng)?zhí)崆巴ㄖ蠹遥。┰斍檎?qǐng)騰佑科技客服熱線400-996-8756。