如何提升深度學(xué)習(xí)平臺(tái)效率？阿里云推出了這么一個(gè)神器
2017-06-22 10:32:23 來(lái)源：阿里云 熱度:
隨著深度學(xué)習(xí)對(duì)人工智能的巨大推動(dòng)，深度學(xué)習(xí)所構(gòu)建的多層神經(jīng)網(wǎng)絡(luò)模型的參數(shù)空間已從百萬(wàn)級(jí)上升到百億級(jí)，這對(duì)計(jì)算能力提出了新的挑戰(zhàn)。相比CPU，GPU更適合深度學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型，可進(jìn)行高度統(tǒng)一、相互無(wú)依賴的大規(guī)模并行計(jì)算。
阿里云發(fā)布的最新一代異構(gòu)計(jì)算通用GPU實(shí)例GN5規(guī)格族就是一款用于搭建深度學(xué)習(xí)加速平臺(tái)的云端利器。
“品學(xué)兼優(yōu)”的GN5采用了NVIDIA Pascal架構(gòu)旗艦級(jí)P100 GPU，可在云端按需構(gòu)建敏捷彈性、高性能和高性價(jià)比的深度學(xué)習(xí)平臺(tái)，讓用戶以最簡(jiǎn)便地方式享用阿里云遍布全球的高效、穩(wěn)定的云基礎(chǔ)設(shè)施資源。
與上一代相比，GN5的單實(shí)例性能拓展了5倍，單實(shí)例最多可提供8個(gè) NVIDIA P100 GPU，提供2萬(wàn)多個(gè)并行處理核心，最高75TFLOPS FP32單精度浮點(diǎn)、150 TFLOPS FP16半精度浮點(diǎn)和38 TFLOPS FP64雙精度浮點(diǎn)運(yùn)算能力。
自建GPU物理服務(wù)器經(jīng)常會(huì)遇上擴(kuò)容難、適配難的難題，GN5規(guī)格族提供了靈活彈性的系列化配置，可以根據(jù)深度學(xué)習(xí)計(jì)算力的要求，按需選擇合適的規(guī)格，分鐘級(jí)即可完成實(shí)例的創(chuàng)建，并可根據(jù)運(yùn)算力需求進(jìn)行GPU實(shí)例的“Scale-out”水平擴(kuò)容或“Scale-up”垂直變配。
為了更好地發(fā)揮GN5多GPU卡并行計(jì)算效率，GN5支持GPUDirect，通過(guò)GPU卡之間點(diǎn)對(duì)點(diǎn)通信，可讓GPU之間在無(wú)需CPU干預(yù)下，直接通過(guò)PCIe的總線進(jìn)行高帶寬低時(shí)延的互聯(lián)通信，極大地提升了深度學(xué)習(xí)訓(xùn)練中模型參數(shù)交換效率。
除了GPU外，深度學(xué)習(xí)還需要有海量的數(shù)據(jù)存儲(chǔ)能力、業(yè)務(wù)服務(wù)能力、監(jiān)控能力等，這在傳統(tǒng)模式下復(fù)雜度高、工作量大、費(fèi)時(shí)費(fèi)力。而GN5實(shí)現(xiàn)了與ECS彈性計(jì)算生態(tài)的完美結(jié)合，可與OSS對(duì)象存儲(chǔ)、NAS文件存儲(chǔ)等打通，滿足深度學(xué)習(xí)海量訓(xùn)練數(shù)據(jù)的低成本存儲(chǔ)和訪問(wèn)要求；通過(guò)EMR服務(wù)進(jìn)行預(yù)處理；通過(guò)云監(jiān)控服務(wù)進(jìn)行GPU資源的監(jiān)控與告警；通過(guò)負(fù)載均衡、彈性伸縮、資源編排等快速在云端搭建完整彈性GPU服務(wù)；并可搭配容器服務(wù)使用，簡(jiǎn)化部署和運(yùn)維的復(fù)雜度，提供資源調(diào)度服務(wù)等。
GN5實(shí)例支持靈活的使用支付方式，用戶可以按年支付以獲得最高的使用折扣；也支持按月周期付費(fèi)，以降低用戶的計(jì)算資源使用一次性投入成本，并且具有相對(duì)較低的單位小時(shí)使用價(jià)格；同樣支持按小時(shí)的付費(fèi)方式使用戶以最低的單次使用成本來(lái)應(yīng)對(duì)臨時(shí)性的短期使用需求。
下一篇：企業(yè)部署混合云亟需考慮的4大要點(diǎn)上一篇：動(dòng)動(dòng)筆桿，淘寶輕松年入百萬(wàn)？這會(huì)是內(nèi)容創(chuàng)業(yè)最好的時(shí)代嗎？
責(zé)任編輯：王良地
相關(guān)推薦
IPTV對(duì)運(yùn)營(yíng)商ARPU的貢獻(xiàn)度分析
運(yùn)營(yíng)商對(duì)IPTV的投入表現(xiàn)在三個(gè)方面：一是IPTV系統(tǒng)的投入，包括局端設(shè)備的投入和用戶端STB設(shè)備的投入；二是城域網(wǎng)和接入網(wǎng)方面的成本投入；三是IPTV投入使用后的維護(hù)管理成本。根據(jù)目前中國(guó)電信、中國(guó)網(wǎng)通試商用的情況，第一部分投入的成本至少需要1000元／用戶，后兩部分的成本目前還較難量化。從試商用城市的情況來(lái)看，目前IPTV業(yè)務(wù)的資費(fèi)情況是60元／月。其中分為兩個(gè)部分，業(yè)務(wù)月租費(fèi)用為20元；業(yè)務(wù)視頻內(nèi)容費(fèi)用為40元。在此資費(fèi)中，運(yùn)營(yíng)商的收入表現(xiàn)在兩方面：一是業(yè)務(wù)月租費(fèi)，每用戶為20元／月，這部分是運(yùn)營(yíng)商能夠完全擁有的。二是業(yè)務(wù)視頻內(nèi)容費(fèi)用的分成，這是業(yè)務(wù)內(nèi)容和網(wǎng)絡(luò)提供所能帶來(lái)的收入，這部分收