GPU比CPU耗電?NVIDIA用自身行動回應疑問
據(jù)國家發(fā)改委官方數(shù)據(jù),每消耗1噸標準煤,數(shù)據(jù)中心直接貢獻產(chǎn)值1.1萬元,數(shù)字產(chǎn)業(yè)化增加貢獻值88.8萬元,此外還可帶動各行業(yè)數(shù)字化轉型,間接產(chǎn)生360.5萬元的產(chǎn)業(yè)數(shù)字化市場。但是與此同時,由于數(shù)據(jù)中心耗電量不斷刷新紀錄,在碳達峰、碳中和目標下,數(shù)據(jù)中心的節(jié)能減排也備受關注。
隨著人工智能類工作負載的流行,GPU已經(jīng)成為數(shù)據(jù)中心的標配。無論是通過云還是在本地數(shù)據(jù)中心,各大公司在采用AI等技術的同時,計算的能耗也在日益提升。在我們的常識中,GPU是比CPU更加耗電。那么這是否意味著GPU會加大數(shù)據(jù)中心的能耗呢?
其實,對于AI工作負載,NVIDIA GPU的能效是傳統(tǒng)CPU服務器的42倍。NVIDIA的HGX-A100云服務器平臺將16個NVIDIA V100 Tensor Core GPU連接在一起,可作為單一巨型GPU運行,提供2petaflops的AI性能,創(chuàng)下了單臺服務器AI訓練算力的紀錄。
在短短兩年內,NVIDIA AI系統(tǒng)將在單一服務器上訓練圖像識別模型ResNet-50的時間從8小時減少至40分鐘。隨著AI采用的加速,NVIDIA的重點從訓練轉移到推理,使經(jīng)過訓練的模型能夠在全球數(shù)百萬臺超大規(guī)模服務器運行的實時應用程序中運行。
NVIDIA的TensorRT推理軟件甚至能夠助力最大型神經(jīng)網(wǎng)絡在數(shù)據(jù)中心、嵌入式和汽車等多種應用中實時運行。A100比CPU快237倍。與其所取代的基于CPU的系統(tǒng)相比,配備NVIDIA GPU和TensorRT的超大規(guī)模數(shù)據(jù)中心占用的機架空間僅為其1/47,運行的能源成本降低了95%,同時還能提供運行所有AI模型的實用程序。
NVIDIA的綠色化
對于NVIDIA的Logo我們一定不陌生,其實NVIDIA一直通過以降低環(huán)境影響的方式推動卓越運營,從而保護環(huán)境。
NVIDIA實施了符合 ISO 50001標準的能源管理體系,以采用更加結構化的方法來管理NVIDIA的幾處重要的數(shù)據(jù)中心所在地的能源效率。
2021財年,數(shù)據(jù)中心占NVIDIA總能源使用量的46%,隨著NVIDIA布局的擴大,NVIDIA將能源效率納入了NVIDIA擁有的新建筑的設計中,NVIDIA在英國劍橋的全新超級計算機的所在地和位于達拉斯的數(shù)據(jù)中心都簽署了新的可再生能源供應合同。
NVIDIA還致力于采用更多可再生能源運營自身的數(shù)據(jù)中心。2021財年,NVIDIA有17處辦公地點完全采用可再生能源供電。NVIDIA的目標是到2025年,全球65%的用電來自太陽能等來源。
隨著業(yè)務不斷擴展,并通過新的在線服務來實現(xiàn)多元化,數(shù)據(jù)中心運營也在快速發(fā)展。在NVIDIA的全球數(shù)據(jù)中心足跡出現(xiàn)這種增長趨勢的過程中,NVIDIA努力將環(huán)境因素(包括能效和可再生能源選項)納入NVIDIA的數(shù)據(jù)中心選址和采購評估中。過去的兩年中,NVIDIA重新為美國和全球的數(shù)個主機托管數(shù)據(jù)中心提供了可再生能源。
隨著NVIDIA數(shù)據(jù)中心業(yè)務的增長,NVIDIA已經(jīng)部署了專為NVIDIA服務器產(chǎn)品設計的最新冷卻技術。配電增加了電壓供應,以更有效地輸送電能。冷卻解決方案與服務器機架緊密結合,以定位并優(yōu)化熱傳遞。NVIDIA使用計算流體動力學模型來增強數(shù)據(jù)中心設計和服務器機架部署的散熱。數(shù)據(jù)中心還部署了白色表面以優(yōu)化反射照明?煽匦透咝ED照明安裝在需要人工照明之處。這一系列的舉措讓數(shù)據(jù)中心的能耗控制更高效。
NVIDIA與客戶和合作伙伴共享NVIDIA的數(shù)據(jù)中心最佳實踐和優(yōu)化方法,以進行部署相關的教育,并優(yōu)化部署。例如,NVIDIA與領先的存儲和網(wǎng)絡技術提供商合作,提供參考架構組合,以實現(xiàn)NVIDIA DGX服務器產(chǎn)品的優(yōu)化和高效部署,并在NVIDIA的網(wǎng)站上公開提供這些架構。
本文章選自《數(shù)字化轉型方略》雜志,閱讀更多雜志內容,請掃描下方二維碼