至頂網(wǎng)計(jì)算頻道 08月05日 新聞消息（文/李祥敬）：作為智能世界的新型基礎(chǔ)設(shè)施，AI、5G、智能邊緣和云計(jì)算等行業(yè)轉(zhuǎn)折性技術(shù)將加速數(shù)字經(jīng)濟(jì)騰飛，為新業(yè)務(wù)的增長帶來巨大發(fā)展機(jī)遇。如今，AI及數(shù)據(jù)分析為金融、健康醫(yī)療、工業(yè)、通信及交通等多行業(yè)客戶開啟了全新的機(jī)遇。據(jù)IDC預(yù)測，到2021年，75%的商業(yè)企業(yè)的各類應(yīng)用將應(yīng)用人工智能；到2025年，所有數(shù)據(jù)中將有約四分之一是實(shí)時(shí)產(chǎn)生的，而在這一龐大的增量中有95%的數(shù)據(jù)將通過各種物聯(lián)網(wǎng)（IoT）設(shè)備產(chǎn)生。

人工智能和數(shù)據(jù)分析是未來10年的關(guān)鍵工作負(fù)載，快速部署AI和數(shù)據(jù)分析對當(dāng)今各類企業(yè)至關(guān)重要。英特爾一直致力于不斷強(qiáng)化處理器的內(nèi)置AI加速能力和軟件優(yōu)化優(yōu)勢，以更好地為全球的數(shù)據(jù)中心和邊緣解決方案提供動(dòng)能，并通過打造無與倫比的芯片基石，助力釋放數(shù)據(jù)中的無限洞察。

近日，英特爾宣布推出最新的數(shù)據(jù)平臺(tái)產(chǎn)品組合，包括集成AI加速的英特爾第三代至強(qiáng)可擴(kuò)展處理器、英特爾首個(gè)人工智能優(yōu)化FPGA Stratix 10 NX、第二代英特爾傲騰持久內(nèi)存、最新英特爾3D NAND SSD及相關(guān)軟件解決方案，以在數(shù)據(jù)中心、云和智能邊緣領(lǐng)域支持客戶進(jìn)一步加快人工智能和數(shù)據(jù)分析等工作負(fù)載的開發(fā)和部署，助力智能新基建建設(shè)，駕馭數(shù)字經(jīng)濟(jì)新浪潮。

英特爾市場營銷集團(tuán)副總裁、中國區(qū)數(shù)據(jù)中心銷售總經(jīng)理陳葆立表示，數(shù)據(jù)中心市場蓬勃發(fā)展，英特爾CPU是是業(yè)界唯一集成AI加速的處理器。同時(shí)，英特爾擁有全面的產(chǎn)品組合，實(shí)現(xiàn)數(shù)據(jù)中心領(lǐng)域的全面覆蓋。

英特爾為AI與數(shù)據(jù)分析打造了無與倫比的廣泛產(chǎn)品組合和生態(tài)系統(tǒng)支持。經(jīng)過全面優(yōu)化的全新數(shù)據(jù)平臺(tái)與基于英特爾AI技術(shù)不斷蓬勃發(fā)展的合作伙伴生態(tài)一道，正在幫助各類企業(yè)積極部署智能的AI和數(shù)據(jù)分析服務(wù)，從而將數(shù)據(jù)轉(zhuǎn)變?yōu)槠髽I(yè)的重要資產(chǎn)。

細(xì)數(shù)第三代至強(qiáng)可擴(kuò)展處理器的黑科技

說起數(shù)據(jù)中心市場，不得不提到目前站在C位的英特爾至強(qiáng)處理器平臺(tái)。目前，英特爾至強(qiáng)可擴(kuò)展性處理器已出貨超過3000萬個(gè)，是全球部署最廣泛的數(shù)據(jù)中心平臺(tái)，仍然擁有95％的市場份額。

縱觀英特爾至強(qiáng)處理器產(chǎn)品的路線圖，就會(huì)知道至強(qiáng)處理器已經(jīng)有二十多年的歷史了。從2017年開始推出第一代至強(qiáng)可擴(kuò)展處理器，2018年推出了代號(hào)為Cascade Lake的第二代至強(qiáng)可擴(kuò)展處理器。今年，英特爾第三代至強(qiáng)可擴(kuò)展處理器即將問世，該產(chǎn)品有兩個(gè)產(chǎn)品系列，代號(hào)分別是Cooper Lake和Ice Lake，Copper Lake的定位是一個(gè)系統(tǒng)支持4-8個(gè)處理器插槽，即多路處理器，而Ice Lake的定位則是一個(gè)系統(tǒng)當(dāng)中支持1-2個(gè)處理器插槽。英特爾預(yù)計(jì)在明年下半年會(huì)推出下一代的至強(qiáng)可擴(kuò)展處理器，代號(hào)為Sapphire Rapids。

第三代至強(qiáng)可擴(kuò)展處理器專為當(dāng)今內(nèi)置人工智能的數(shù)據(jù)密集型服務(wù)而設(shè)計(jì)。人工智能和數(shù)據(jù)密集型服務(wù)是最近這幾年業(yè)界的普遍需求，也是技術(shù)發(fā)展的方向。對于人工智能的支持，在第三代至強(qiáng)可擴(kuò)展處理器當(dāng)中，英特爾進(jìn)一步升級了DL Boost深度學(xué)習(xí)加速技術(shù)，同時(shí)在深度學(xué)習(xí)加速架構(gòu)下的VNNI神經(jīng)網(wǎng)絡(luò)指令可以支持創(chuàng)新的bfloat16數(shù)據(jù)格式。

結(jié)合DL Boost以及bfloat16，英特爾第三代至強(qiáng)可擴(kuò)展處理器平臺(tái)相比上一代平臺(tái)Cascade Lake最頂級的CPU 8280，在進(jìn)行圖像分類處理的時(shí)候，計(jì)算性能可以提高1.93倍，這是一個(gè)非常顯著的提高。對于計(jì)算密集型的應(yīng)用，英特爾在新的平臺(tái)里可以支持更多的CPU內(nèi)核和更高的CPU主頻，提供更多的內(nèi)存通道數(shù)、更快的內(nèi)存速度、更高的內(nèi)存容量。第三代至強(qiáng)可擴(kuò)展處理器具備更強(qiáng)的計(jì)算能力、更大的數(shù)據(jù)存儲(chǔ)能力，對于計(jì)算密集型的應(yīng)用，相比于以往4路平臺(tái)，其計(jì)算性能提高了92%，并支持第二代傲騰持久內(nèi)存。

同時(shí)，針對如今云計(jì)算應(yīng)用、企業(yè)應(yīng)用的多樣性，第三代至強(qiáng)可擴(kuò)展處理器搭載了第二代的Speed Select技術(shù)（簡稱SST），可以讓用戶有更多的靈活性配置系統(tǒng)，更好地滿足業(yè)務(wù)需求。SST是為了解決諸多企業(yè)客戶或者互聯(lián)網(wǎng)客戶遇到的痛點(diǎn)。多樣性的業(yè)務(wù)越來越復(fù)雜，對硬件有不同的需求，有的業(yè)務(wù)希望單線程的性能盡可能高，但它并不需要有很多的線程進(jìn)行并行計(jì)算；另外有一些業(yè)務(wù)希望擁有很多的線程進(jìn)行并發(fā)處理，但是對單線程要求并不高。以往應(yīng)對這些不同需求的做法是量身定制，對第一類應(yīng)用適配對應(yīng)的CPU以及硬件配置。對于另外一類就需要再選一款CPU搭配新的機(jī)器使用。這種方式雖然可以解決問題，但是如果業(yè)務(wù)發(fā)生變化，配置就顯得非常不靈活。

此外還有一種情況，隨著計(jì)算密度越來越高，CPU核心數(shù)越來越多，內(nèi)存越來越大，存儲(chǔ)容量越來越高，網(wǎng)絡(luò)帶寬越來越大。用戶在一臺(tái)機(jī)器會(huì)部署多個(gè)業(yè)務(wù)，多個(gè)業(yè)務(wù)的優(yōu)先級不一樣，用戶往往希望多個(gè)業(yè)務(wù)能運(yùn)行在同一臺(tái)機(jī)器上面，可以對不同業(yè)務(wù)設(shè)置不同的優(yōu)先級，保證高優(yōu)先級的業(yè)務(wù)擁有更好的性能。而在以往傳統(tǒng)的平臺(tái)上，一個(gè)CPU當(dāng)中所有的核心優(yōu)先級都是一樣的，可以使用的資源、頻率都是相同的。

基于此，英特爾推出SST技術(shù)。早在第二代至強(qiáng)可擴(kuò)展處理器中，已有SST技術(shù)的早期雛形，在第三代至強(qiáng)可擴(kuò)展處理器當(dāng)中進(jìn)一步拓展了SST。SST是一個(gè)功能集合，它提供了四種功能模式，包括SST-PP、SST-CP、SST-BF、SST-TF，解決前面說到問題。

與此同時(shí)，英特爾技術(shù)專家告訴記者，第三代至強(qiáng)可擴(kuò)展處理器在架構(gòu)層面進(jìn)行諸多創(chuàng)新，比如UPI總線的端口數(shù)量增加到6個(gè)（即每個(gè)插槽有6個(gè)接口），兩兩之間就有兩個(gè)UPI總線。多一個(gè)UPI帶來的好處就是有更高的帶寬，這樣有利于支持更多的CPU內(nèi)核，支持更大的內(nèi)存，支持更高的計(jì)算速度，相當(dāng)于有更寬的高速公路，可以讓數(shù)據(jù)在不同的插槽之間傳輸，實(shí)現(xiàn)同步。在多路處理器當(dāng)中，這是非常至關(guān)重要的架構(gòu)創(chuàng)新。

在內(nèi)存支持方面，第三代至強(qiáng)可擴(kuò)展處理器每個(gè)插槽支持6個(gè)內(nèi)存通道數(shù)，每個(gè)通道是可以支持到最高3200MT/s的速度。如果組建一個(gè)4路平臺(tái)，即可擁有24個(gè)通道，如果是8路就是48個(gè)通道。在內(nèi)存容量上，第三代至強(qiáng)可擴(kuò)展處理器可以支持16GB顆粒的內(nèi)存技術(shù)，單條內(nèi)存條如果采用普通RDIMM可以支持64GB，如用LRDIMM則可以支持256G，若再搭配傲騰持久內(nèi)存，每一個(gè)插槽可以支持的最大容量為4.5T。如果搭建一個(gè)4路且有4個(gè)插槽的平臺(tái)，總共支持的最大的內(nèi)存可以達(dá)到18T，8路則可以達(dá)到36T。如此大的數(shù)據(jù)容量、高的內(nèi)存訪問帶寬，可以很好地支持?jǐn)?shù)據(jù)密集型應(yīng)用。在I/O方面，第三代至強(qiáng)可擴(kuò)展處理器每個(gè)插槽可以支持48個(gè)PCIe 3.0通道。在多路處理器中，每個(gè)插槽支持眾多通道，可以保障確保I/O的可連接性、速度以及帶寬對于大多數(shù)的應(yīng)用。

此外，多路處理器非常關(guān)注平臺(tái)的RAS，即可靠性、可用性以及可維護(hù)性。第三代至強(qiáng)可擴(kuò)展處理器提供了非常豐富的RAS支持，可以很好地處理可能出現(xiàn)的內(nèi)存錯(cuò)誤、PCIe設(shè)備上的錯(cuò)誤，或CPU內(nèi)核本身出現(xiàn)的錯(cuò)誤，并實(shí)現(xiàn)錯(cuò)誤隔離、故障診斷。

 

在人工智能技術(shù)的支持上面，第一代至強(qiáng)可擴(kuò)展處理器Sky Lake提供了AVX-512指令集，AVX-512指令集可以用FP32的數(shù)據(jù)格式進(jìn)行深度學(xué)習(xí)計(jì)算。2019年發(fā)布的第二代至強(qiáng)可擴(kuò)展處理器Cascade Lake提供了DL Boost技術(shù)，DL Boost包含VNNI矢量神經(jīng)網(wǎng)絡(luò)指令集，VNNI支持Int8數(shù)據(jù)格式，加速深度學(xué)習(xí)的推理應(yīng)用。今年，第三代至強(qiáng)可擴(kuò)展處理器的DL Boost深度學(xué)習(xí)加速技術(shù)進(jìn)一步升級，VNNI指令集可以支持bfloat16的數(shù)據(jù)格式，這樣在人工智能的訓(xùn)練和推理上面，都可以得到更好的性能提升。

bfloat16是一個(gè)精簡的數(shù)據(jù)格式，與如今的32位浮點(diǎn)數(shù)（FP32）相比，bfloat16只通過一半的比特?cái)?shù)且僅需對軟件做出很小程度的修改，就可達(dá)到與FP32同等水平的模型精度。新增的bfloat16支持同時(shí)為CPU的AI訓(xùn)練和推理性能提供加速。在英特爾的工具集當(dāng)中，像TensorFlow、Pytorch、MXNet都已經(jīng)可以完美來支持bfloat16的AI訓(xùn)練。

簡而言之，在云計(jì)算、數(shù)據(jù)分析及關(guān)鍵任務(wù)工作負(fù)載上，第三代至強(qiáng)可擴(kuò)展處理器可以提供更多內(nèi)核、更高頻率，并支持更大內(nèi)存。對于數(shù)據(jù)分析的應(yīng)用，相對于上一代的平臺(tái)性能可以提高98%。對于人工智能應(yīng)用，借助升級后的DL Boost技術(shù)，搭配bfloat16的數(shù)據(jù)格式，在人工智能的訓(xùn)練性能上相比上一代可以提高93%，人工智能推理方面的性能可以提高90%。針對云計(jì)算的虛擬機(jī)密度場景下，第三代至強(qiáng)可擴(kuò)展處理器支持的內(nèi)核數(shù)可以最高到28個(gè)核，如果搭配一個(gè)8路平臺(tái)，可以輕松支持224個(gè)物理核，實(shí)現(xiàn)非常高的密度，幫助用戶優(yōu)化TCO。

除了CPU，英特爾還提供了GPU、FPGA、專用AI芯片等豐富的硬件產(chǎn)品，并與業(yè)界生態(tài)伙伴一起開發(fā)軟件解決方案，給客戶一個(gè)非常完整的從芯片到方案的產(chǎn)品組合，滿足他們對于人工智能和分析這些當(dāng)今最熱的應(yīng)用和未來計(jì)算方向的需求。

英特爾傲騰持久內(nèi)存進(jìn)一步加速AI與數(shù)據(jù)分析

面對大數(shù)據(jù)浪潮，數(shù)據(jù)價(jià)值的實(shí)現(xiàn)要經(jīng)歷數(shù)據(jù)生產(chǎn)、收集、提取和計(jì)算的過程。未來存儲(chǔ)的發(fā)展將由工作負(fù)載的需求驅(qū)動(dòng)，現(xiàn)代存儲(chǔ)系統(tǒng)需要靈活多變，存儲(chǔ)技術(shù)也正在不斷演進(jìn)以滿足多樣化需求。這也意味著我們需要讓存儲(chǔ)的性能變得更高，從而拉近更多數(shù)據(jù)與處理器之間的距離。

為此，英特爾推出傲騰持久內(nèi)存全新技術(shù)，通過讓更多的數(shù)據(jù)保留在內(nèi)存中（作為內(nèi)存的拓展或部分替換），從而更加靠近CPU，實(shí)現(xiàn)了更高的效率；同時(shí)，其以類似于雙列直插式存儲(chǔ)模塊（DIMM）的形式，提供接近DRAM（動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器）的內(nèi)存計(jì)算速度，且每GB價(jià)格低于DRAM，也大大減少了企業(yè)的成本開支，最終幫助企業(yè)在效率和成本之間實(shí)現(xiàn)了完美的平衡。

相較于在內(nèi)存容量限制下不得不使用多臺(tái)服務(wù)器Scale Out（橫向擴(kuò)展，靠添加設(shè)備提升服務(wù)能力），Scale Up（縱向擴(kuò)展，提升單臺(tái)設(shè)備的性能和服務(wù)能力）可以減少服務(wù)器的數(shù)量，減少關(guān)鍵部件的采購，以及更多服務(wù)器集群的管理開銷，英特爾傲騰持久內(nèi)存從CAPEX（前期購置成本）和OPEX（運(yùn)營成本）兩個(gè)方面降低總體擁有成本。

傲騰持久內(nèi)存可以支持更大的數(shù)據(jù)庫、更高可靠性和更快地系統(tǒng)恢復(fù)，為處理器性能過剩、內(nèi)存容量不足的場景提供足夠的內(nèi)存，從而減少設(shè)備數(shù)量、軟件授權(quán)費(fèi)用、機(jī)柜數(shù)量和能源消耗等。通過持久內(nèi)存來擴(kuò)展現(xiàn)有內(nèi)存容量，可以極大降低客戶業(yè)務(wù)的總成本TCO（Total Cost of Ownership）。

英特爾傲騰持久內(nèi)存不但具有大內(nèi)存、低延遲、持久化、高性價(jià)比的特點(diǎn)，同時(shí)使用模式也比較多樣化，提供了App Direct Mode（AD）和Memory Mode（MM）兩大類模式，由此也可以支撐更多的環(huán)境和場景化應(yīng)用。

英特爾技術(shù)專家表示，英特爾把傲騰技術(shù)引入到持久內(nèi)存為內(nèi)存的層級帶來了很大的技術(shù)革新。英特爾傲騰持久內(nèi)存在內(nèi)存和SSD之間新增了一個(gè)存儲(chǔ)層級，具備像內(nèi)存一樣的超低訪問延遲，超高壽命與可靠性，同時(shí)還具備持久化存儲(chǔ)和按字節(jié)訪問的能力。在AD模式下，特定的應(yīng)用程序可直接訪問由英特爾傲騰持久內(nèi)存帶來的獨(dú)立持久內(nèi)存資源。

英特爾傲騰持久內(nèi)存不僅可以改善系統(tǒng)的TCO，還可以消除I/O瓶頸，提升性能，進(jìn)而驅(qū)動(dòng)產(chǎn)生新的內(nèi)存和存儲(chǔ)的融合類應(yīng)用，如超融合基礎(chǔ)架構(gòu)、數(shù)據(jù)庫、人工智能或者大數(shù)據(jù)分析。這些都是英特爾傲騰持久內(nèi)存能夠展現(xiàn)技術(shù)優(yōu)勢的地方。

作為第三代至強(qiáng)可擴(kuò)展平臺(tái)的一部分，英特爾同時(shí)發(fā)布了英特爾傲騰持久內(nèi)存200系列，為客戶提供每路最高達(dá)4.5TB的容量，以進(jìn)行內(nèi)存數(shù)據(jù)庫、密集虛擬化、分析及高性能計(jì)算等數(shù)據(jù)密集型工作負(fù)載的管理。傲騰持久內(nèi)存200系列提供的CPU對持久性數(shù)據(jù)的訪問速度比主流NAND SSD讀取數(shù)據(jù)快200倍以上。與第一代產(chǎn)品相比，英特爾傲騰持久內(nèi)存200系列的平均內(nèi)存帶寬增加了25％。

上一代傲騰持久內(nèi)存配合第二代至強(qiáng)可擴(kuò)展處理器，單路最高能放6條512GB持久內(nèi)存，最大3TB持久內(nèi)存。200系列能在單路第三代至強(qiáng)可擴(kuò)展處理器上提供最高4.5TB內(nèi)存，包括3TB的傲騰持久內(nèi)存和普通的DRAM內(nèi)存，單條可用容量沒變，有128GB，256GB和512GB三個(gè)型號(hào)，支持與普通DRAM公用內(nèi)存插槽，支持兩種內(nèi)存的混插。

集成AI加速推動(dòng)產(chǎn)業(yè)智能化變革

從通用型CPU到GPU，從可編程加速產(chǎn)品FPGA到ASIC專用芯片，英特爾“以數(shù)據(jù)為中心”的產(chǎn)品組合不斷擴(kuò)展，支持客戶從云、網(wǎng)絡(luò)、邊緣到端的智能部署，奠定云計(jì)算、人工智能、5G網(wǎng)絡(luò)轉(zhuǎn)型和智能邊緣等多領(lǐng)域創(chuàng)新的數(shù)字基石。

在整個(gè)計(jì)算平臺(tái)當(dāng)中，特別是在數(shù)據(jù)中心的計(jì)算平臺(tái)當(dāng)中，英特爾至強(qiáng)平臺(tái)的通用性和可擴(kuò)展性是最好的，支持著豐富多彩的各種各樣的AI任務(wù)。

在支持整個(gè)AI數(shù)據(jù)處理的管道上面，英特爾至強(qiáng)平臺(tái)能夠提供最完整、最充分的支持平臺(tái)。客戶AI的創(chuàng)新已經(jīng)在英特爾至強(qiáng)平臺(tái)上得到了非常好的支持。

前面已經(jīng)說過，針對當(dāng)前留下的人工智能工作負(fù)載，第三代至強(qiáng)可擴(kuò)展處理器進(jìn)行了性能和架構(gòu)的優(yōu)化改進(jìn)。而且現(xiàn)在AI不光對數(shù)據(jù)計(jì)算有著更高的要求，也對數(shù)據(jù)的承載提出了越來越高的要求。

今天在AI處理過程當(dāng)中，我們通常是跟大數(shù)據(jù)結(jié)合在一起的。要讓AI的性能充分發(fā)揮，英特爾傲騰持久內(nèi)存的內(nèi)存技術(shù)可以扮演非常重要的角色。

第三代至強(qiáng)可擴(kuò)展處理器結(jié)合英特爾傲騰持久內(nèi)存，在AI應(yīng)用中能夠充分發(fā)揮英特爾的存儲(chǔ)性能，在AI計(jì)算和存儲(chǔ)結(jié)合過程當(dāng)中，使得計(jì)算性能越來越好，同時(shí)TCO也能夠?qū)崿F(xiàn)大幅優(yōu)化。

英特爾至強(qiáng)平臺(tái)對AI性能的支持是持之以恒的，而且英特爾與生態(tài)合作伙伴進(jìn)行緊密配合，基于第三代至強(qiáng)可擴(kuò)展處理器開展更多創(chuàng)新應(yīng)用實(shí)踐。比如英特爾與螞蟻金服基于3D-CNN I3D Video的深度學(xué)習(xí)模型進(jìn)行AI應(yīng)用開發(fā)部署。

同時(shí)，英特爾還與東軟、衛(wèi)寧、盈谷、匯醫(yī)慧影等行業(yè)伙伴一起落地醫(yī)療AI，在影像醫(yī)療診斷、病理切片分析、藥物研發(fā)等應(yīng)用場景中引入AI技術(shù)，加速醫(yī)療健康和人工智能融合的過程。

在短視頻市場，快手如今邁入了Top級大型互聯(lián)網(wǎng)公司的行列。AI在其業(yè)務(wù)中扮演了重要的角色?？焓滞ㄟ^開展基于英特爾傲騰持久內(nèi)存、英特爾至強(qiáng)可擴(kuò)展處理器及英特爾FPGA在快手AI應(yīng)用中的實(shí)踐，雙方共同建立起強(qiáng)大的IT系統(tǒng)，推動(dòng)業(yè)務(wù)不斷發(fā)展。

綜上所述，第三代至強(qiáng)可擴(kuò)展處理器針對AI進(jìn)行了非常充分的優(yōu)化，可以非常完美地勝任AI計(jì)算任務(wù)。同時(shí)，依靠平臺(tái)化優(yōu)勢以及生態(tài)鏈當(dāng)中豐富的軟件支持，越來越多地行業(yè)用戶在英特爾架構(gòu)平臺(tái)上進(jìn)行AI應(yīng)用創(chuàng)新，這個(gè)創(chuàng)新現(xiàn)在不僅在云端發(fā)生，也在邊緣端發(fā)生。

結(jié)語

20多年來，英特爾持續(xù)推動(dòng)數(shù)據(jù)中心領(lǐng)域的創(chuàng)新。憑借軟硬結(jié)合的優(yōu)勢、規(guī)?；哪芰σ约芭c客戶的深厚合作，英特爾靈活創(chuàng)新的產(chǎn)品和解決方案經(jīng)過了客戶的實(shí)戰(zhàn)考驗(yàn)，并在廣泛的應(yīng)用中被成功驗(yàn)證。

隨著以數(shù)據(jù)為中心的轉(zhuǎn)型不斷深化，英特爾將以集成AI加速的至強(qiáng)可擴(kuò)展平臺(tái)為基石，提供全面的XPU芯片平臺(tái)，攜手產(chǎn)業(yè)生態(tài)，賦能“智者更強(qiáng)”，以改變世界的技術(shù)造福個(gè)人、企業(yè)和社會(huì)。