Al芯片是AI服務(wù)器算力的核心,專門用于處理人工智能應(yīng)用中的大量計算任務(wù),Al芯片按架構(gòu)可分為GPU、FPGA、ASIC和NPU等。HBM作為內(nèi)存產(chǎn)品的一種,已經(jīng)成為高端GPU標(biāo)配,可以理解為與CPU或SoC對應(yīng)的內(nèi)存層級,將原本在PCB板上的DDR和GPU芯片同時集成到SiP封裝中,使內(nèi)存更加靠近GPU,使用HBM可以將DRAM和處理器(CPU,GPU以及其他ASIC)之間的通信帶寬大大提升,從而緩解這些處理器的內(nèi)存墻問題。
多家戴爾渠道合作伙伴紛紛表示,該公司去年在其存儲產(chǎn)品上市計劃中的大幅修整已經(jīng)初見成效,推動各合作方的收入逐步提升。戴爾團隊正積極為存儲領(lǐng)域的合作伙伴提供當(dāng)面溝通和培訓(xùn)支持,共同為產(chǎn)品銷售獻策出力。
很多人想到模型私有化部署,會以為要數(shù)據(jù)中心的多臺服務(wù)器來做,其實不然。辦公室里搭建 AI 工作站,已經(jīng)可以完美地支持企業(yè)內(nèi)部知識庫和一些POC場景的需求,比如進行量化的 70B 模型的訓(xùn)練和推理工作。所以在辦公室環(huán)境下,同樣可以搭建一個 AI 問答機器人。
每當(dāng)AMD公司CEO蘇姿豐宣布推出新的Instinct GPU加速器,數(shù)據(jù)中心AI加速產(chǎn)品的潛在市場似乎都在進一步擴大。
如果大家正在考慮升級自己的x86服務(wù)器機群——目前確實有不少企業(yè)、超大規(guī);A(chǔ)設(shè)施運營商和云服務(wù)商都在持幣參與討論——那么好消息是,英特爾和AMD均已推出其有史以來最強大的串行計算引擎。
在當(dāng)下的AI競爭格局下,沒什么能比一場AI濃度爆表的大會,更能快速彰顯自身實力了,AMD的這場「Advancing AI大會」,就是印證。
戴爾今天推出了五款新的PowerEdge服務(wù)器,采用了AMD第五代EPYC處理器,主要針對AI開發(fā)和部署模型。
2017年7月份,Purley的新一代服務(wù)器平臺,Purley平臺將產(chǎn)品型號命名方式由此前連續(xù)使用四代的E7/E5變?yōu)橹翉娍蓴U展處理器(Intel Xeon Scalable Processor,SP),系列型號按鉑金(Platinum)、金(Gold)、銀(Silver)、銅(Bronze)定義
Dell’Oro Group的一份新報告顯示,在對AI-ready硬件需求的推動下,數(shù)據(jù)中心在2024年第二季度的資本支出增長了接近50%。
HPE與IronYun展開合作,后者是利用Nvidia GPU專門為零售商打造AI應(yīng)用視覺的先驅(qū)。
戴爾在約一年之前推出了其Apex Red Hat OpenShift服務(wù),支持在戴爾PowerEdge服務(wù)器上運行Red Hat OpenShift容器編排服務(wù)及帶有SSD的PowerFlwx塊存儲。APEX是戴爾提供的一組服務(wù),通過類似公有云的訂閱模式提供計算、存儲和網(wǎng)絡(luò)設(shè)備。
近期,瀾起科技股份有限公司公布了其2024年上半年的財務(wù)報告。報告顯示,該公司在該期間內(nèi)實現(xiàn)了16.65億元的營業(yè)收入,較去年同期增長了79.49%;歸屬于上市公司股東的凈利潤達到5.93億元,同比增幅高達624.63%;
戴爾近日表示,將與紅帽合作,將Red Hat Enterprise Linux AI(RHEL AI)平臺引入旗下流行的PowerEdge服務(wù)器,為其硬件鋪平了成為人工智能開發(fā)基礎(chǔ)之路。
在最新一份財務(wù)報告當(dāng)中,截至8月4日的當(dāng)季度(2025財年第二季度),戴爾公司已經(jīng)表現(xiàn)出推動生成式AI商業(yè)化的跡象。
隨著2024年夏季奧運會正式開幕,全球注意力轉(zhuǎn)向巴黎,大部分焦點理所當(dāng)然地放在了運動員身上。事實證明,數(shù)據(jù)中心(特別是數(shù)據(jù)中心熱量)也發(fā)揮著作用。
不久前,浪潮信息的研發(fā)工程師基于2U4路旗艦通用服務(wù)器NF8260G7,采用領(lǐng)先的張量并行、NF4模型量化等技術(shù),實現(xiàn)服務(wù)器僅依靠4顆CPU即可運行千億參數(shù) “源2.0” 大模型,成為通用AI算力的新標(biāo)桿。
隨著AI技術(shù)和應(yīng)用的爆炸式增長,人們正在大步邁入智能世界,大家也期望一個全新的數(shù)據(jù)中心來支撐 AI 時代的到來,那么未來數(shù)據(jù)中心是一個什么樣子?
Gartner最新的全球IT支出預(yù)測顯示,數(shù)據(jù)中心系統(tǒng)支出將增長24.1%,是三個月前預(yù)期的10%的2倍多,是去年4%實際增幅的6倍——而這一切要都是因為生成式AI。