/
一文讀懂 GPU 資源動(dòng)態(tài)調(diào)度
眾所周知，隨著人工智能、深度學(xué)習(xí)以及高性能計(jì)算（HPC）的快速發(fā)展，GPU （Graphics Processing Unit）已經(jīng)成為現(xiàn)代計(jì)算體系中的核心計(jì)算資源之一。相比傳統(tǒng)的 CPU，GPU 在并行計(jì)算方面具備顯著優(yōu)勢(shì)，加速大規(guī)模數(shù)據(jù)處理和復(fù)雜計(jì)算的關(guān)鍵。
2024 AI服務(wù)器市場(chǎng)競(jìng)爭(zhēng)格局
AI服務(wù)器產(chǎn)業(yè)鏈上游為零部件，包括CPU、GPU、存儲(chǔ)芯片、固態(tài)硬盤、PCB、被動(dòng)元器件等；中游為AI服務(wù)器；下游為各類應(yīng)用市場(chǎng)，包括互聯(lián)網(wǎng)企業(yè)、云計(jì)算企業(yè)、數(shù)據(jù)中心服務(wù)商、政府部門、金融機(jī)構(gòu)、醫(yī)療領(lǐng)域、電信運(yùn)營商等。
超大規(guī)模集群：CPU&GPU部署與實(shí)踐
GPU應(yīng)用已深刻影響各類業(yè)務(wù)（搜廣推、音視頻、MMU、風(fēng)控等）場(chǎng)景，快手內(nèi)部GPU在線服務(wù)及離線訓(xùn)練任務(wù)均完成云原生化遷移。
趨勢(shì)丨速度提升數(shù)十倍，用光子計(jì)算重塑AI算力集群
要實(shí)現(xiàn)超強(qiáng)的AI能力，需要超大規(guī)模的模型，要訓(xùn)練超大規(guī)模的AI模型，需要數(shù)千，甚至上萬的GPU協(xié)同工作。這就帶來幾個(gè)問題：更多的GPU造成的高能耗，計(jì)算卡與計(jì)算卡之間的通信延遲，計(jì)算集群與計(jì)算集群之間的通信延遲和算力損耗。那么，如果用光來計(jì)算，用光來傳輸，會(huì)怎么樣？
Google Cloud發(fā)布下一代TPU和GPU集群 增強(qiáng)AI Hypercomputer堆棧
Google宣布推出了第六代張量處理單元Trillium TPU，以及即將推出由Nvidia H200 GPU驅(qū)動(dòng)的新型A3 Ultra虛擬機(jī)，此外還有基于Axion Arm架構(gòu)的C4A VM，從今天正式面世。
英偉達(dá)黃仁勛談?lì)I(lǐng)導(dǎo)力、“token”和生成式人工智能對(duì)人類員工的影響
英偉達(dá)（Nvidia）首席執(zhí)行官黃仁勛身著標(biāo)志性黑色皮夾克本周二在美國佛羅里達(dá)州奧蘭多的 Gartner IT 研討會(huì)/XPO 大會(huì)上發(fā)表了備受矚目的主題演講，他在演講中談?wù)摿艘幌盗械念I(lǐng)導(dǎo)力話題。
HPE CEO談收購Juniper、AI發(fā)展和競(jìng)爭(zhēng)對(duì)手思科
Neri還談到了HPE完成Juniper收購交易之后的渠道合作伙伴戰(zhàn)略和產(chǎn)品集成愿景，他說這可能只是“幾周之后的事情”�！癑uniper擁有出色的QFX架構(gòu)，需要進(jìn)行一些現(xiàn)代化和加速，我們將把它和我們的HP Slingshot架構(gòu)結(jié)合起來，正在使用它來擴(kuò)展數(shù)萬個(gè)GPU，而且隨著時(shí)間的推移將它們整合在一起。因?yàn)槲覀兿嘈牛柚覀兊母咝阅芄杵�，我們可以降低平臺(tái)的復(fù)雜性。”
NVIDIA宣布向OCP貢獻(xiàn)Blackwell GPU平臺(tái)設(shè)計(jì)
NVIDIA表示，已經(jīng)將Blackwell加速計(jì)算平臺(tái)設(shè)計(jì)的部分內(nèi)容貢獻(xiàn)給Open Compute Project（OCP），并在Spectrum-X網(wǎng)絡(luò)結(jié)構(gòu)中擴(kuò)大了對(duì)OCP標(biāo)準(zhǔn)的支持。
AMD發(fā)力GPU計(jì)算領(lǐng)域，現(xiàn)在壓力來到英偉達(dá)這邊
如果說世界上有哪個(gè)市場(chǎng)迫切需要激烈競(jìng)爭(zhēng)，自然就是推動(dòng)AI革命的數(shù)據(jù)中心GPU市場(chǎng)。目前英偉達(dá)幾乎就是行業(yè)內(nèi)唯一的神。
CUDA vs OpenCL：GPU 編程模型該如何選？
近年來，GPU（圖形處理單元）已從最初的圖形渲染專用硬件，發(fā)展成為高性能計(jì)算領(lǐng)域的“加速器”，為各類計(jì)算密集型任務(wù)提供了強(qiáng)大的并行計(jì)算能力。GPU 編程，即利用 GPU 的并行架構(gòu)來加速應(yīng)用程序的執(zhí)行，已成為推動(dòng)科學(xué)計(jì)算、人工智能、大數(shù)據(jù)等領(lǐng)域快速發(fā)展的重要驅(qū)動(dòng)力。
CPU vs GPU：為什么GPU更適合深度學(xué)習(xí)？
憑借其卓越的數(shù)據(jù)處理能力，深度學(xué)習(xí)使得計(jì)算機(jī)能夠?qū)崿F(xiàn)多種過去僅為人類所獨(dú)有的認(rèn)知智能。通常而言，深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程極其復(fù)雜，通常需要進(jìn)行大量的并行計(jì)算。
詳解英偉達(dá)Grace Hopper超級(jí)芯片架構(gòu)
NVIDIA Grace Hopper 超級(jí)芯片架構(gòu)將 NVIDIA Hopper GPU 的開創(chuàng)性性能與 NVIDIA Grace CPU 的多功能性結(jié)合在一起，在單個(gè)超級(jí)芯片中連接了高帶寬和內(nèi)存相關(guān) NVIDIA NVLink Chip-2-Chip (C2C) 互連，并支持新的 NVIDIA NVLink Switch System 。
關(guān)于 GPU ，你所應(yīng)該了解的
Luga討論了GPU在人工智能生態(tài)中的重要性，特別是在加速AI核心算力構(gòu)建方面。GPU以其高度并行的架構(gòu)，在深度學(xué)習(xí)等AI技術(shù)中展現(xiàn)出卓越性能。與CPU相比，GPU在處理圖形渲染、機(jī)器學(xué)習(xí)、視頻編輯等計(jì)算密集型任務(wù)時(shí)具有顯著優(yōu)勢(shì)。GPU和CPU的協(xié)同工作提高了數(shù)據(jù)吞吐量和并發(fā)計(jì)算能力。GPU的應(yīng)用場(chǎng)景包括專業(yè)可視化、機(jī)器學(xué)習(xí)、區(qū)塊鏈和模擬技術(shù)等領(lǐng)域。
產(chǎn)業(yè)丨《黑神話：悟空》崛起，國產(chǎn)GPU生態(tài)帶來新思路
據(jù)京東官方數(shù)據(jù)，8月20日，《悟空》游戲正式推出之日，搭載英偉達(dá)40系顯卡的游戲筆記本電腦銷售額同比實(shí)現(xiàn)了100%的增長(zhǎng)
NVLink和NVSwitch是Nvidia在AI戰(zhàn)爭(zhēng)中的秘密武器
自互聯(lián)網(wǎng)誕生以來，還沒有出現(xiàn)過像人工智能這樣強(qiáng)勁的技術(shù)順風(fēng)趨勢(shì)，許多公司都在爭(zhēng)奪AI戰(zhàn)場(chǎng)上的王者地位，而Nvidia占據(jù)了先機(jī)。
IBM Storage Scale被采用于Blue Vela AI超級(jí)計(jì)算機(jī)
IBM的Vela AI超級(jí)計(jì)算機(jī)功能已經(jīng)不足以滿足IBM研究院的AI訓(xùn)練需求。
AMD公布驚人業(yè)績(jī)，第二季度數(shù)據(jù)中心GPU銷售額突破10億美元
與此前的積極預(yù)期相符，AMD再次上調(diào)了旗下Instinct MI300系列GPU產(chǎn)品的銷售預(yù)期。同時(shí)隨著其“Antares”系列計(jì)算引擎在第二季度的收入突破10億美元，該公司預(yù)計(jì)2024年全年此類設(shè)備的銷售總額將一舉超過45億美元。
黃仁勛與扎克伯格做了一場(chǎng)關(guān)于Meta生成式AI未來的探討（附對(duì)話實(shí)錄）
英偉達(dá)CEO黃仁勛和Meta CEO馬克·扎克伯格，在美國丹佛舉行的第50屆SIGGRAPH圖形大會(huì)上進(jìn)行了一場(chǎng)關(guān)于生成式AI的對(duì)話，并且他們還互贈(zèng)了皮衣。
AI First：戴爾幫助各種規(guī)模的企業(yè)加速 AI 創(chuàng)新
隨著AI技術(shù)和應(yīng)用的爆炸式增長(zhǎng)，人們正在大步邁入智能世界，大家也期望一個(gè)全新的數(shù)據(jù)中心來支撐 AI 時(shí)代的到來，那么未來數(shù)據(jù)中心是一個(gè)什么樣子？
- LinuxONE 客戶案例集錦
- IBM 存儲(chǔ)客戶案例集錦
- 智能超融合基礎(chǔ)設(shè)施 - HPE SimpliVity 解決方案
- 借助 HPE GreenLake 提供本地云體驗(yàn)解決方案
- 掌控全局 — 推動(dòng)業(yè)務(wù)創(chuàng)新：適用于 HPE SimpliVity 的 HPE 主動(dòng)式系統(tǒng)支持服務(wù)
- 實(shí)現(xiàn)居家辦公高效率解決方案
- 實(shí)現(xiàn)關(guān)鍵業(yè)務(wù)革新 - HPE Primera解決方案
- 搭配Nutanix的HPE GreenLake私有云解決方案
- 重新定義 HCI， 助其更上一層樓
- 適用于 VDI 的 HPE GreenLake - 本地云服務(wù)解決方案
京公網(wǎng)安備 11010802021500號(hào)
