近年來,GPU(圖形處理單元)已從最初的圖形渲染專用硬件,發(fā)展成為高性能計算領域的“加速器”,為各類計算密集型任務提供了強大的并行計算能力。GPU 編程,即利用 GPU 的并行架構來加速應用程序的執(zhí)行,已成為推動科學計算、人工智能、大數(shù)據(jù)等領域快速發(fā)展的重要驅動力。
憑借其卓越的數(shù)據(jù)處理能力,深度學習使得計算機能夠實現(xiàn)多種過去僅為人類所獨有的認知智能。通常而言,深度神經(jīng)網(wǎng)絡的訓練過程極其復雜,通常需要進行大量的并行計算。
NVIDIA Grace Hopper 超級芯片架構將 NVIDIA Hopper GPU 的開創(chuàng)性性能與 NVIDIA Grace CPU 的多功能性結合在一起,在單個超級芯片中連接了高帶寬和內存相關 NVIDIA NVLink Chip-2-Chip (C2C) 互連,并支持新的 NVIDIA NVLink Switch System 。
Luga討論了GPU在人工智能生態(tài)中的重要性,特別是在加速AI核心算力構建方面。GPU以其高度并行的架構,在深度學習等AI技術中展現(xiàn)出卓越性能。與CPU相比,GPU在處理圖形渲染、機器學習、視頻編輯等計算密集型任務時具有顯著優(yōu)勢。GPU和CPU的協(xié)同工作提高了數(shù)據(jù)吞吐量和并發(fā)計算能力。GPU的應用場景包括專業(yè)可視化、機器學習、區(qū)塊鏈和模擬技術等領域。
據(jù)京東官方數(shù)據(jù),8月20日,《悟空》游戲正式推出之日,搭載英偉達40系顯卡的游戲筆記本電腦銷售額同比實現(xiàn)了100%的增長
自互聯(lián)網(wǎng)誕生以來,還沒有出現(xiàn)過像人工智能這樣強勁的技術順風趨勢,許多公司都在爭奪AI戰(zhàn)場上的王者地位,而Nvidia占據(jù)了先機。
與此前的積極預期相符,AMD再次上調了旗下Instinct MI300系列GPU產(chǎn)品的銷售預期。同時隨著其“Antares”系列計算引擎在第二季度的收入突破10億美元,該公司預計2024年全年此類設備的銷售總額將一舉超過45億美元。
英偉達CEO黃仁勛和Meta CEO馬克·扎克伯格,在美國丹佛舉行的第50屆SIGGRAPH圖形大會上進行了一場關于生成式AI的對話,并且他們還互贈了皮衣。
隨著AI技術和應用的爆炸式增長,人們正在大步邁入智能世界,大家也期望一個全新的數(shù)據(jù)中心來支撐 AI 時代的到來,那么未來數(shù)據(jù)中心是一個什么樣子?
雖然這筆錢并不算多,但足夠讓AMD的工程師們有機會考慮整個美國的未來,并為如今強大的CPU與GPU業(yè)務埋下種子。
用于連接 GPU 服務器中的 8 個 GPU 的 NVLink 交換機也可以用于構建連接 GPU 服務器之間的交換網(wǎng)絡。Nvidia 在 2022 年的 Hot Chips 大會上展示了使用 NVswitch 架構連接 32 個節(jié)點(或 256 個 GPU)的拓撲結構。由于 NVLink 是專門設計為連接 GPU 的高速點對點鏈路,所以它具有比傳統(tǒng)網(wǎng)絡更高的性能和更低的開銷。
近二十年來,英偉達一直在研究加速計算,可以增強CPU,加速專門處理器可以做得更好的工作。
戴爾科技副總裁董事長兼首席運營官Jeff Clarke在2024年戴爾科技世界大會上表示,如果說GPU是AI系統(tǒng)的大腦、網(wǎng)絡是其心臟,那么存儲就是AI的呼吸與脈搏。
蘇姿豐表示,Zen 5核心是AMD公司有史以來設計出的性能最強、能效最高的核心,而且完全是從零開始打造而成。
作為八大科技巨頭共同打造的、用于對抗英偉達的交換技術,讓GPU巨頭采用UALink當然有點荒謬。但誰知道呢,畢竟技術行業(yè)從來不缺少出人意料的故事。
在最初的興奮,到2022年對元宇宙的失望,而現(xiàn)在情況又開始好轉。這一變化是由于計算機設備制造商取得的進展。就好像我們即將獲得“空間計算的iPhone”,它可以真正以我們可以觸摸和感受的方式將這些數(shù)字世界帶入生活。
Nvidia今天透露,已經(jīng)收購了Run:ai,一家開發(fā)優(yōu)化顯卡集群性能軟件的初創(chuàng)公司。
一些 GPU 廠商(不是只有 NVIDIA 一家這么做)將將多個 DDR 芯片堆疊之后與 GPU 封裝到一起 (后文講到 H100 時有圖),這樣每片 GPU 和它自己的顯存交互時,就不用再去 PCIe 交換芯片繞一圈,速度最高可以提升一個量級。這種“高帶寬內存”(High Bandwidth Memory)縮寫就是 HBM。