Al芯片是AI服務(wù)器算力的核心,專門用于處理人工智能應(yīng)用中的大量計(jì)算任務(wù),Al芯片按架構(gòu)可分為GPU、FPGA、ASIC和NPU等。HBM作為內(nèi)存產(chǎn)品的一種,已經(jīng)成為高端GPU標(biāo)配,可以理解為與CPU或SoC對(duì)應(yīng)的內(nèi)存層級(jí),將原本在PCB板上的DDR和GPU芯片同時(shí)集成到SiP封裝中,使內(nèi)存更加靠近GPU,使用HBM可以將DRAM和處理器(CPU,GPU以及其他ASIC)之間的通信帶寬大大提升,從而緩解這些處理器的內(nèi)存墻問(wèn)題。