TPU 的設(shè)定,只能在 TensorFlow 中執(zhí)行推理,但它的性能非常好。我們認(rèn)為,TPU 與 TensorFlow 的良好適配,能夠發(fā)揮出 1+1>2 的效果。深度學(xué)習(xí)計(jì)算中的芯片部署都不是零和博弈。現(xiàn)實(shí)世界的深度學(xué)習(xí)網(wǎng)絡(luò)需要系統(tǒng)的 GPU 與其他 GPU 或諸如 Google TPU 之類的 ASIC 通信。GPU 是理想的工作環(huán)境,具有深度學(xué)習(xí)所需的靈活性
Google宣布推出了第六代張量處理單元Trillium TPU,以及即將推出由Nvidia H200 GPU驅(qū)動的新型A3 Ultra虛擬機(jī),此外還有基于Axion Arm架構(gòu)的C4A VM,從今天正式面世。
AI芯片通常采用GPU和ASIC架構(gòu)。GPU因其在運(yùn)算和并行任務(wù)處理上的優(yōu)勢成為AI計(jì)算中的關(guān)鍵組件,它的算力和顯存、帶寬決定了GPU的運(yùn)算能力。GPU的核心可分為CudaCore、Tensor Core等;Tensor Core是增強(qiáng)AI計(jì)算的核心,相較于并行計(jì)算表現(xiàn)卓越的Cuda Core,它更專注于深度學(xué)習(xí)領(lǐng)域,通過優(yōu)化矩陣運(yùn)算來加速AI深度學(xué)習(xí)的訓(xùn)練和推理任務(wù)
谷歌今天分享了有關(guān)最新一代TPU芯片的早期細(xì)節(jié)。該芯片用于運(yùn)行人工智能工作負(fù)載,性能是上一代的2倍多。
谷歌今天宣布對其云平臺進(jìn)行擴(kuò)展,發(fā)布了一個新的基礎(chǔ)設(shè)施選項(xiàng)Cloud TPU Pod,旨在滿足那些需要大量計(jì)算能力的大型人工智能項(xiàng)目。
谷歌今天宣布向其公有云平臺上增加ensor Processing Units,這是一款專門為人工智能工作負(fù)載提供動力的內(nèi)部設(shè)計(jì)的芯片系列。