要實(shí)現(xiàn)超強(qiáng)的AI能力,需要超大規(guī)模的模型,要訓(xùn)練超大規(guī)模的AI模型,需要數(shù)千,甚至上萬的GPU協(xié)同工作。這就帶來幾個問題:更多的GPU造成的高能耗,計算卡與計算卡之間的通信延遲,計算集群與計算集群之間的通信延遲和算力損耗。那么,如果用光來計算,用光來傳輸,會怎么樣?
可以看到,單純將Hopper替換為Blackwell并不是最好的答案。根據(jù)英偉達(dá)方面的解釋,只有在配合一系列正確舉措之后,推理性能提升至30倍、推理功耗降低至1/25的結(jié)果才有可能實(shí)現(xiàn)。
全美最大、盈利最佳的摩根大通銀行首席執(zhí)行官杰米·戴蒙(Jamie Dimon)也急了。9月20日戴蒙來到底特律,為紀(jì)念摩根大通通過其前身公司(第一共和銀行)進(jìn)入該市 90 周年,以及該公司在該市重新開展業(yè)務(wù) 10 周年。