技術(shù)迭代也推動(dòng)著算力的升級(jí),算力內(nèi)涵更是逐步拓展為集信息計(jì)算力、網(wǎng)絡(luò)運(yùn)載力、數(shù)據(jù)存儲(chǔ)力于一體的新型生產(chǎn)力。
在AI技術(shù)加速發(fā)展的今天,數(shù)據(jù)中心已成為支撐全球算力的中樞,同時(shí),它們也正面臨著能源需求激增、綠色環(huán)保的雙重挑戰(zhàn)。
AI時(shí)代的快速到來(lái)要求我們不僅要把握當(dāng)下,更要著眼未來(lái),以應(yīng)對(duì)AI算力的巨大需求。通過(guò)一系列戰(zhàn)略性收購(gòu),維諦技術(shù)不斷提升旗下AI解決方案的技術(shù)水平,鞏固其行業(yè)領(lǐng)先地位。憑借強(qiáng)大的全球智慧及創(chuàng)新能力,維諦技術(shù)不斷為中國(guó)智算行業(yè)注入新活力和新思路!
7月18日,由中國(guó)智能計(jì)算產(chǎn)業(yè)聯(lián)盟與全國(guó)信標(biāo)委算力標(biāo)準(zhǔn)工作組共同主辦的2024中國(guó)算力發(fā)展專(zhuān)家研討會(huì)在京召開(kāi)。院士專(zhuān)家們齊聚一堂,共同探索超智融合技術(shù)的發(fā)展路徑。
這個(gè)模型一般的GPU肯定是跑不起來(lái),如此大的參數(shù)在部署方面?zhèn)人開(kāi)發(fā)者也負(fù)擔(dān)不起(如果你有一些H100也沒(méi)問(wèn)題),估計(jì)是給企業(yè)、政務(wù)公共部門(mén)用的。對(duì)于Meta即將發(fā)布的模型,就有網(wǎng)友潑冷水。相比OpenAI最新的GPT-4o mini版本,Llama 3.1-70B推理成本提升了3倍,但編碼的性能卻要差很多。
7月18日,由中國(guó)智能計(jì)算產(chǎn)業(yè)聯(lián)盟與全國(guó)信標(biāo)委算力標(biāo)準(zhǔn)工作組共同主辦的2024中國(guó)算力發(fā)展專(zhuān)家研討會(huì)在京召開(kāi)。院士專(zhuān)家們齊聚一堂,共同探索超智融合技術(shù)的發(fā)展路徑。
北京電子數(shù)智科技有限責(zé)任公司(簡(jiǎn)稱(chēng)“北電數(shù)智”)在2024全球數(shù)字經(jīng)濟(jì)大會(huì)上展示了四大AI創(chuàng)新產(chǎn)品和垂類(lèi)行業(yè)模型矩陣。
算力需求爆發(fā)式增? vs. 算力硬件演進(jìn)呈現(xiàn)領(lǐng)域化、規(guī);悩(gòu)化特征,應(yīng)用的算力外需求驅(qū)動(dòng)操作系統(tǒng)在調(diào)度機(jī)制上突破,新算力硬件體系對(duì)調(diào)度機(jī)制造成了多方面的挑戰(zhàn)。
7月2日,在“元腦中國(guó)行”全國(guó)巡展成都站上,四川并濟(jì)科技有限公司(簡(jiǎn)稱(chēng)并濟(jì)科技)、四川省天府云數(shù)據(jù)科技有限責(zé)任公司(簡(jiǎn)稱(chēng)能投天府云)與浪潮信息聯(lián)合宣布,由三方共建的天府智算西南算力中心正式投運(yùn),將成為成渝樞紐的重要算力節(jié)點(diǎn),以智算力支撐成都打造千億級(jí)人工智能核心產(chǎn)業(yè),推動(dòng)千行百業(yè)“智改數(shù)轉(zhuǎn)”。
Gemini 1.5 Pro的面世,將進(jìn)一步提高算力基礎(chǔ)設(shè)施的建設(shè)要求,激活算力技術(shù)的不斷創(chuàng)新和迭代升級(jí)。如今,算力市場(chǎng)已形成龐大的生態(tài)系統(tǒng),涵蓋CPU、GPU、DPU、FPGA等專(zhuān)用芯片,各種形態(tài)的交換機(jī)、光模塊/線(xiàn)纜等連接介質(zhì),以及各服務(wù)提供商交付的算力運(yùn)營(yíng)、算力調(diào)度、算法交易平臺(tái)等。
機(jī)遇與挑戰(zhàn)總是相伴而生。AIGC的蓬勃發(fā)展對(duì)算力提出了前所未有的需求,傳統(tǒng)數(shù)據(jù)中心難以滿(mǎn)足智能時(shí)代的要求,算力資源的協(xié)同、算力服務(wù)的靈活性和可持續(xù)性等問(wèn)題日益凸顯。如何跨越這些鴻溝,構(gòu)建高效、可持續(xù)的智算體系,成為了擺在運(yùn)營(yíng)商和科技企業(yè)面前的時(shí)代考題。
AI in ALL”就是讓我們的產(chǎn)品、解決方案以及產(chǎn)品研發(fā)過(guò)程全面嵌入AI,全面AI化。來(lái),我們將全面推動(dòng)網(wǎng)絡(luò)、安全、計(jì)算、存儲(chǔ)、云、大數(shù)據(jù)、智能終端等領(lǐng)域全棧產(chǎn)品和解決方案的智原生,讓它們?cè)贏I技術(shù)的加持之下更智能。這是我們要做的事情,也是我們一直努力在做的事情。
在AI界,對(duì)于如何進(jìn)一步推動(dòng)AI的發(fā)展,存在兩種主要觀點(diǎn)。第一種觀點(diǎn)認(rèn)為,計(jì)算能力是AI進(jìn)步的唯一瓶頸。另一種觀點(diǎn)卻認(rèn)為,數(shù)據(jù)才是關(guān)鍵。
2024年以來(lái),國(guó)家出臺(tái)了一系列鼓勵(lì)、引導(dǎo)并購(gòu)重組的政策措施,積極鼓勵(lì)行業(yè)龍頭公司通過(guò)并購(gòu)重組進(jìn)一步鞏固市場(chǎng)地位和提高上市公司質(zhì)量,紫光股份此舉既順應(yīng)政策鼓勵(lì)導(dǎo)向,又具備更強(qiáng)的實(shí)操性和落地性。
生成式人工智能(AIGC)的興起,掀起了一場(chǎng)席卷全球的“智算”熱潮。從聊天機(jī)器人ChatGPT到AI繪畫(huà)工具M(jìn)idjourney,AIGC應(yīng)用繁花綻放,展現(xiàn)出巨大的商業(yè)潛力。企業(yè)如何利用AIGC構(gòu)建新質(zhì)生產(chǎn)力提升企業(yè)核心競(jìng)爭(zhēng)力,對(duì)其背后的算力基礎(chǔ)設(shè)施提出了嚴(yán)苛的挑戰(zhàn)。
NVIDIA GTC 2024大會(huì)重點(diǎn)介紹了新一代GPU架構(gòu)Blackwell及其產(chǎn)品B100、B200。SXM架構(gòu)相比PCIe在帶寬和多GPU互聯(lián)方面具優(yōu)勢(shì),適合大模型AI計(jì)算中心。B200是兩顆B100 Chiplet化,提升全方位,特別是顯存容量達(dá)到192GB。Blackwell架構(gòu)新增FP4和FP6精度,B200在算力上相對(duì)B100有全面提升,但非理想倍數(shù)增長(zhǎng),顯示NVIDIA有所保留。
《報(bào)告》認(rèn)為中國(guó)AI大模型產(chǎn)業(yè)發(fā)展源于多領(lǐng)域的廣泛需求,例如來(lái)自辦公、制造、金融、醫(yī)療、政務(wù)等場(chǎng)景中降本增效、生產(chǎn)自動(dòng)化、降低風(fēng)險(xiǎn)、提高診斷準(zhǔn)確率、提高政務(wù)服務(wù)效率等訴求。
Universal Chiplet Interconnect Express (UCIe)(R) 是一個(gè)開(kāi)放的行業(yè)互連標(biāo)準(zhǔn),旨在實(shí)現(xiàn)芯片間的封裝級(jí)互連,提供高帶寬、低延遲的連接,適用于云端、邊緣端、企業(yè)等多個(gè)計(jì)算領(lǐng)域。UCIe支持不同晶圓廠、設(shè)計(jì)和封裝方式的Die集成,滿(mǎn)足對(duì)算力、內(nèi)存、存儲(chǔ)和互連日益增長(zhǎng)的需求。
計(jì)算能力與帶寬能力之間的巨大差距導(dǎo)致了內(nèi)存容量和數(shù)據(jù)傳輸速度難以跟上AI硬件的計(jì)算速度,這已成為限制AI芯片性能發(fā)揮的主要瓶頸,通常被稱(chēng)為“內(nèi)存墻”問(wèn)題。
2月29日,貴州省算力科技有限責(zé)任公司向全國(guó)72家購(gòu)買(mǎi)貴州算力資源的企業(yè)發(fā)放了2024年首批89張“貴州算力券”。