
用好AI算力,產(chǎn)生創(chuàng)新洞見

在生成式AI的發(fā)展中,算力的存在可以說舉足輕重。可以看到大模型正在帶動AI算力需求超越摩爾定律增長,據(jù)統(tǒng)計AI訓練任務(wù)中的算力增長,每 3.5個月就會翻一倍。
ChatGPT僅推出2個月,月活躍用戶就已達1億,半年時間ChatGPT就成為了生成式AI的現(xiàn)象級產(chǎn)品。
在生成式AI的發(fā)展中,算力的存在可以說舉足輕重。可以看到大模型正在帶動AI算力需求超越摩爾定律增長,據(jù)統(tǒng)計AI訓練任務(wù)中的算力增長,每 3.5個月就會翻一倍。
以GhatGPT為例,在預(yù)訓練算力上,訓練一次1,746億參數(shù)的GPT-3模型需要的算力約為 3,640 PFlop/s-day,對應(yīng)的單次訓練成本高達460萬美元;日常運營算力上,GhatGPT根據(jù)訪問量與內(nèi)容量測算,單月運營算力約4,800PFlop/s-day;調(diào)優(yōu)迭代算力上,每月模型調(diào)優(yōu)帶來的算力需求為82.5~137.5 PFlop/s-day。
現(xiàn)階段,算力作為數(shù)字經(jīng)濟時代新的生產(chǎn)力,已成為經(jīng)濟社會高質(zhì)量發(fā)展的重要支撐。工業(yè)和信息化部數(shù)據(jù)顯示,我國近年來算力產(chǎn)業(yè)年增長率近30%,算力總規(guī)模位居全球第二。截至2022年底,我國算力總規(guī)模達到180EFLOPS(每秒18000京次浮點運算),算力核心產(chǎn)業(yè)規(guī)模達到1.8萬億元。
工業(yè)和信息化部新聞發(fā)言人、總工程師趙志國近日表示,近期通用人工智能的發(fā)展對算力提出了更高要求,工業(yè)和信息化部將重點從三方面著手:一是持續(xù)推動算力基礎(chǔ)設(shè)施建設(shè);二是聚力推進關(guān)鍵核心技術(shù)攻關(guān)和產(chǎn)業(yè)升級;三是激發(fā)算力應(yīng)用賦能價值。
而且在“百模”大賽下,全球算力需求呈指數(shù)級增加,帶動了國內(nèi)AI服務(wù)器市場快速增長。本期《數(shù)字化轉(zhuǎn)型方略》將和大家聊聊什么樣的算力,才能滿足大模型千億數(shù)量級的訓練需求?AI算力還有哪些發(fā)展方向?
總的來說,AI算力的發(fā)展已經(jīng)成為數(shù)字經(jīng)濟時代的重要驅(qū)動力,無論是芯片廠商、服務(wù)器廠商、還是云廠商,他們都在不斷地滿足著AI算力的需求,推動著AI技術(shù)的發(fā)展。而對于我們來說,未來是如何用好AI算力,產(chǎn)生創(chuàng)新洞見。
《數(shù)字化轉(zhuǎn)型方略》2023年第7期:http://www.yqqjgz.cn/dxinsight/2307
本文章選自《數(shù)字化轉(zhuǎn)型方略》雜志,閱讀更多雜志內(nèi)容,請掃描下方二維碼
