自ChatGPT在2022年底發(fā)布，生成式AI的興起到現(xiàn)在已有將近2年，我們見識了其在ToC領(lǐng)域的高歌猛進(jìn)。也正是有了2年的沉淀，生成式AI也開始逐漸轉(zhuǎn)向ToB，越來越多的企業(yè)希望將其嵌入到自己的工作流中，實現(xiàn)整體的降本增效。

東軟研究院常務(wù)副院長兼東軟魔形科技研究院常務(wù)副院長聞英友多年來一直從事AI技術(shù)及應(yīng)用的研發(fā)。在他看來，從最初千篇一律的延續(xù)互聯(lián)網(wǎng)思維實現(xiàn)大模型應(yīng)用落地的想法，到現(xiàn)在越來越多的關(guān)于大模型ToB場景應(yīng)用價值的討論，都反應(yīng)了一個重要的認(rèn)知，生成式AI必須與行業(yè)和企業(yè)的業(yè)務(wù)場景、實際需求緊密結(jié)合，才能有價值變現(xiàn)的可能。

“不能僅僅靠好玩、新奇的體驗或者尋找所謂殺手級應(yīng)用來驅(qū)動生成式AI的長期可持續(xù)發(fā)展。”聞英友說。

作為企業(yè)IT建設(shè)一路走來的同路人，ISV（獨立軟件開發(fā)商）無疑是生成式AI真正大規(guī)模落地的最關(guān)鍵環(huán)節(jié)，作為鋪路人，ISV掌握著生成式AI ToB應(yīng)用的最后一公里。東軟作為在中國市場上深耕三十多年的ISV，期待著在這樣一個偉大的智能化時代，抓住難得的機(jī)遇，重新定義東軟的角色和價值。

ISV有了新的角色和價值

中國第一批ISV起源于20世紀(jì)80年代末，當(dāng)時PC逐漸進(jìn)入中國，很多外國軟件不能照搬，也就在那時中國ISV開始迅速發(fā)展崛起。

現(xiàn)如今，ISV已經(jīng)成為行業(yè)解決方案和企業(yè)應(yīng)用的最終實現(xiàn)者，是信息化和數(shù)字化的鋪路人。在企業(yè)長久的IT發(fā)展中ISV發(fā)揮了重要的作用，而且ISV也在時刻關(guān)注著各種技術(shù)的發(fā)展，不斷豐富著自己的產(chǎn)品能力。

AI技術(shù)就是其中之一，AI是一個發(fā)展歷程較長的技術(shù)，最早可以追溯到上世紀(jì)50年代。在生成式AI到來之前，AI一直處于判別式時代，ISV在之前就已經(jīng)在解決方案和應(yīng)用中集成了大量的AI能力，業(yè)務(wù)賦能效果也非常明顯。

但聞英友認(rèn)為，這種AI賦能由于受判別式AI本身泛化能力和場景局限性的影響，很難改變ISV的角色和價值定位。

伴隨著以生成式AI為代表的新一代人工智能技術(shù)的快速發(fā)展，其在交互、事務(wù)、認(rèn)知以及決策等方面表現(xiàn)出來的強(qiáng)大的泛化能力和場景適應(yīng)能力，傳統(tǒng)意義的ISV角色和價值定位都發(fā)生了重大的改變。

多年來ISV積累了眾多領(lǐng)域的豐富經(jīng)驗和業(yè)務(wù)知識，以及對企業(yè)數(shù)字化的認(rèn)知，這些是AI廠商所不具備并且無法短期時間內(nèi)補(bǔ)足的，因此在生成式AI的變革浪潮中，ISV的角色和價值都將發(fā)生巨大的變化。

ISV要做“AIGC的行業(yè)嵌入”

了解行業(yè)，了解業(yè)務(wù)，了解客戶，理解客戶的價值訴求，這些都是生成式AI在ToB場景落地必不可少的前提和條件。

“在新一輪生成式AI變革中，ISV應(yīng)該堅持一種AIGC應(yīng)用思維，而不是所謂的大模型思維”。 聞英友解釋稱，ISV應(yīng)該圍繞行業(yè)和企業(yè)的需求去思考該做什么，而不是圍繞大模型本身去思考能做什么？東軟把這種思維定義為“AIGC的行業(yè)嵌入”，這也充分體現(xiàn)了在通用人工智能時代，ISV的核心競爭力。

踏實做應(yīng)用，不強(qiáng)調(diào)模型參數(shù)和實現(xiàn)更強(qiáng)的AGI能力也成為現(xiàn)在ISV們的統(tǒng)一表現(xiàn)。

聞英友認(rèn)為，由于出發(fā)點的不同，造成了ISV和非ISV核心競爭力的差異，當(dāng)然這種差異是具有互補(bǔ)性的，只有好處，沒有壞處。

越來越多的企業(yè)也從喧囂紛亂的市場上，逐漸認(rèn)識到具體的生成式AI項目實施，ISV無疑具有天然優(yōu)勢。

“大模型預(yù)訓(xùn)練的技術(shù)門檻沒有那么高，國內(nèi)和國外有一定差距，但國內(nèi)目前備案的180多個大模型在能力上沒有本質(zhì)差別。”聞英友說，沒有哪個具有獨門絕技讓自己的大模型能力卓爾不群，所以目前生成式AI項目實施的關(guān)鍵還是怎么用好大模型，而不是大模型本身，這也是對ISV有利的一點。

東軟作為中國最早上市的軟件企業(yè)，在智慧城市、醫(yī)療健康、智能汽車互聯(lián)、企業(yè)數(shù)字化轉(zhuǎn)型、國際軟件服務(wù)等多個領(lǐng)域有著三十多年的持續(xù)耕耘。在人工智能的發(fā)展過程中，東軟通過東軟研究院、東軟智能醫(yī)療科技研究院等組織，深入開展AI核心技術(shù)和算法的研究，并廣泛應(yīng)用于各行業(yè)領(lǐng)域的產(chǎn)品和服務(wù)之中。

有準(zhǔn)備的迎接生成式AI的機(jī)遇與挑戰(zhàn)

當(dāng)前生成式AI技術(shù)的市場還并不成熟，企業(yè)雖然看到生成式AI解決方案的市場需求呈現(xiàn)出全領(lǐng)域、全業(yè)務(wù)增長的態(tài)勢，但從實際需求到真正項目落地，市場還是表現(xiàn)出很明顯的謹(jǐn)慎態(tài)度。

ISV一方面面臨著角色和價值重新定義的重大機(jī)遇，一方面又掌握著ToB的AIGC應(yīng)用最后一公里。

2023年初，東軟成立了魔形科技研究院投入大量資源建設(shè)算力平臺和訓(xùn)練平臺，專門研究生成式AI與AIGC行業(yè)應(yīng)用涉及的核心技術(shù)，迎接生成式AI的機(jī)遇和挑戰(zhàn)。

東軟魔形科技研究院啟動和實施東軟“大語言模型系統(tǒng)工程（LLM Systems Engineering，LLM-SE）”戰(zhàn)略，面向醫(yī)療、人社、醫(yī)保、政務(wù)、金融、媒體、人力資源及智能汽車等所有業(yè)務(wù)領(lǐng)域，構(gòu)建東軟LLM-SE+領(lǐng)域應(yīng)用。

并且在今年，東軟集團(tuán)創(chuàng)始人、董事長劉積仁明確提出并全面實施了智能化解決方案戰(zhàn)略，將AI、大數(shù)據(jù)等先進(jìn)技術(shù)融入更多行業(yè)應(yīng)用，推動產(chǎn)業(yè)升級和數(shù)字化轉(zhuǎn)型。

雖然更多的客戶需求是“AIGC的行業(yè)嵌入”，但AIGC行業(yè)應(yīng)用的真正落地卻充滿挑戰(zhàn)。因為行業(yè)企業(yè)客戶在認(rèn)知上有很多信息輸入渠道，認(rèn)識的偏差常常帶來錯誤的判斷和預(yù)期，容易對生成式AI產(chǎn)生不符合實際業(yè)務(wù)需求的過高期待，或者對生成式AI持懷疑態(tài)度進(jìn)而等待觀望。

東軟認(rèn)為把AIGC能力輸送到客戶價值體系中就能夠把握市場的主動權(quán)，所以近兩年東軟也做了很多的工作幫助客戶實現(xiàn)認(rèn)知的轉(zhuǎn)變，只有ISV和客戶的認(rèn)知達(dá)成一致，才能真正實現(xiàn)生成式AI驅(qū)動的業(yè)務(wù)和價值變革。

生成式AI部署首先要統(tǒng)一認(rèn)知

東軟在幫助企業(yè)部署生成式AI的過程中，遇到最多的兩個問題是客戶自身應(yīng)用場景的挖掘、模型和算力的選擇困惑。

“我們經(jīng)�？吹胶芏嗫蛻粼诓粩嗾覉鼍�，看案例。”聞英友說道，東軟一直積極協(xié)助客戶結(jié)合自身業(yè)務(wù)找到最佳的切入點和實現(xiàn)路徑，并全面規(guī)劃未來的發(fā)展，這也是作為ISV，與客戶一起成長義不容辭的責(zé)任。

在算力和模型的選擇上，根據(jù)模型參數(shù)規(guī)模、量化參數(shù)、推理加速方法等因素靜態(tài)推斷模型部署的算力需求是非常不可靠的，需要更多考慮成本和未來應(yīng)用的擴(kuò)展性。

不同的應(yīng)用和不同的實現(xiàn)方式，都對模型和算力有不同的實際需求，比如一個非即時的文書生成應(yīng)用和一個業(yè)務(wù)場景中的對話應(yīng)用在首token響應(yīng)時間上的要求完全不同，對模型和算力要求也完全不同。

聞英友指出，模型和算力選擇也和應(yīng)用具體的實現(xiàn)有關(guān)系，一個應(yīng)用如何調(diào)用大模型，調(diào)用的頻度以及平均單次調(diào)用的token數(shù)等等都會產(chǎn)生不同的系統(tǒng)壓力。我國目前生成式AI產(chǎn)業(yè)發(fā)展處于初始階段的定位，體現(xiàn)了AIGC應(yīng)用的成熟度欠缺，市場總體上還處于一個賣模型和賣算力的階段，沒有更多的真正有價值的AIGC應(yīng)用作為參照，造成了模型和算力選擇上的盲目。

東軟首先會協(xié)助客戶做好規(guī)劃，結(jié)合客戶實際和現(xiàn)階段生成式AI的能力和特點，找到切實可行的推進(jìn)路線和應(yīng)用切入點。在這個過程中，東軟特別重視發(fā)揮業(yè)務(wù)專家的作用，因為企業(yè)生成式AI成功落地的關(guān)鍵不在于大模型，而在于對業(yè)務(wù)的理解。

同時，東軟也積極向客戶展示各個領(lǐng)域不同類型的AIGC應(yīng)用案例，這對于目前處于探索階段的行業(yè)和企業(yè)客戶來說，特別具有啟發(fā)作用。在具體項目實施前會通過各種測試重點解決客戶的模型和算力選擇困惑，在實施過程中就每一個生成功能點的特性需求，也就是東軟定義的生成效果的度量，保持與客戶實時溝通，讓客戶了解生成式AI的特點，進(jìn)而能更好地配合和調(diào)整項目的交付目標(biāo)，保證交付質(zhì)量。

從技術(shù)到應(yīng)用的一套方法論

東軟既有技術(shù)基礎(chǔ)作為保障，又有對AIGC行業(yè)應(yīng)用有深刻的認(rèn)識，并且圍繞智能化解決方案戰(zhàn)略，在四個方面進(jìn)行了研發(fā)布局并取得了關(guān)鍵技術(shù)的突破。

第一，通用大語言模型，東軟“領(lǐng)智”（IndustraMind）大模型的預(yù)訓(xùn)練和國家備案，全面支撐了東軟多個行業(yè)的AIGC應(yīng)用開發(fā)需求。

第二，智能體技術(shù)方面，東軟面向經(jīng)辦類應(yīng)用，自研了IndustraMind ToB智能體，全面支持了醫(yī)療、醫(yī)保以及人社領(lǐng)域的智能化解決方案實現(xiàn)。

第三，AIGC應(yīng)用開發(fā)方面，東軟于2023年在業(yè)內(nèi)率先提出了大語言模型系統(tǒng)工程(LLM-SE)概念，構(gòu)建了開放框架，在知識工程、事務(wù)工程、交互工程以及可解釋工程等方面形成了關(guān)鍵技術(shù)和算法，有效保障了企業(yè)用戶的AIGC應(yīng)用效果。

第四，開發(fā)平臺方面，東軟面向場景類應(yīng)用，構(gòu)建了AIMate大模型應(yīng)用敏捷開發(fā)平臺，全面支撐了政務(wù)、環(huán)保等領(lǐng)域的AIGC應(yīng)用開發(fā)。

“大模型不等于大模型應(yīng)用。”聞英友說，東軟把ToB的AIGC應(yīng)用劃分為經(jīng)辦類和場景類。場景類AIGC應(yīng)用因為要結(jié)合客戶的業(yè)務(wù)場景，大部分是定制化的，傳說中的做一個所謂“行業(yè)大模型”就能滿足一切AIGC行業(yè)應(yīng)用的開發(fā)需求僅僅是一種傳說，我們?yōu)樾袠I(yè)客戶做的場景類AIGC應(yīng)用，基本都很難復(fù)制到同一領(lǐng)域的另一個客戶現(xiàn)場。比如某藥廠做的生產(chǎn)工藝運維的大模型應(yīng)用，因為藥的品種不一樣，生產(chǎn)工藝也完全不同，就無法復(fù)制到另一個藥廠。

對于定制化的AIGC行業(yè)應(yīng)用，雖然很難實現(xiàn)場景的完全復(fù)制，但可以實現(xiàn)平臺和技術(shù)的復(fù)用，這種復(fù)用是保障場景類AIGC應(yīng)用效果和質(zhì)量的重要基礎(chǔ)，這也是東軟研發(fā)投入的重點。

聞英友一直有一個觀點：尋找所謂的大模型殺手級應(yīng)用是一個偽命題，如果大模型真正成熟好用，一切的應(yīng)用都將被重新定義和開發(fā)，那么一切應(yīng)用都是殺手級應(yīng)用。只不過目前的生成式AI還不成熟，實現(xiàn)不了這種全方位的替代。

東軟定義的智能化解決方案有四個發(fā)展階段，分別對應(yīng)四種智能化，即：交互智能，事務(wù)智能，認(rèn)知智能以及決策智能。重點面向醫(yī)療、醫(yī)保、人力資源和社會保障等用戶群體覆蓋廣，事務(wù)性工作負(fù)擔(dān)大，社會影響力深遠(yuǎn)的領(lǐng)域。

目前，東軟基于東軟大語言模型系統(tǒng)工程（LLM-SE）以及自研的IndustraMInd ToB智能體技術(shù)，在人社領(lǐng)域已經(jīng)完成了交互智能、事務(wù)智能和認(rèn)知智能三個階段的研發(fā)目標(biāo)。

通過自研智能體開發(fā)平臺，東軟實現(xiàn)了領(lǐng)域業(yè)務(wù)流程和數(shù)據(jù)知識的智能體注入，設(shè)計并實現(xiàn)了“人社智用體”，重點解決人社領(lǐng)域面臨的客服工作量大，高頻業(yè)務(wù)辦理量大以及交互智能化和適老化的應(yīng)用需求。

目前東軟“人社智用體”已經(jīng)實現(xiàn)了Web業(yè)務(wù)系統(tǒng)到APP應(yīng)用再到數(shù)字人系統(tǒng)的全路徑升級，完成了人社領(lǐng)域的智能客服、業(yè)務(wù)辦理、咨詢建議等多個業(yè)務(wù)的統(tǒng)一入口整合，實現(xiàn)了“有事您說話”的智能應(yīng)用模式，構(gòu)建了虛擬柜員服務(wù)模態(tài)。

寫在最后

大語言模型系統(tǒng)工程能力的持續(xù)提升，是東軟在這個時代的求存圖進(jìn)的傍身之技，是致勝圖強(qiáng)的獨孤九劍。

以生成式AI為起點的AGI時代，ISV要重新思考自己的定位，東軟認(rèn)識到在大模型預(yù)訓(xùn)練和生產(chǎn)方面的經(jīng)驗積累要弱于大模型廠商，但自身卻有著比較明顯的業(yè)務(wù)知識和數(shù)據(jù)資產(chǎn)優(yōu)勢。因此，如何更好地開展與生態(tài)伙伴合作，面向行業(yè)領(lǐng)域構(gòu)建領(lǐng)域?qū)�業(yè)大模型，進(jìn)而更好地支撐應(yīng)用的實現(xiàn)以及AIGC應(yīng)用的持續(xù)優(yōu)化，是需要重點布局的方向。

東軟希望完成從傳統(tǒng)軟件開發(fā)的商業(yè)模式到知識服務(wù)的商業(yè)模式的轉(zhuǎn)變，因為智能化解決方案不僅僅是鋪一條路，而是打造一個持續(xù)的數(shù)據(jù)價值和知識資產(chǎn)的生產(chǎn)系統(tǒng)，為知識服務(wù)的實現(xiàn)提供無限可能。