端側(cè)大模型有可能是最先引爆這一輪生成式AI的領(lǐng)域。

為什么這么說，與云側(cè)大模型相比，端側(cè)大模型可以更好地學(xué)習(xí)用戶個人數(shù)據(jù)在本地實現(xiàn)智能化，而且數(shù)據(jù)不出端、不上云，隱私信息更安全。

IDC也預(yù)測，終端的AI化會成為AI發(fā)展與落地的重要支持方向。到2026年，中國市場中近50%的終端設(shè)備的處理器將帶有AI引擎技術(shù)。

8月4日，華為開發(fā)者大會2023上，不僅HarmonyOS 4將受益于“盤古大模型”，華為還將大模型深度整合進(jìn)手機(jī)系統(tǒng)，實現(xiàn)更高層次的融合，智慧助手小藝接入AI大模型能力，可以進(jìn)行自然對話、會議紀(jì)要和輔助文案生成、圖片二次創(chuàng)作等。

8月14日，小米年度發(fā)布會上，小米宣布自研13億參數(shù)端側(cè)大模型，在部分場景上可以媲美行業(yè)60億參數(shù)的云端大模型，同時小米也將小愛同學(xué)升級大模型。

vivo預(yù)告了11月1日vivo開發(fā)者大會將發(fā)布全新手機(jī)操作系統(tǒng)OriginOS 4，首發(fā)搭載vivo自研AI大模型vivoLM。自研AI大模型矩陣包括十億、百億、千億三個不同參數(shù)量級的5個自研大模型。

OPPO安第斯智能云團(tuán)隊打造了基于混合云架構(gòu)的生成式大語言模型OAndesGPT。10月11日，OPPO宣布基于AndesGPT大模型打造的新版AI助手——新小布1.0開啟了第一輪公測。

2023高通驍龍峰會期間，榮耀宣布榮耀Magic6系列將搭載第三代驍龍8移動平臺，支持70億參數(shù)的端側(cè)AI大模型。靈動膠囊Magic Capsule可以基于眼神跟蹤的多模態(tài)交互技術(shù)。YOYO助手提供簡短提示來創(chuàng)建主題視頻，甚至可以通過與YOYO助理對話更改背景音樂或模板。

幾個月來，vivo、OPPO、小米的大模型也在兩大中文大模型評測榜單C-Eval和CMMLU上“刷榜”了一波。

很多人會問，端側(cè)芯片可以支持大模型的訓(xùn)練嗎？一方面高通、聯(lián)發(fā)科等芯片巨頭也在探索將AI大模型植入端側(cè)，一方面模型也在小型化，降低所需的資源和能耗，當(dāng)然我們也看到未來大模型還是會向著云側(cè)和端側(cè)相結(jié)合發(fā)展。

本期《數(shù)字化轉(zhuǎn)型方略》也將看看端側(cè)代表們，在把大模型裝進(jìn)端側(cè)上都做了哪些工作。我們也希望進(jìn)一步看到未來隨著端側(cè)大模型對用戶個人數(shù)據(jù)和習(xí)慣的學(xué)習(xí)成長，帶來更深入的意圖理解和更加個性化的復(fù)雜場景服務(wù)。

《數(shù)字化轉(zhuǎn)型方略》2023年第10期：http://www.yqqjgz.cn/dxinsight/2310