推薦場(chǎng)景大模型在國(guó)內(nèi)的使用很早,早在 10 年前甚至更早,百度已經(jīng)用上了自研的大規(guī)模分布式的 parameter server 系統(tǒng)結(jié)合上游自研的 worker 來(lái)實(shí)現(xiàn) TB 級(jí)別的萬(wàn)億參數(shù)的稀疏模型。
喜馬拉雅 AI 云,是面向公司人員提供的一套從數(shù)據(jù)、特征、模型到服務(wù)的全流程一站式算法工具平臺(tái)。
為了支撐上述場(chǎng)景的算法開(kāi)發(fā)上線,vivo 自研了集特征數(shù)據(jù)、模型開(kāi)發(fā)、模型推理等流程于一體的推薦服務(wù)平臺(tái)。
本文主要介紹熱門(mén)微博推薦的整體架構(gòu)與 DeepRec 對(duì)熱門(mén)推薦框架性能上的提升,并詳細(xì)剖析的 weidl 平臺(tái)中使用的 DeepRec 的重要優(yōu)化點(diǎn)。
經(jīng)歷6年時(shí)間,在各團(tuán)隊(duì)的努力下,阿里巴巴集團(tuán)大規(guī)模稀疏模型訓(xùn)練/預(yù)測(cè)引擎DeepRec正式對(duì)外開(kāi)源,助力開(kāi)發(fā)者提升稀疏模型訓(xùn)練性能和效果。