推薦場景大模型在國內(nèi)的使用很早,早在 10 年前甚至更早,百度已經(jīng)用上了自研的大規(guī)模分布式的 parameter server 系統(tǒng)結(jié)合上游自研的 worker 來實現(xiàn) TB 級別的萬億參數(shù)的稀疏模型。
為了支撐上述場景的算法開發(fā)上線,vivo 自研了集特征數(shù)據(jù)、模型開發(fā)、模型推理等流程于一體的推薦服務(wù)平臺。
本文主要介紹熱門微博推薦的整體架構(gòu)與 DeepRec 對熱門推薦框架性能上的提升,并詳細剖析的 weidl 平臺中使用的 DeepRec 的重要優(yōu)化點。
經(jīng)歷6年時間,在各團隊的努力下,阿里巴巴集團大規(guī)模稀疏模型訓(xùn)練/預(yù)測引擎DeepRec正式對外開源,助力開發(fā)者提升稀疏模型訓(xùn)練性能和效果。