摘要:
針對現有深度神經網絡點擊率預測模型在對用戶偏好建模時,難以有效且高效地處理用戶行為序列的問題,提出長短期興趣網絡(Long and short term interests network, LSTIN)模型,充分利用用戶歷史記錄上下文信息和順序信息,提升點擊率預測精準性和訓練效率。使用基于注意力機制的Transformer和激活單元結構完成用戶長、短期興趣建模,對用戶短期興趣進一步使用循環神經網絡(Recurrent neural network, RNN)、卷積神經網絡(Convolutional neural networks, CNN)進行處理,最后使用全連接神經網絡進行預測。在亞馬遜公開數據集上開展實驗,將提出的模型與基于分解機的神經網絡(DeepFM)、深度興趣網絡(Deep interest network, DIN)等點擊率預測模型對比,結果表明提出的模型實現了考慮上下文信息和順序信息的用戶歷史記錄建模,接受者操作特征曲線下面積(Area under curve, AUC)指標為85.831%,相比于基礎模型(BaseModel)提升1.154%,相比于DIN提升0.476%。且因區分用戶長、短期興趣,模型能夠在提升預測精準性的同時保障訓練效率。