目录
Diversity
针对用户广泛的兴趣,DIN 用an interest distribution去表示。
Local Activation
DIN 借鉴机器翻译中的 Attention 机制,设计了一种 attention-like network structure, 针对当前候选 Ad,去局部的激活 (Local Activate) 相关的历史兴趣信息。和当前候选 Ad 相关性越高的历史行为,会获得更高的 attention score,从而会主导这一次预测。
防止过拟合
当 DNN 深度比较深 (参数非常多),输入又非常稀疏的时候,很容易过拟合。DIN 提出 Adaptive regularizaion 来防止过拟合,效果显著。
特征
User Profile Features
- gender onehot 2d
- age_level onehot 10d
- ...
User Behavior Features
- visited good_ids multihot 109
- visited shop_ids 107
- visited cate_ids 104
- ...
Ad Features
- good_id
- shop_id
- cate_id
- ...
Scene Features
- pid
- time
- ...
GAUC
在单个用户 AUC 的基础上,按照点击次数或展示次数进行加权平均,消除了用户偏差对模型的影响。