目录

Diversity

针对用户广泛的兴趣,DIN 用an interest distribution去表示。

Local Activation

DIN 借鉴机器翻译中的 Attention 机制,设计了一种 attention-like network structure, 针对当前候选 Ad,去局部的激活 (Local Activate) 相关的历史兴趣信息。和当前候选 Ad 相关性越高的历史行为,会获得更高的 attention score,从而会主导这一次预测。

防止过拟合

当 DNN 深度比较深 (参数非常多),输入又非常稀疏的时候,很容易过拟合。DIN 提出 Adaptive regularizaion 来防止过拟合,效果显著。

特征

User Profile Features

  • gender onehot 2d
  • age_level onehot 10d
  • ...

User Behavior Features

  • visited good_ids multihot 109
  • visited shop_ids 107
  • visited cate_ids 104
  • ...

Ad Features

  • good_id
  • shop_id
  • cate_id
  • ...

Scene Features

  • pid
  • time
  • ...

GAUC

在单个用户 AUC 的基础上,按照点击次数或展示次数进行加权平均,消除了用户偏差对模型的影响。

avatar

参考