激活函数
- 可以考虑使用非线性的激活函数，如swish等激活函数
优化器
学习率调整
- 有时模型学习速度慢，提高学习率可以快速提高模型效果。
模型结构优化
FM
- 添加Embedding内积
残差网络 resnet、densenet
MLP层加宽
- [64, 32] -> [128, 64, 32]
推荐系统相关文章
- 推荐系统中序列建模优化的思路和常见模型（DIN、DIEN等）
- MMoE - Multi-gate Mixture-of-Experts - 多任务排序算法
- 论文：Modeling the Sequential Dependence among Audience Multi-step Conversions with Multi-task Learning in Targeted Display Advertising（AITM）
- 论文：A Survey on Large Language Models for Recommendation，大语言模型在推荐系统中的应用综述
- 推荐系统 | 疲劳度建模
- Self-Attentive Sequential Recommendation（SASRec）
- 推荐系统中的时长建模
- HPMN：基于个性化记忆的终身顺序建模用于用户响应预测
- 推荐模型提效常用方法
- 样本稀疏问题和解决方案
最近热门
- 流匹配（Flow Matching，FM）
- 模型证据下界（Evidence Lower Bound，ELBO）
- LLM | Chain of Thought（CoT，思维链）
- Zero Redundancy Optimizer（ZeRO）内存优化技术
- 面向任意目标的全库向量召回技术PDM
- 多模态对齐（Multimodal Alignment）
- STT模型（Speech-to-Text）
- 论文：HoME - Hierarchy of Multi - Gate Experts for Multi - Task Learning at Kuaishou
- RQ-VAE（Residual-Quantized VAE）变分自编码器和残差量化
- 论文 | On Calibration of Modern Neural Networks
最常浏览
- 016 推荐系统 | 排序学习（LTR - Learning To Rank）
- 偏微分符号
- i.i.d（又称IID）
- 利普希茨连续条件（Lipschitz continuity）
- (error) MOVED 原因和解决方案
- TextCNN详解
- 找不到com.google.protobuf.GeneratedMessageV3的类文件
- Deployment failed: repository element was not specified in the POM inside distributionManagement
- cannot access com.google.protobuf.GeneratedMessageV3 解决方案
- CLUSTERDOWN Hash slot not served 问题原因和解决办法
×
![]()