目录
简介
统计语言模型是一个单词序列上的概率分布，它可以表示任意一个句子或序列出现的概率。
Unigram models
Unigram models也即一元文法模型，它是一种上下文无关模型。该模型仅仅考虑当前词本身出现的概率，而不考虑当前词的上下文环境。
N-gram models
可以理解为当前词的概率与前面的n个词有关系，可以理解为上下文有关模型。
NLP相关文章
- ELECTRA+Biaffine
- Self Instruct技术
- SO-PMI（Semantic Orientation Pointwise Mutual Information，情感倾向点互信息算法）
- Masked Language Model（MLM）掩码语言模型
- Siamese CBOW（Continuous Bag of Words）一种Word2Vec的变体
- RoBERTa-wwm（RoBERTa-Whole Word Masking）模型
- cs224n
- No Language Left Behind（NLLB，不让任何一门语言掉队）
- 共指消解（Coreference Resolution）
- Coherence模型（一致性模型）
语言模型相关文章
最近热门
- AUUC
- 次梯度方法
- 论文《Applying Deep Learning To Airbnb Search》阅读笔记
- SFT（Supervised Fine-Tuning，即有监督微调）
- 论文 | PAL: A Position-bias Aware Learning Framework for CTR Prediction in Live Recommender Systems
- 凸优化中的 Slater 条件
- 因果推断 | uplift | 营销增长 | 增长算法 | 智能营销
- Context Parallel（简称CP）并行化技术
- ITC（Image-Text Contrastive）loss和ITM（Image-Text Matching）loss
- tf.losses.log_loss
最常浏览
- 016 推荐系统 | 排序学习（LTR - Learning To Rank）
- 偏微分符号
- i.i.d（又称IID）
- 利普希茨连续条件（Lipschitz continuity）
- (error) MOVED 原因和解决方案
- TextCNN详解
- 找不到com.google.protobuf.GeneratedMessageV3的类文件
- Deployment failed: repository element was not specified in the POM inside distributionManagement
- cannot access com.google.protobuf.GeneratedMessageV3 解决方案
- CLUSTERDOWN Hash slot not served 问题原因和解决办法
×
![]()