词嵌入模型(Word2Vec,CBOW 和 Skip-Gram)

本课程通过滑动窗口构造样本,讲解word2vec的Skip-Gram与CBOW结构,解决词袋高维稀疏难表语义,帮助建立词向量认知。

阅读课件 观看视频
课程内容
我有话说

1/1 词嵌入 word2vec 模型

讲解一种把每个词映射成固定长度向量的经典模型,说明这样做为何能让词语之间的语义相似性变成可以定量计算的数值关系。文章介绍了它通过两种不同的预测任务来训练向量的思路,并剖析输入、投影和输出三层结构各自承担的职责,指出语义相近的词会落到向量空间中相邻的位置。读完可理解词嵌入为何有效,为阅读后续自然语言处理模型打下原理基础。

你可能感兴趣