上一篇 贝壳找房【语言模型系列】原理篇一:从 one-hot 到 Word2vec 讲到了 word2vec 存在”一词多义“的问题,其主要原因在于 word2vec 生成的词向量是“静态”的,每一个词固定的对应着一个词向量表示,也就是说在 word2vec 训练好之后,在使用单词的向量表示的时候,不论该词的上下文是什么,这个单词的向量表示不会随着上下文语境的变化而改……

阅读全文