https://index.zshipu.com/geek/tags/%E8%AF%8D%E5%B5%8C%E5%85%A5/ Recent content in 词嵌入 on 知识铺的博客 Hugo -- gohugo.io zh-CN Tue, 15 Mar 2022 09:02:27 +0800 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E6%B7%B1%E5%85%A5%E6%B5%85%E5%87%BA%E8%AF%8D%E5%B5%8C%E5%85%A5%E6%8A%80%E6%9C%AF/ Tue, 15 Mar 2022 09:02:27 +0800 https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E6%B7%B1%E5%85%A5%E6%B5%85%E5%87%BA%E8%AF%8D%E5%B5%8C%E5%85%A5%E6%8A%80%E6%9C%AF/ 本文概览： 本文又名《Distributed Representation: From Static Embedding to Contextualized Embedding》 1. Classical Representation: One-hot Encoding 独热编码是NLP领域最简单的一种单词表示法。One-hot Encoding就是一个单词用长度为的向量表示，其中只有一个位置为，其余位置为，为语料中词库的大小。 One-hot Encoding有什么问题呢？假如我