在自然语言处理任务中,词向量(word2vec)是表示自然语言里单词的一种方法,即把每个词都表示为一个N维空间内的点,即一个高维空间内的向量。通过这种方法,实现把自然语言计算转换为向量计算。

    图1 所示的词向量计算任务中,先把每个词(如queen,king等)转换成一个高维空间的向量,这些向量在一定意义上可以代表这个词的语义信息。再通过计算这些向量之间的距离,就可以计算出词语之间的关联关系,从而达到让计算机像计算数值一样去计算自然语言的目的。

    词向量word2vec - 图1

    图1:词向量计算示意图

    因此,大部分词向量模型都需要回答两个问题:

    • 如何把词转换为向量?
    • 如何让向量具有语义信息?