# 嵌入

> 将词语或概念映射到一个高维向量空间中。

- ID: m05944
- 分类: culture
- 领域: 语言学

## 定义

将词语或概念映射到一个高维向量空间中。在这个空间里，语义相似的词距离更近。例如，“国王 - 男人 + 女人 ≈ 女王”。脚手架作用： 意义的几何化。概念不是孤立的，它们在语义空间中有确定的位置和距离。通过这种几何思维，我们可以进行“概念运算”——把两个看似无关的创意向量相加，就能找到它们在语义空间中的交点（新创意）。

## 机制

通过大规模语料训练神经网络，将离散符号（词、句、文档）投影到连续向量空间；模型以"上下文预测"为目标（如 Skip-gram、CBOW），使共现频繁或语义相近的 token 获得相近向量。向量的几何关系编码了语义与句法，可进行向量加减等类比运算。

## 练习

选用预训练模型或基于自有语料训练；将文本切分并转化为向量；以余弦相似度等度量语义距离；将向量用于聚类、检索或下游分类任务。

## 脚手架用法

意义的几何化。概念不是孤立的，它们在语义空间中有确定的位置和距离。通过这种几何思维，我们可以进行“概念运算”——把两个看似无关的创意向量相加，就能找到它们在语义空间中的交点（新创意）。

[阅读网页](https://thinkingmodels.site/entries/detail/m05944)