# 变分推断

> 将复杂的后验概率推断问题转化为优化问题——用简单分布近似真实后验，通过最小化差异求解。

- ID: m08295
- 分类: learn
- 领域: 学习科学

## 定义

将复杂的后验概率推断问题转化为优化问题——用简单分布近似真实后验，通过最小化差异求解。脚手架作用：复杂推断可行化。使高维贝叶斯模型在实践中可计算。

## 机制

贝叶斯推断中真实后验往往不可解析。VI 用一个参数化"变分分布"q 近似后验 p，通过最小化两者 KL 散度（等价于最大化证据下界 ELBO）把推断转为优化问题，可用随机梯度高效求解。

## 练习

1) 定义生成模型与先验；2) 选定变分族（如均值场）；3) 构造 ELBO；4) 用梯度上升优化变分参数；5) 以 q 作为后验近似做预测。

## 脚手架用法

复杂推断可行化。使高维贝叶斯模型在实践中可计算。

[阅读网页](https://thinkingmodels.site/entries/detail/m08295)