# 玻尔兹曼机

> 玻尔兹曼机（英语：Boltzmann machine）是随机神经网络和循环神经网络的一种，由加拿大计算机科学家杰弗里·辛顿和美国计算机科学家特里·谢泽诺斯基在1985年发明。玻尔兹曼机可被视作随机过程的，可生成的相应的霍普菲尔德神经网络。它是最早能够学习内部表达，并能表达和（给定充足的时间）解决复杂的组合优化问题的神经网络。

- ID: m06096
- 分类: technical
- 领域: 神经科学

## 定义

一种基于能量模型的随机神经网络。网络会自动演化到能量最低的状态（热平衡）。学习过程就是调整权重，使得训练数据对应的状态能量最低。脚手架作用： 学习即降能。学习的物理本质是降低系统内部的冲突和误差（能量）。一个训练有素的大脑或组织，应该是一个低能态、低内耗、内部一致性极高的系统。

## 机制

由Hinton等提出的随机递归神经网络，以能量函数与玻尔兹曼分布定义状态概率，用于无监督学习。机制是能量模型加模拟退火。

## 练习

定义能量函数；按玻尔兹曼分布采样；用对比散度学习参数。

## 脚手架用法

学习即降能。学习的物理本质是降低系统内部的冲突和误差（能量）。一个训练有素的大脑或组织，应该是一个低能态、低内耗、内部一致性极高的系统。

[阅读网页](https://thinkingmodels.site/entries/detail/m06096)