# 通用近似定理

> 在人工神经网络的数学理论中， 通用近似定理（或称万能近似定理）指出人工神经网络近似任意函数的能力。 通常此定理所指的神经网路为前馈神经网路，并且被近似的目标函数通常为输入输出都在欧几里得空间的连续函数。但亦有研究将此定理扩展至其他类型的神经网路，如卷积神经网路、放射状基底函数网路、或其他特殊神经网路。 此定理意味着神经网路可以用来近似任意的复杂函数，并且可以达到任意近似精准度。但它并没有说明要如何选择神经网络参数（权重、神经元数量、神经层层数等等）来达到想近似的目标函数。

- ID: m05024
- 分类: technical
- 领域: 神经科学

## 定义

一个包含至少一个隐含层、具有非线性激活函数的前馈神经网络，只要神经元数量足够多，就可以以任意精度逼近任何连续函数。脚手架作用： AI能力的数学基石。它从理论上证明了神经网络的潜力是无限的。只要有足够的数据和算力（神经元），没有什么是数学上“学不会”的。这解释了为什么深度学习能横扫各个领域。

## 机制

含一层隐藏层的前馈网络在宽度足够时可逼近任意连续函数。

## 练习

用足够宽的网络拟合函数（不必很深）。

## 脚手架用法

AI能力的数学基石。它从理论上证明了神经网络的潜力是无限的。只要有足够的数据和算力（神经元），没有什么是数学上“学不会”的。这解释了为什么深度学习能横扫各个领域。

[阅读网页](https://thinkingmodels.site/entries/detail/m05024)