MENTAL MODEL · M5935
残差连接
Residual Connection
更新于 2026-08-05
CORE DEFINITION · 核心定义
在深层网络中,将输入直接加到输出上(跳跃连接)。这让网络只需要学习“输入与输出的差值”(残差),而不是从头学习输出。这解决了深层网络难以训练的问题。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
基于现状的增量进步。不要试图每次都推倒重来(从头学习)。保留“现状”(Identity Mapping),只关注“如何改进一点点”(学习残差),是处理超复杂任务(如几百层的网络或几百年的组织)时唯一可行的进化方式。
anchor
锚定快速决策
跳跃连接令 F(x)=H(x)-x,网络只学残差 H(x)-x,梯度可经恒等捷径回传,缓解退化与梯度消失。
MINIMUM ACTION · 最小行动
进行中 0/4在一个真实场景中练习这个模型:
勾选记录你的进度(本机暂存)
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/Residual_neural_networkverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels;回答仅使用公开词条上下文。
RELATED MODELS · 相关模型