MENTAL MODEL · M7561
信息增益
Information Gain
Version 1.0.0 · 更新于 2026-07-30
CORE DEFINITION · 核心定义
熵减少量：某特征对分类不确定性的减少。公式：IG = H(父节点) - 加权平均H(子节点)特征选择：选择信息增益最大的特征分裂。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
量化"这个信息有多少价值"。不是所有信息都同等有用，信息增益帮助识别最有区分力的特征。
anchor
锚定快速决策
信息增益 = 父节点熵 − 按某特征分裂后子节点熵的加权平均，量化该特征减少了多少不确定性。基于香农熵：越能纯净划分样本（子节点更纯），增益越大。决策树（ID3/C4.5）据此选每次分裂的最优特征。
MINIMUM ACTION · 最小行动
进行中 0/5在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- zh.wikipedia.orghttps://zh.wikipedia.org/wiki/%E7%9B%B8%E5%AF%B9%E7%86%B5verified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型