MENTAL MODEL · M7564
信息熵
Information Entropy
Version 1.0.0 · 更新于 2026-07-28
CORE DEFINITION · 核心定义
香农公式：H = -Σ p(x) log p(x)不确定性：熵越高，不确定性越大。信息量：消除不确定性所需的信息量。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
量化"惊讶程度"。高概率事件信息量低（"太阳从东方升起"），低概率事件信息量高（"太阳从西方升起"）。（信息熵分析法、信息熵发散、信息熵减度、信息熵减模型、信息熵缩减法、信息熵增法、信息熵增验证、信息熵增阻断、信息熵值压缩、信息熵自测法 为相关应用）
anchor
锚定快速决策
香农定义熵 H = -Σ p(x) log p(x)，衡量随机变量的平均不确定性。分布越均匀（每个结果概率相近），熵越高、越不确定；越集中（某结果概率高），熵越低。消除这一不确定性所需的最小平均信息量即等于熵。通常以比特（bit，log以2为底）为单位。
MINIMUM ACTION · 最小行动
进行中 0/5在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/Entropy_%28information_theory%29verified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型