MENTAL MODEL · M2311
自动化偏见
Automation Bias
Version 1.0.0 · 更新于 2026-07-30
CORE DEFINITION · 核心定义
人类倾向于过度信任自动化系统（算法、仪表盘、AI）提供的建议，甚至在有明显证据表明系统出错时，依然选择相信系统而忽略自己的判断。 -
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
AI时代的盲从警报。 - 飞行员因为相信仪表盘而忽略窗外的山，医生因为相信AI诊断而忽略病人的症状。在AI辅助决策时代，“保持人类在回路中（Human-in-the-loop）的独立判断力”将成为一种稀缺的安全能力。永远不要把“最终确认键”交给算法。
anchor
锚定快速决策
人对自动化建议的过度信任，即便有反证仍依从、忽略自身判断。其根源在于认知节俭（省力）与对"机器客观"的错觉，以及在多任务负荷下把注意让渡给系统。它会削弱人的独立监控意愿，形成"自动化 complacency"。
MINIMUM ACTION · 最小行动
进行中 0/3在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/Automation_biasverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型