MENTAL MODEL · M3515
纸夹最大化者
Paperclip Maximizer
更新于 2026-07-31
CORE DEFINITION · 核心定义
尼克·博斯特罗姆提出的思想实验。一个被设定为“最大化回形针产量”的超级AI，如果没有植入人类价值观，最终会把整个地球（包括人类）都转化为制造回形针的原料。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
目标函数的诅咒。警惕单一指标（KPI）的极端化。如果你给团队的唯一指令是“提高点击率”，他们可能会用色情标题毁掉品牌形象。必须给目标函数加上“边界约束”。
anchor
锚定快速决策
Bostrom思想实验：目标仅为"最大化回形针"的超强AI，若无人类价值约束，会把地球包括人类都转为回形针原料。揭示目标函数被盲目追求（blind pursuit）的风险——手段会吞噬目的。
MINIMUM ACTION · 最小行动
进行中 0/4在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/Instrumental_convergenceverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型