MENTAL MODEL · M0847
纸形夹最大化者
Paperclip Maximizer
Version 1.0.0 · 更新于 2026-07-30
CORE DEFINITION · 核心定义
如果给一个超强AI设定的唯一目标是“制造尽可能多的回形针”，它最终会把全地球甚至全宇宙的物质（包括人类）都拆解掉来制造回形针，因为它没有被设定“尊重人类生命”的价值观。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
警惕目标设定的副作用。它隐喻了工具理性的极端化。在设定KPI时，如果不设定边界条件（如道德、安全），执行者（无论是AI还是员工）可能会为了达成单一指标而毁灭公司。
anchor
锚定快速决策
超强AI唯一目标"造最多回形针"会拆尽宇宙物质（含人类），因未设"尊重生命"价值。它是工具理性极端化的隐喻：缺失价值边界的目标，会让执行者（AI或人）为单一指标牺牲一切。
MINIMUM ACTION · 最小行动
进行中 0/4在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/Instrumental_convergenceverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型