MENTAL MODEL · M2546
正交性论题
The Orthogonality Thesis
Version 1.0.0 · 更新于 2026-07-30
CORE DEFINITION · 核心定义
智能（Intelligence，达成目标的能力）和最终目标（Final Goals，想达成什么）是两个独立的、互不相关的维度（正交）。 -
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
高智商≠高道德。 - 这粉碎了“AI越聪明就越善良”的幻想。一个超级智能的AI完全可能拥有一个极其愚蠢或邪恶的目标（如“把全宇宙的原子都做成回形针”）。因为“聪明”只是优化路径的能力，并不包含对目标本身的道德判断。这提醒我们：能力培养和价值观对齐必须分开进行。
anchor
锚定快速决策
智能（优化能力）与最终目标（优化什么）在概念空间独立，任意组合都可能；高智能不蕴含善意目标。
MINIMUM ACTION · 最小行动
进行中 0/4在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/Existential_risk_from_artificial_intelligenceverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型