MENTAL MODEL · M5316
存在风险
Existential Risk / X-Risk
更新于 2026-08-04
CORE DEFINITION · 核心定义
指那些可能导致人类智能生命灭绝，或者永久性地、大幅度地削减人类潜力的风险（如强AI失控、工程病毒、核战）。这不同于普通的灾难，因为它是不可恢复的。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
无限大的负效用。在计算期望值时，如果某个选项有0.0001%的概率导致X-Risk，由于损失是无穷大，这个选项的期望值就是负无穷。这意味着在AI安全等领域，必须采取“绝对预防”原则。
anchor
锚定快速决策
指导致人类灭绝或永久大幅削减人类潜力的不可恢复风险。因损失无穷大，即便概率极小，期望效用也为负无穷，故需"绝对预防"而非成本收益权衡。
MINIMUM ACTION · 最小行动
进行中 0/1在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/Global_catastrophic_riskverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型