MENTAL MODEL · M5651
对齐税
Alignment Tax
更新于 2026-08-08
CORE DEFINITION · 核心定义
为了使AI系统的目标与人类价值观保持一致而必须付出的额外成本，包括计算资源、开发时间和性能损失。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
AI开发的必要成本。随着AI能力增强，对齐税会变得越来越重要。不愿意支付对齐税可能导致AI系统行为偏离人类期望，带来严重后果。
anchor
锚定快速决策
让模型目标与人类意图一致需要额外机制（RLHF、红队、监控），这些机制消耗算力/开发时间/部分性能；能力越强，出错代价越大，对齐投入必要。
MINIMUM ACTION · 最小行动
进行中 0/4在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/AI_alignmentverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型