# 厌恶性结论

> 一个思想实验。

- ID: m02807
- 分类: structure
- 领域: 逻辑学

## 定义

一个思想实验。比较两个世界：A世界人口很少，但每个人都极度幸福；Z世界人口极多（万亿亿），但每个人都勉强活着（生活质量略高于“不想死”）。根据“总量最大化”的功利主义逻辑，Z世界的总幸福量（人数×人均幸福）可能远大于A世界，因此Z世界“更好”。但这违反直觉，令人厌恶。 - 脚手架作用：“量”与“质”的伦理崩塌。 - 这在AI目标设定和人口政策中极具意义。如果我们给AI设定的目标是“最大化人类幸福总量”，它可能会通过

## 机制

帕菲特在《理性与人》中指出，若以"总幸福量=人数×人均幸福"为伦理目标，那么增加大量仅勉强存活的人口可使总量超过少数极幸福者，从而得出Z更好——但直觉上A更可取，暴露了总量功利主义的内在缺陷。

## 练习

①设定：比较A（少人极幸福）与Z（多人勉强活）；②计算总幸福量；③发现Z在总量上"胜出"；④意识到该结论违背直觉，从而反思所用伦理指标本身。

## 脚手架用法

“量”与“质”的伦理崩塌。 - 这在AI目标设定和人口政策中极具意义。如果我们给AI设定的目标是“最大化人类幸福总量”，它可能会通过

[阅读网页](https://thinkingmodels.site/entries/detail/m02807)