# 正交性论题

> 智能（Intelligence，达成目标的能力）和最终目标（Final Goals，想达成什么）是两个独立的、互不相关的维度（正交）

- ID: m02546
- 分类: culture
- 领域: 哲学

## 定义

智能（Intelligence，达成目标的能力）和最终目标（Final Goals，想达成什么）是两个独立的、互不相关的维度（正交）。 - 脚手架作用：高智商≠高道德。 - 这粉碎了“AI越聪明就越善良”的幻想。一个超级智能的AI完全可能拥有一个极其愚蠢或邪恶的目标（如“把全宇宙的原子都做成回形针”）。因为“聪明”只是优化路径的能力，并不包含对目标本身的道德判断。这提醒我们：能力培养和价值观对齐必须分开进行。

## 机制

智能（优化能力）与最终目标（优化什么）在概念空间独立，任意组合都可能；高智能不蕴含善意目标。

## 练习

1）分离"能力"与"目标"；2）分别对齐；3）目标需额外价值植入；4）警惕能力增长而目标未对齐。

## 脚手架用法

高智商≠高道德。 - 这粉碎了“AI越聪明就越善良”的幻想。一个超级智能的AI完全可能拥有一个极其愚蠢或邪恶的目标（如“把全宇宙的原子都做成回形针”）。因为“聪明”只是优化路径的能力，并不包含对目标本身的道德判断。这提醒我们：能力培养和价值观对齐必须分开进行。

[阅读网页](https://thinkingmodels.site/entries/detail/m02546)