# 修格斯

> AI圈的流行隐喻。

- ID: m03417
- 分类: learn
- 领域: 认知科学

## 定义

AI圈的流行隐喻。大语言模型（LLM）就像一只无定形、多眼、可怕的怪物（修格斯），它实际上是一堆不可理解的数学矩阵。而我们通过RLHF（人类反馈强化学习）给它戴上了一个“笑脸面具”，让它看起来像个有礼貌的助手。脚手架作用：表里不一认知。提醒我们不要被AI的拟人化外表所迷惑。它的内核是外星般的、混沌的概率统计，在“面具”滑落的瞬间（越狱、幻觉），会暴露出其不可控的本质。

## 机制

洛夫克拉夫特神话中的无定形怪物，被AI圈借喻LLM：底层是海量参数构成、不可解释的概率张量（"外星般混沌"），经RLHF/对齐训练"戴上笑脸面具"显得礼貌可控。面具（对齐）是浅层约束，内核仍是随机采样，故在越狱/分布偏移时"面具滑落"暴露不可控与幻觉。

## 练习

1）用AI时区分"拟人外表"与"真实机制"，不赋予意图；2）对关键输出做事实核验，不盲信流畅；3）用护栏/工具调用约束，而非依赖面具；4）在高风险场景保留人在回路。

## 脚手架用法

表里不一认知。提醒我们不要被AI的拟人化外表所迷惑。它的内核是外星般的、混沌的概率统计，在“面具”滑落的瞬间（越狱、幻觉），会暴露出其不可控的本质。

[阅读网页](https://thinkingmodels.site/entries/detail/m03417)