# 随机鹦鹉

> “随机鹦鹉”（英语：stochastic parrot）是在机器学习中一个理论的比喻，指大型语言模型虽然能够生成合理的文句，但其实不能理解所处理的语句。它由艾米丽·本德、蒂默妮特·格伯鲁、安杰利娜·麦克米伦-梅杰和玛格丽特·米切尔（以Shmargaret Shmitchell名义）在2021年人工智能研究论文《论随机鹦鹉的危害：语言模型太大有坏处吗？🦜》（On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜）中提出。

- ID: m02073
- 分类: technical
- 领域: 人工智能

## 定义

Timnit Gebru等人提出。批评大型语言模型（LLM）并不真正理解意义，它们只是在概率上拼接看似合理的词句，像鹦鹉学舌一样，只是这只鹦鹉随机性更强、词汇量更大。脚手架作用：祛魅AI智能。它提醒我们，AI生成的流畅文本不代表它有意识或真理。在阅读AI生成的内容时，要时刻警惕其“一本正经胡说八道”的本质。

## 机制

“随机鹦鹉”是对大型语言模型的批评：模型只是从训练数据中按统计规律“复述”语言模式，并不真正理解语义。

## 练习

评估模型输出时检查是否真有推理。用探针任务辨别表面模仿。警惕“流畅即正确”的错觉。

## 脚手架用法

祛魅AI智能。它提醒我们，AI生成的流畅文本不代表它有意识或真理。在阅读AI生成的内容时，要时刻警惕其“一本正经胡说八道”的本质。

[阅读网页](https://thinkingmodels.site/entries/detail/m02073)