# AI幻觉

> 在人工智能领域中，幻觉（英語：hallucination，或称人工幻觉）是由人工智能生成的一种回应，它含有貌似事实的虚假或误导性资讯。 该术语源自幻觉的心理学概念，因为它们具有相似的特征。然而实际上更相似的概念是“虚谈症（confabulation）”，但“幻觉（hallucination）”一词在人工智能领域已经广为流传。人工智能幻觉的危险之处之一是模型的输出看起来一本正经，而实际上是错误的。

- ID: m01903
- 分类: technical
- 领域: 人工智能

## 定义

生成式AI会一本正经地胡说八道（捏造事实、引用不存在的论文）。因为它本质上是在做“概率预测”（下一个词最可能是什么），而不是“事实检索”。脚手架作用：- 核查意识：在使用AI（或听某些专家讲话）时，永远保留核查（Fact Check）的警惕。流畅不等于真实，自信不等于正确。

## 机制

基于"自回归生成"。模型按概率预测下一个token，目标是"像真的"而非"是真"，无事实 grounding，遂编造看似合理的错误。

## 练习

1. 对AI输出保持怀疑。2. 关键事实外部核查。3. 要求引用来源并验证。4. 用RAG/工具降低幻觉。5. 重要决策不依赖单源。

## 脚手架用法

- 核查意识：在使用AI（或听某些专家讲话）时，永远保留核查（Fact Check）的警惕。流畅不等于真实，自信不等于正确。

[阅读网页](https://thinkingmodels.site/entries/detail/m01903)