MENTAL MODEL · M4458
魏森鲍姆的噩梦
Weizenbaum's Nightmare
更新于 2026-08-16
CORE DEFINITION · 核心定义
魏森鲍姆（ELIZA聊天机器人的创造者）在1970年代警告：我们不应该让计算机做那些需要智慧、同情心和尊严的决策（如法官、心理医生、保姆），即使它们在技术上能做到。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
划定AI的应用禁区。在AI时代，不仅要问"能不能做"（技术可行性），更要问"该不该做"（伦理正当性）。有些领域的人性互动本身就是价值，不能被效率替代。
anchor
锚定快速决策
魏森鲍姆（Joseph Weizenbaum）发明聊天程序 ELIZA 后震惊地发现，人们（包括其秘书）竟向一个脚本倾吐私密、视其为“理解自己的人”。这“噩梦”揭示人极易把共情/理解投射到机器，埋下被操纵与情感替代的伦理隐忧。
MINIMUM ACTION · 最小行动
进行中 0/3在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/ELIZA_effectverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型