MENTAL MODEL · M5923
对抗样本
Adversarial Examples
更新于 2026-08-05
CORE DEFINITION · 核心定义
在图片上添加人类肉眼看不见的微小噪音，就能让先进的AI识别系统将“熊猫”以99%的信心识别为“长臂猿”。这揭示了AI感知的脆弱性。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
认知的盲点攻击。我们的感官和直觉也存在类似的Bug。骗子或魔术师就是通过制造“人类的对抗样本”（如利用视觉残留、认知偏差），在我们眼皮底下修改现实。
anchor
锚定快速决策
模型在高维输入空间的学习边界与人类感知不一致，叠加精心计算的微小扰动即可把样本推过决策边界，而人类无法察觉，暴露脆弱性。
MINIMUM ACTION · 最小行动
进行中 0/4在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/Adversarial_machine_learningverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型