MENTAL MODEL · M5648
数据中毒
Data Poisoning
更新于 2026-08-05
CORE DEFINITION · 核心定义
攻击者通过向训练数据注入恶意样本，影响机器学习模型的行为，使其在特定输入下产生错误输出。
SCAFFOLDING EFFECT · 脚手架效应
psychology
降低认知负荷
AI安全的重大威胁。随着AI系统广泛应用，数据中毒攻击变得越来越危险。建立数据验证、异常检测和鲁棒学习机制是防范此类攻击的关键。
anchor
锚定快速决策
攻击者在训练数据中注入恶意样本，使模型学到错误模式或后门，损害机器学习系统。它发生在数据供应链上游。
MINIMUM ACTION · 最小行动
进行中 0/1在一个真实场景中练习这个模型：
勾选记录你的进度（本机暂存）
掌握进度0%
account_tree知识谱系 Genealogyexpand_more
menu_book信源参考 Sourcesexpand_more
来源明确性: 明确
- en.wikipedia.orghttps://en.wikipedia.org/wiki/Adversarial_machine_learningverified
PRIVATE NOTES · 仅自己可见
已保存问答
ENTRY Q&A · 可保存至我的笔记
在清晰边界内提问
thinkingmodels 仅基于已发布的条目上下文回答。
你的问题会发送给 thinkingmodels；回答仅使用公开词条上下文。
RELATED MODELS · 相关模型