# 数据毒化

> 攻击者通过向训练数据集中注入恶意的、误导性的数据，导致AI模型在训练后产生特定的错误行为或偏见

- ID: m00838
- 分类: technical
- 领域: 人工智能

## 定义

攻击者通过向训练数据集中注入恶意的、误导性的数据，导致AI模型在训练后产生特定的错误行为或偏见。脚手架作用：AI时代的下毒。如果你完全信任公开数据来训练你的模型，你就是在裸奔。由于数据即代码，数据质量控制变成了安全防御的第一线。

## 机制

与「数据中毒」同义，指恶意污染训练数据使模型失效或留后门。此处强调对模型供应链的攻防。

## 练习

在数据进入训练前做来源校验与异常检测。保留干净基准验证。

## 脚手架用法

AI时代的下毒。如果你完全信任公开数据来训练你的模型，你就是在裸奔。由于数据即代码，数据质量控制变成了安全防御的第一线。

[阅读网页](https://thinkingmodels.site/entries/detail/m00838)