Data Poisoning (RAG)

数据投毒（Data Poisoning）是机器学习安全领域的一种对抗性攻击，攻击者通过操控训练数据而非模型参数来损害目标模型。在大数据与深度学习时代，随着数据获取成本降低，攻击者可能通过向训练集注入少量精心构造的恶意样本（如标签错误、异常值或对抗样本），利用模型对统计规律的依赖，使其在训练过程中收敛至错误的决策边界。这种攻击不仅导致模型准确率下降，还可能引发模型输出有害内容、泄露隐私或产生不可预测的灾难性后果，是保障人工智能系统可信度的核心挑战之一。

在现代计算架构中，数据投毒被视为对抗机器学习（Adversarial ML）的关键威胁模型，其生态地位日益凸显。随着大语言模型（LLM）和自动化决策系统的普及，数据投毒已从理论假设转变为现实风险，广泛应用于对抗推荐系统、自动驾驶感知模块及金融风控模型。其核心价值在于揭示了‘数据即资产’的双重性：高质量数据是模型智能的基石，而数据污染则是系统崩溃的导火索。当前研究正从被动防御转向主动鲁棒性设计，强调数据清洗、异常检测与隐私计算在构建可信 AI 基础设施中的关键作用。