数据污染

数据污染（Data Poisoning）是机器学习安全领域的一种核心攻击范式，指攻击者在模型训练前或训练过程中，通过向训练数据集注入精心构造的恶意样本、修改现有数据标签或操纵数据分布，从而破坏模型的学习过程。与传统的模型窃取或重放攻击不同，数据污染利用的是模型对训练数据的依赖特性，旨在让模型在看似正常的训练数据下，学习到与真实世界分布不一致的虚假规律，最终导致模型在部署后对特定输入产生不可预测的有害输出或性能急剧下降。

在现代计算架构中，数据污染已成为制约机器学习系统安全落地的关键瓶颈。随着深度学习模型在金融风控、自动驾驶、医疗诊断等关键基础设施中的广泛应用，训练数据的完整性与真实性变得前所未有的重要。数据污染不仅威胁模型本身的准确性，更可能引发系统性的安全漏洞，导致自动化决策失效甚至造成物理世界的灾难性后果。从架构视角看，它揭示了‘垃圾进，垃圾出’（Garbage In, Garbage Out）原则在智能系统中的极端化表现，迫使系统架构师必须将数据治理、可信数据源管理及对抗性训练机制纳入核心设计考量，构建具备内生安全性的 AI 系统。