加性噪声模型 (ANM)

加性噪声模型（Additive Noise Model）是人工智能与大模型训练中一种关键的正则化与鲁棒性增强策略。其核心思想是在神经网络的前向传播过程中，于特定层（通常是输出层或中间层）的激活值上叠加一个与输入无关的、服从特定分布（如高斯分布）的随机噪声项。该模型并非单纯的数据增强，而是一种结构化的训练机制，旨在迫使模型学习在存在观测噪声或数据扰动情况下的特征表示，从而提升模型对分布外数据（OOD）的预测稳定性及抗过拟合能力。

在现代计算架构与深度学习生态中，加性噪声模型扮演着连接理论统计假设与工程实践的桥梁角色。它超越了传统的数据增强（Data Augmentation）范畴，从算法层面内化了“数据不完美”的假设。在大型语言模型（LLM）与计算机视觉领域，该机制被广泛用于解决模型对微小输入变化的过度敏感问题，特别是在对抗样本防御、少样本学习及模型蒸馏等场景中表现显著。其核心价值在于以极低的计算开销，通过引入可控的随机性来打破模型对训练数据分布的过度依赖，是构建高鲁棒性AI系统不可或缺的一环。