全参数微调

全参数微调（Full Fine-Tuning）是深度学习模型适配特定下游任务的一种核心范式，其本质是对预训练模型的全部参数（weights and biases）进行梯度更新。与仅更新部分参数（如 LoRA、QLoRA）的适配器方法不同，全参数微调假设预训练模型已具备足够的通用性，通过全量数据训练使模型在目标领域达到最优解。该方法在理论性能上通常优于参数高效微调，尤其适用于数据标注质量高、任务与预训练分布差异显著的场景，但其计算复杂度和显存需求随模型规模呈线性甚至超线性增长，是资源密集型任务。

在现代大模型生态中，全参数微调扮演着‘终极适配’的角色，是验证模型泛化能力上限与任务对齐度的黄金标准。尽管其资源消耗巨大，但随着硬件算力提升、混合精度训练（Mixed Precision Training）及梯度累积（Gradient Accumulation）等技术的普及，它已成为构建高质量垂直领域模型的关键路径。其核心价值在于能够彻底消除预训练分布与目标任务之间的偏差，提供比参数高效微调更鲁棒、更稳定的推理表现，特别适用于对精度要求严苛、数据稀缺但质量极高的专业场景。