代價函數

代价函数（Cost Function），亦称损失函数（Loss Function），是衡量机器学习模型预测性能与真实目标之间差距的数学标尺。其本质是将模型的输出映射为非负实数，直观反映“风险”或“损失”程度。在统计学中用于参数估计，在机器学习中作为优化目标，通过梯度下降等算法驱动参数更新。与仅关注单次预测误差的“损失函数”不同，代价函数通常指在训练集上所有样本损失的平均值，旨在构建全局最优解而非局部极小点，是连接数据分布与模型结构的桥梁。

在现代计算架构与人工智能生态中，代价函数扮演着“导航仪”与“裁判”的双重角色。它不仅定义了模型学习的方向，决定了算法收敛的收敛速度与最终精度，还深刻影响着模型对复杂模式的拟合能力。从传统的线性回归到复杂的深度学习网络，代价函数的选择（如均方误差、交叉熵、Huber 损失）直接决定了模型能否有效处理噪声、类别不平衡或分布偏移等工程挑战。它是构建端到端学习系统的基石，也是评估算法泛化能力、防止过拟合与欠拟合的关键指标，其设计优劣直接决定了智能系统的商业落地价值。