人类反馈 (RLHF)

人类反馈（Human Feedback）并非指代生物学上的“人类”，而是人工智能与大模型领域的一个专有概念，特指利用人类对模型输出的偏好、评分或排序数据来优化模型行为的过程。其核心在于解决大模型在缺乏明确监督信号时的价值对齐问题。该机制通常与强化学习（RL）结合，形成人类反馈强化学习（RLHF）范式，通过构建奖励模型（Reward Model）来量化人类偏好，进而指导策略模型（Policy Model）的迭代更新，确保 AI 系统的输出符合人类价值观、安全规范及实用需求。

在现代计算架构与 AI 大模型生态中，人类反馈是连接原始生成能力与人类价值观的关键桥梁。随着大模型参数量级突破，单纯依靠监督微调（SFT）已难以解决模型在复杂场景下的幻觉、偏见及安全风险。人类反馈机制通过引入非结构化的人类偏好数据，将隐性的价值判断转化为显式的奖励信号，使模型能够“学会”什么是好的回答。这一机制不仅提升了模型的对话质量与安全性，更推动了 AI 从“工具型”向“助手型”乃至“代理型”的演进，是当前大模型落地应用不可或缺的基础设施。