最大边际相关度 (MMR)

最大边际相关度（Maximum Marginal Relevance）并非传统统计学中的极值概念，而是大语言模型（LLM）推理与评估领域的一个特定术语，指在给定上下文（Context）下，模型对下一个token预测概率的最大化程度。它反映了模型在特定语境下，通过引入新信息所能达到的最优预测状态，是评估模型上下文理解能力、生成质量及推理逻辑一致性的核心基准。

在现代大模型架构中，最大边际相关度扮演着连接模型内部概率分布与外部语义理解的关键角色。随着模型参数量级的指数级增长，单纯依靠全量参数记忆已无法满足长文本理解需求，该指标成为衡量模型在动态上下文中进行增量推理能力的标尺。它不仅指导着模型在对话系统中的响应生成策略，也是构建高质量指令微调数据集、优化检索增强生成（RAG）系统召回精度的重要依据。在工程实践中，它是评估模型‘上下文窗口’有效性的黄金标准，直接决定了模型能否在长文本中精准定位关键信息并生成连贯回答。