输出结束标志

输出结束标志（End-of-Sequence, EOS token）是大型语言模型（LLM）序列生成机制中的特殊标记符，通常作为序列的终止符存在。在模型训练阶段，它被明确标注为序列的结束信号；在推理阶段，当模型预测到该 token 时，会立即停止生成后续文本。这一机制不仅解决了模型无限生成导致的上下文溢出问题，还通过流式输出（Streaming）技术显著提升了用户体验，是现代生成式 AI 架构中不可或缺的基础设施元素。

在现代计算架构中，EOS token 扮演着‘数字刹车’与‘对话边界’的双重角色。它不仅是模型生成逻辑的终点，更是人机交互流畅性的保障。通过精确控制生成长度，EOS token 有效防止了幻觉扩散和计算资源浪费。在生态层面，它与 Attention Is All You Need 架构紧密耦合，是 Transformer 模型实现可控生成的基石。无论是用于构建实时聊天机器人、代码补全工具还是长文档摘要系统，EOS token 的合理配置与应用都是决定系统响应速度与内容质量的核心因素。