批处理 Token 预算 上下文压缩 依赖图 分块预填充 去重 可靠性 多轮重试 失败恢复 安全工程 对话模板 尾延迟 工具编排 幂等 并发校验 弃答机制 弹性扩缩容 微调 成本 投机采样