
弃答阈值怎么定:推理模型置信度校准的工程账
幻觉检测器拦不住过度自信。本文从 R...
2026年11月09日0 6
对话模板拼接漏洞:推理服务的隐形入口
对话模板拼接漏洞不只是消息派发上的一...
2026年11月08日0 9
推测解码的树形验证:剪枝做错,加速比全吐回去
树形验证把推测解码从一条链变成了一棵...
2026年11月07日0 11
推理服务优雅降级:L1 到 L3 的分级门禁怎么划
推理服务的降级不是一道开关。从显存与...
2026年11月05日0 8
推理服务队列里的优先级反转:调度器先动手
当 KV Cache 和 batch...
2026年11月04日0 10
请求级 Token 预算熔断:超限后拒绝哪一段
账户级预算超限就拒,拦不住一次死循环...
2026年11月03日0 15
Agent 工具调用权限分级:写在代码里才作数
提示词里写“请先确认”不叫权限控制。...
2026年11月01日0 34
端侧小模型量化:QAT 该在什么时候开
端侧量化先用 PTQ 还是直接 QA...
2026年10月31日0 35
跨模态注意力对齐:软分配之外还有哪些选择
从交叉注意力的软分配问题出发,拆解多...
2026年10月30日0 52
MoE 专家负载不均衡:不是调个参数就能解决的事
MoE 负载不均衡不是一个参数问题。...
2026年10月28日0 64
思维链审计与水印:监控假设正在失效
推理模型的 CoT 既可能被用于审计...
2026年10月27日0 79
思考预算怎么切:推理模型的资源分配工程取舍
思考预算成了推理模型 API 的标配...
2026年10月26日0 83
前缀缓存命中率:字节对齐与工程取舍
从 QwenPaw 的命中率议题、R...
2026年10月24日0 87
投机解码落地:草稿模型对齐与逐利陷阱
草稿模型选型、对齐和接受率曲线决定了...
2026年10月23日0 85
思维链压缩到 20%,还能保住数学推理的准确率吗
把推理模型的思维链砍到原来的 20%...
2026年10月22日0 93
世界模型被吹了两年,真正难的不是生成视频
看世界模型的演示视频,很容易产生“就...
2026年10月20日0 108
AI 浏览器用了一个月,我还是回到了地址栏
我试着把 AI 浏览器当主力用了一个...
2026年10月20日0 109
个人 Agent 与常驻智能体:长期记忆、主动性与隐私边界
我让一个常驻 Agent 帮我盯快递...
2026年10月20日0 107
多智能体不是银弹:编排、通信与成本取舍
我们试过让五个 Agent 开会,结...
2026年10月18日0 154





京公网安备11011402053654 