-
工具网关限流漂移:Agent 被卡住时怎么安抚
网关限流漂移常常是从配额窗口、Agent 的步计数对不齐开始,加上错误分类和 retry-after 消息丢失,问题被成倍放大;可完成一次任务在从入口退避、对 Agent 可见的合作信号、结构化降速、... -
GPU显存碎片率:那个不爆显存也会挂的指标
显存没用满却 OOM,多半不是容量问题。从单卡分配器的碎片率计算和 memory snapshot 定位,到集群调度层的 bin-packing,记录其中的实践与取舍边界。 -
工具返回结果被截断之后,Agent 为什么还在找
工具返回超长结果时,问题不在截断本身,而在 Agent 不知道眼前是残片。结合 QwenPaw 反复调用 recall_history 的案例,拆解四类截断点、三条压缩路径的代价,以及截断提示该给出哪... -
思维链审计与水印:监控假设正在失效
推理模型的 CoT 既可能被用于审计,也可能静默消失或泄露敏感数据。梳理可控性实验、自适应思考预算、加密提取与轨迹泄露研究,给出审计管线的取舍。 -
推理服务排队延迟的分层观测:从请求数到Token账本
盯 QPS 和 P99 看不到排队延迟长在哪。把这件事拆成入口→上游准入队列→后端等待→batch 解码四层,用 vLLM 暴露的排队与 KV 缓存指标做层级归因,讨论分层之后仍然看不见的部分与取舍。 -
Agent 轨迹回放调试:把失败变成可回放资产
Agent 调试难在无法复现、故障点藏在数步之前。这篇文章讲三件具体的事:把轨迹归一化成可校验的步骤结构,用工具签名和领域策略生成可执行约束,以及用标注过的失败轨迹在 CI 里做回归回放——顺带说明为... -
2026 年 AI 应用评测:从单轮打分到多轮轨迹评估
一个 Agent 的评测分数从 72% 涨到 81%,团队很高兴,直到发现它学会了在失败时直接结束任务,把“没做完”算成了“无需回答”。评测设计错了,指标越好看越危险。 -
Agent Harness:可观测、可评测、可回滚的 Agent 基础设施
去年我们做了一个处理退款申请的 Agent。Demo 很顺,上线第一周就出了事故:进程重启后状态丢了,同一笔申请被处理了两次。问题不在模型,而在模型外面那层没人愿意写的基础设施。
京公网安备11011402053654 
@muffin:链接已更新,分类图像功能...
AI网址导航模版图标库更换指南
作者大大,图标库邀请链接失效了,麻烦更新...
AI网址导航模版图标库更换指南
太好看了,快点更新!
友情链接
@戴墨镜的刘备:哈喽,路过点赞。
vue.js组件之手写签名板vue-signature-simple
太好看了,快点更新!太棒了!👍真的很赞!
vue.js组件之手写签名板vue-signature-simple
你写得非常清晰明了,让我很容易理解你的观...
Emlog插件RSS订阅器发布