-
推理服务请求级重放:幂等键到底该落在哪一层
推理服务的幂等键大多放在 HTTP 入口,只能防住同一次 POST 打两次。真正多烧钱的是同一 Agent 意图走了不同推理路径。这篇把幂等键该落在哪一层拆开,并逐条核对状态 TTL、采样重试派生键、... -
-
请求合并与去重:省算力与抖延迟之间的账
从批量推理的吞吐收益曲线写到幂等键去重,讨论合批与去重在延迟、显存和重试幂等上的取舍,并给出只有部分前提下的工程判断门槛。 -
Agent 重试时,幂等键为什么会在继承中丢失
Agent 的重试路径有四层,每层都可能重新生成幂等键,去重因此形同虚设。文章分三种身份混用、键生成位置、持久化与失效窗口讲清怎么把键从上游继承到副作用发生的那一次调用。 -
并行工具调用后,副作用合并怎么做才安全
并行工具调用提升了速度,但合并副作用时,顺序执行藏起来的耦合会以静默失效的方式暴露。把只读批次和写批次拆开,在结果提交层做幂等与意图对齐,比直接上依赖图务实。 -
Agent 工具超时重试:从读写分离到操作日志的幂等设计
Agent 工具调用超时后究竟发生了什么?重复退款和双发邮件的根因,大多在于框架把只读和写入当成一类调用重试。读写分离、操作日志、两阶段调用与补偿,配合上线前的幂等审计清单。
京公网安备11011402053654 
@muffin:链接已更新,分类图像功能...
AI网址导航模版图标库更换指南
作者大大,图标库邀请链接失效了,麻烦更新...
AI网址导航模版图标库更换指南
太好看了,快点更新!
友情链接
@戴墨镜的刘备:哈喽,路过点赞。
vue.js组件之手写签名板vue-signature-simple
太好看了,快点更新!太棒了!👍真的很赞!
vue.js组件之手写签名板vue-signature-simple
你写得非常清晰明了,让我很容易理解你的观...
Emlog插件RSS订阅器发布