-
数学题换个说法就错:推理模型的等价改写鲁棒性
多数推理模型的数学分数,测的可能是对表述模板的拟合。以MATH-Perturb的困难扰动为例,讲清楚等价改写该怎么做、哪里最容易断,以及自动形式化校验目前的能力边界在哪里。 -
批量结构化输出失败:推理模型出错先别急着重试
批量任务里重试率从 1% 涨到 8%,不一定是模型变差了。截断、严格模式覆盖不到、Schema 编译退回非受限,三类失败的病因不同,混在一起调重试参数只会把问题推向模型偏移。 -
推理模型拒绝采样微调:K 值、奖励与代价
推理模型的拒绝采样微调看着简单:采 K 条、挑最高分、回炉 SFT。但 K 值不是越大越好,奖励模型的度量会被反复挑漏洞,COT 路径还会把过程可靠性问题带进数据。这篇记录几个实际会撞上的取舍。 -
推理模型的温度调度:核采样的几个工程取舍
温度改的是 softmax 之前的 logits,top-p 改的是候选集合,二者顺序和叠加方式在推理模型上容易踩坑。按阶段调度温度比全局设值更可控,但需要付出请求拆分和缓存的代价。 -
思维链审计与水印:监控假设正在失效
推理模型的 CoT 既可能被用于审计,也可能静默消失或泄露敏感数据。梳理可控性实验、自适应思考预算、加密提取与轨迹泄露研究,给出审计管线的取舍。 -
推理模型的并行思维链采样怎么用才不亏
并行思维链采样的成本不是白花的。结合推理模型测试时计算的几条实证结论,梳理best-of-N、束搜索、自洽性投票和自我修订在什么场景下划算、什么场景下只是在烧钱。 -
思考预算怎么切:推理模型的资源分配工程取舍
思考预算成了推理模型 API 的标配参数,但它不是“多花钱就更准”的线性开关。从分层档位、自动评估的不可预测性,到并行采样与奖励信号的取舍,聊聊预算该怎么切。 -
推理模型输出被截断后怎么接回去
推理模型遇到输出截断,重试整条请求代价高;续写也有隐藏门槛。从识别边界、提示回灌到 prefill 与成本判断,聊聊工程上怎么做才不算亏。 -
推理模型的流式输出:thinking 块怎么流
推理模型的流式输出不只是逐字渲染:思考块、正文、工具调用参数混杂在 SSE 流里,客户端要按字段分流、独立缓冲、支持中途中断。记录接通义千问与智谱过程中的判断和踩坑。 -
思维链压缩到 20%,还能保住数学推理的准确率吗
把推理模型的思维链砍到原来的 20%,多数压缩方法会崩,但 Extra-CoT 在 MATH-500 上还保住了近半准确率。拆一下它怎么用公式原子性和分层奖励,以及这些结果在别的任务上不一定成立。
京公网安备11011402053654 
@muffin:链接已更新,分类图像功能...
AI网址导航模版图标库更换指南
作者大大,图标库邀请链接失效了,麻烦更新...
AI网址导航模版图标库更换指南
太好看了,快点更新!
友情链接
@戴墨镜的刘备:哈喽,路过点赞。
vue.js组件之手写签名板vue-signature-simple
太好看了,快点更新!太棒了!👍真的很赞!
vue.js组件之手写签名板vue-signature-simple
你写得非常清晰明了,让我很容易理解你的观...
Emlog插件RSS订阅器发布