一个基于Qwen2.5-Coder-3B的小模子，靠后张望在AIME26、LiveCodeBenchv6等可考证任务上冲到前沿模子近邻。

3B参数，原本应该是小模子的悦目区。

能土产货跑，老本低，速率快，适算作念轻量任务。很少有东谈主会把它和ClaudeOpus4.5、DeepSeekV3.2、KimiK2.5、GLM-5、Gemini3Pro这么的前沿模子作念对比。

VibeThinker-3B此次偏巧挤了进来。

代码部分先把争议拉满了，LiveCodeBenchv6上，VibeThinker-3B拿到80.2，距离ClaudeOpus4.5的84.8仍是不远。

AIME26上，它又拿到94.3，以0.1分的眇小上风险胜671B参数的DeepSeekV3.2（94.2）。加入声明级可靠性评估（CLR）后，得益升到97.1。模子权重也已公开。

VibeThinker-3B的矍铄麇集在数学、代码和部分STEM这类考证信号明确的任务上。在这些任务上，它至少阐明，小模子的可考证推理上限可能比许多东谈主预期得更高。

论文标题：

VibeThinker-3B:ExploringtheFrontierofVerifiableReasoninginSmallLanguageModels

论文清爽：

代码清爽：

https://github.com/WeiboAI/VibeThinker

参数成果

参数反差在IMO-AnswerBench上最直不雅。VibeThinker-3B惯例得益为76.4，加入CLR后达到80.6。

作为参照，DeepSeekV3.2为671B，得分78.3；GLM-5为744B，得分82.5；KimiK2.5为1T，得分81.8。

〓VibeThinker-3B在IMO-AnswerBench上展现出凸起的参数成果。

单看这个基准，3B参数仍是干预数百B到1T模子的得分区间。

VibeThinker-3B在AIME26上为94.3，LiveCodeBenchv6为80.2，IFEval为93.4；加入CLR后，AIME26、HMMT25、BruMO25和IMO-AnswerBench分离升至97.1、95.4、99.2和80.6。

〓VibeThinker-3B与前沿推理模子的中枢方针对比。

后张望阶梯

外部盘考最存眷的，是VibeThinker-3B如安在旧底座上陆续作念后张望。

kaiyun体育中国2026世界杯入口

它使用的底座是Qwen2.5-Coder-3Bbase，关键在于如何通过数据构造、SFT、强化学习和自蒸馏，不绝开释3B模子的推聪慧商。

〓VibeThinker-3B的张望经过由两阶段SFT、多域强化学习、离线自蒸馏和提示强化学习构成。

SFT阶段接收两阶段课程学习。

前一阶段作念广域隐蔽，数据包括数学、代码、STEM推理、通用对话和提示侍从。

后一阶段转向高难长程推理样本，过滤掉推理轨迹短于5Ktoken的样本，并用VibeThinker-1.5B对每个问题作念8次零丁采样，去掉很是率低于0.75的相对浅薄题。

数据构造一样是这套张望栈的关键。其中，千般性探索蒸馏阐发保留多种有用解法，而非沿单一齐径作念师法。

模子通过多旅途推理蒸馏学习不同明白神志、推导旅途和考证计谋，再经过n-gram过滤、查询质料过滤、谜底考证、代码沙箱推行和多数投票，镌汰低质料样本与基准羞辱风险。

中间checkpoint的遴荐也更偏向千般性：团队在领域探伤集上看Pass@K，挑出能产生更多有用解的领域众人模子，再作念参数级归拢。

强化学习阶段沿用MGPO。对每个问题，模子会采样一组回答，并用造就正确率(p(q))推断它对现时模子的难度。正确率接近0.5的样本最有价值，因为它们正处在模子会与不会之间，MGPO会给这类样本更高权重。

这么一来，24直播网2026世界杯赛事直播入口强化学习更新会更麇集地放大界限样本中的可考证信号。

张望法例是数学强化学习、代码强化学习、STEM强化学习。VibeThinker-3B凯旋接收64K长潦倒文强化学习，减少早期采样轨迹截断对长推理行为的松弛。

随后是Long2ShortMathRL。模子先优化准确率，再通过中心化长度感知奖励偏移，在正确轨迹里面按长度再行分拨奖励。

更短的正确谜底赢得更高奖励，较长的正确谜底奖励镌汰，同期保持组内奖励偏移总额为零。标的是保住正确率，同期减少冗余推理。

离线自蒸馏还引入了学习后劲筛选。团队先用领域考证器过滤很是轨迹，再用学习后劲得分沟通每条正确轨迹的蒸馏价值。

该得分来自学生模子对轨迹的长度归一化负对数似然；分数越高，阐明学生越莫得充分掌抓这条正确轨迹，蒸馏价值也越高。

临了的提示强化学习则面向时事、法例、数目、关键词拘谨和任务完成度，升迁复杂提示下的可控性。

可考证推理

技艺陈诉用参数压缩-隐蔽假说解释了这一情状。

数学、代码和部分STEM任务有明确响应，中枢挑战在于搜索、拘谨欢欣、很是修正和多步组合。陈诉以为，这类智商更容易压缩进一个小而可复用的推理中枢。

洞开域学问则更像隐蔽问题，需要模子记着宽绰事实、意见、语义关联和长尾场景。VibeThinker-3B能在AIME、LiveCodeBench、IMO-AnswerBench上接近前沿模子，却无法全面追平通用大模子，原因也在这里。

CLR进一步放大了谜底可判定任务的上风。它不更新模子参数，而是在测试时生成32条候选轨迹；每条轨迹齐会索取最终谜底和5个有缱绻相干声明，再由模子自行考证这些声明。

关键声明一朝出错，轨迹可靠性会被非线性压低。候选谜底按等价关系聚类后，再累加同组轨迹的可靠性分数，选出最终谜底。

AIME26从94.3到97.1，靠的是测试时延伸带来的增益。分数提高了，推理老本也会加多，不可和庸俗单次推理得益混在沿路比拟。

智商界限

VibeThinker-3B更接近一个可考证推理模子，而不是通用旗舰模子的替代品。

GPQA-Diamond更能阐明它的界限。VibeThinker-3B惯例得益为70.2，加入CLR后为72.9，仍然过期于最强的旗舰模子。

这个差距阐明，3B参数不错承载很强的推理次第，但学问密集型任务依然闇练参数隐蔽。

近期LeetCode周赛、双周赛测试，在一定进程上回话了静态基准过拟合的疑虑。在仅用Python的单次生成评测中，8场近期比赛共128次初次提交，VibeThinker-3B通过123次，举座通过率96.1%。

〓VibeThinker-3B在近期LeetCode比赛中的代码泛化测试。

这阐明，它的代码智商不单体当今静态基准上。不外，这类题型仍然可推行、可自动评测、界限明晰，距离通用编程智能体或洞开式软件工程还有澄澈离别。

VibeThinker-3B莫得证明3B模子不错替代通用旗舰模子。更准确地说，在谜底可判定、张望信号可靠、后张望充足密致的任务上，小模子的上限正在被再行评估。

大模子仍然承担学问隐蔽和通用智商的主要变装。但在参数鸿沟除外，高质料数据、可考证响应、长推理张望和测试时延伸24直播网，仍是足以把小模子推到更高的智商区间。