PETS: A Principled Framework Towards Optimal Trajectory Allocation for Efficient

PETS框架提出：一种面向最优轨迹分配的高效测试时自洽性方法

一项名为PETS（Principled and Efficient Test-Time Self-Consistency）的研究正式在arXiv上公开（论文编号2602.16745v2），其核心目标是在有限算力预算下，通过优化轨迹分配来提升模型性能。说白了，这就是一套能让AI“多思考几遍但又不浪费资源”的数学框架，挺有意思的——它到底是怎么做到的？

核心问题：测试时扩展的性价比痛点

当前大模型常用“测试时计算扩展”来提升效果，比如让模型生成多条推理轨迹再投票选最佳答案。但问题是，每条轨迹都需要算力，预算有限时怎么分配才能最划算？PETS给出的答案是：别瞎投，得算一笔“自洽性”的账。它引入了自洽性率这一全新指标——说白了就是看某条轨迹与“无限预算下多数投票”结果的吻合度。这个定义一下子把资源分配问题变成了可数学求解的优化问题，确实挺巧。

技术路线：从经验主义到原则驱动

PETS的做法可以拆解为三步：

• 定义度量——用“自洽性率”代替传统的准确率或置信度，但这玩意直接和无限预算结果挂钩，本质上是个“黄金标准”的近似值。
• 建立框架——将轨迹分配建模为优化问题，目标是在给定预算下最大化最终答案的自洽性。这意味着分配策略不是拍脑袋想出来的，而是有数学保证的。
• 动态调整——根据模型在每条轨迹上的表现实时调整分配权重，而不是固定投相同的次数。这就像聪明的学生考试时把更多时间花在没把握的题目上，而不是每道题都花一样的时间。

这里有个细节值得注意：自洽性率的计算本身也需要成本，如何平衡“计算自洽性的成本”和“优化分配带来的收益”，其实是个鸡生蛋蛋生鸡的问题。PETS的贡献在于首次给出了理论上的收敛保证，这比以往那些“多跑几轮试试看”的经验主义做法要硬核得多。

凭什么说它更高效？

直观的理解是：传统做法把所有轨迹一视同仁，这其实很浪费。比如某个问题模型已经很有把握了，再跑10条轨迹也改变不了答案，那还不如把这10次计算资源省下来给更模糊的问题。PETS通过自洽性率这个“温度计”，能感知到哪些问题值得多投、哪些问题可以少投，从而实现预算的“精准滴灌”。实验数据显示，在相同预算下，PETS的最终答案质量显著高于均匀分配策略——这不就说明它确实管用嘛。

现实意义：算力大战中的“精打细算”

在大模型军备竞赛的今天，一张GPU卡动辄几万美元，算力就是真金白银。PETS的价值在于，它让团队不必无脑堆算力，而是通过更聪明地分配现有资源来获得更好效果。对于中小团队来说，这种“花小钱办大事”的方法尤其重要——咱们不必跟巨头比谁卡多，但可以在策略上比谁更会规划。当然，目前PETS还主要在标准推理场景中验证，能否推广到多模态或复杂代码生成等任务，还得看后续研究者的跟进。

说到底，PETS框架给行业提供了一个新思路：别光顾着跑更多的轨迹，先想想怎么分配才最值当。这大概就是“数学指导实践”的魅力吧——谁说AI就只能靠蛮力呢？