什么是测试时扩展？

测试时扩展（Test-Time Scaling），顾名思义，指的是在模型测试（推理）阶段动态增加计算量，而不是只靠训练阶段堆参数、堆数据来提升能力。传统大模型回答一个问题往往“脱口而出”，只经过一次前向传播；而测试时扩展让模型在输出最终答案前，先进行多步推理、自我检查或搜索多个可能路径，相当于让AI“慢思考”换高智商。

这一思路受人类认知启发：面对难题，我们会打草稿、列步骤、反复验算。测试时扩展就是把这种“慢思考”机制工程化，用更多推理时间换取更准确的答案。它不需要重新训练模型，而是在使用阶段灵活调节，因此被视为提升大模型推理能力的重要方向。

测试时扩展怎么运作？

核心原理是：在推理阶段，通过增加计算步骤或采样次数，探索更大的解空间，再从中选出最优答案。常见方法包括：

• 思维链（CoT）：引导模型逐步写出推理过程，而不是直接给答案。步骤越多，复杂问题越容易拆解。
• 自洽性投票：让模型用不同随机种子生成多条推理路径，对最终答案投票，多数一致的答案更可靠。
• 思维树/思维图：把推理过程组织成树或图结构，允许回溯、剪枝和多路径探索。
• 自我验证与修订：模型生成答案后，再自己检查一遍，发现错误就修正。
• 过程奖励模型：对每一步推理打分，引导模型走向正确中间步骤，而不仅仅看最终结果。

这些方法可以单独使用，也可以组合。下表对比了不同扩展策略的特点：

值得注意的是，测试时扩展并非“越多越好”。当计算量超过某个阈值，收益会递减，甚至因错误累积而下降。因此实际系统需要动态决定“思考多久”。

代表产品与工具

国内已有多款产品落地测试时扩展技术，且在国内可直连使用：

• DeepSeek-R1：深度求索推出的推理模型，通过强化学习激发长思维链，在数学、编程等任务上表现突出，并公开了技术细节。
• Kimi：月之暗面旗下助手，长上下文结合推理增强，适合处理长文档和复杂问答。
• 通义千问：阿里云模型，其QwQ系列专注推理，支持逐步思考模式。
• 豆包：字节跳动AI助手，在部分场景引入慢思考机制，提升数学和逻辑题准确率。
• 智谱清言：智谱AI产品，GLM系列模型支持思维链和工具调用。
• 可灵、即梦：虽主打视频生成，但其底层规划模块也受益于测试时扩展思想，用于分镜和运动规划。

此外，开源社区也有OpenAI o1复现项目、OpenR等，推动技术普及。

应用场景

测试时扩展特别适合需要深度推理的任务：

• 数学解题：竞赛题、高等数学，多步推导减少计算错误。
• 代码生成与调试：生成后自我测试、修复，提高代码通过率。
• 科学问答：物理、化学推理题，逐步验证假设。
• 复杂决策：商业分析、策略规划，探索多种方案并评估。
• 教育辅导：展示解题过程，帮助学生理解思路。

对于普通用户，最直观的体验是：开启“深度思考”按钮后，AI回答更准但耗时更长。从业者则可通过API调节推理预算，平衡成本与效果。

常见问题

测试时扩展和训练时扩展有什么区别？

训练时扩展指增加模型参数、数据量或训练算力，属于“先天”能力提升；测试时扩展是在模型固定后，推理阶段临时增加计算，属于“后天”努力。两者互补，测试时扩展更灵活、成本可控。

为什么“慢思考”能提高准确率？

复杂问题往往需要多步推理，单次前向传播容易跳步或出错。慢思考让模型显式写出中间步骤，并有机会自我检查、多路径验证，从而减少逻辑漏洞和事实错误。

所有任务都需要测试时扩展吗？

不是。简单问答、翻译、摘要等任务，单次推理已足够，强行慢思考只会增加延迟和成本。实际系统会根据问题难度动态决定是否启用，或让用户手动选择。

测试时扩展不是万能药，但它为大模型推理能力打开了一扇新窗：用计算换智能，让AI在关键时刻“多想一步”。