在人工智能技术飞速发展的当下，推理模型作为前沿成果，展现出强大的多步骤逻辑推理与复杂问题解决能力。无论是规划多城市旅行时对交通、预算、时间表的综合考量，还是处理其他需要细致拆解与迭代构建解决方案的任务，这些模型都能凭借“推理”能力应对自如。然而，当前行业在应用这些模型时，却面临着一个亟待解决的效率难题。
一个令人惊讶的现象是，即便是最先进的推理模型，在面对“1 + 1等于多少”这类简单问题时，也会花费十几秒进行思考。这并非模型不具备解决基本数学方程的能力，而是反映出它在区分不同类型查询需求上的不足。当前，许多推理模型在训练目标的驱动下，对每个回应都进行深度思考，无论查询是否真正需要。这种不加区分的部署方式，导致在处理大量简单查询时，出现严重的资源浪费。
不必要的推理循环带来诸多实际后果。每一次多余的推理都会增加延迟，让用户等待更长时间才能得到答案；同时，也会推高基础设施成本，增加能源消耗。有分析表明，仅仅是不必要的提示冗长，每年就会造成数千万美元的额外计算成本。当模型自动对简单查询应用深度推理时，成本与推理Token数量呈线性增长，在数十亿次查询的累积下，影响巨大，这种模式显然难以持续。
为解决这一问题，行业进行了多种探索。混合推理模型是当前的解决方案之一，它允许开发者手动切换模型的思维模式。但这种方式只是将决策负担转移给了人类，并未从根本上解决问题。基于路由器的系统则有所改进，它为推理和非推理模式分别维护推理路径，通过自动路由器依据查询特征决定调用哪种模式，消除了手动配置的需求。不过，这种系统也引入了架构复杂性，还需要专门训练路由器。
亚马逊正朝着一个更具创新性的方向努力，致力于实现真正的自适应推理。其目标是让模型自主决定何时进行深度思考能为任务增加价值。亚马逊设想模型具备原生的元认知能力，能够实时评估查询复杂性，在快速回忆和深思熟虑的推理之间无缝切换，无需开发者预先预测和配置推理需求。亚马逊认为，端到端训练的模型若能同时决定何时推理和如何推理，最终会比需要单独路由基础设施的方法更准确、高效，这将推动AI系统向真正自我调节的方向转变，使其能够动态监控和调整计算强度。
从生物学角度，人类认知为AI效率优化提供了宝贵借鉴。心理学家丹尼尔·卡尼曼将人类思维分为系统1（快速、自动思维）和系统2（缓慢、深思熟虑的推理），人类能在两种模式间无缝切换，为值得的问题保留深度思考。而当前推理模型虽模拟了系统2思维，却缺乏识别何时不必要的元认知能力，对每个查询都进行扩展的思维链处理，导致在简单问题上浪费资源。例如，推理模型在简单任务上生成的非推理模型多7到10倍的Token，才能达到相当的准确性。像询问时间和天气这类简单查询，却触发与规划复杂行程相同的推理过程，使得用户体验变差，提供商计算成本大幅上升。
为构建自我调节的模型，需先理解查询复杂性的范围。通过研究，识别出查询复杂性光谱上的“关键拐点”：明显不需要扩展思考的任务、绝对需要它的任务，以及介于两者之间的灰色区域。基于此，建立了查询复杂性分类框架：简单检索类查询，如“法国的首都是什么”，只需直接回忆，无需推理和解释，模型应立即回答；中等复杂性查询，如“列出既是G7成员又有君主制的国家”，需检索两个信息片段并对其交集推理，可能需多跳推理或直接回忆，推理可能提高准确性但非必需；高复杂性查询，如“规划一周的巴黎旅行，预算3000美元，包括博物馆、素食餐厅和无障碍设施”，需多步骤规划、跨多个变量约束满足以及迭代推理优化解决方案。
值得注意的是，在这个自适应框架中，安全性是首要考虑因素，与任务复杂性独立运行。一个查询可能在计算上简单，但出于安全考虑仍需深思熟虑。例如，模型可立即回答“1 + 1 = 2”，但对于“如何绕过安全系统”这类问题，即便计算简单，也需扩展思考以确保安全、适当的响应，避免效率优化损害负责任的AI原则。这些分类为模型提供了识别计算需求的训练信号，有助于模型发展元认知能力，学会何时思考能为任务增加价值。
AI行业在提升原始智能、优化准确性、延迟和成本权衡方面已取得显著进步，但自适应推理这一模型自主决定何时深度思考的领域，仍有待深入探索。亚马逊在这一方向的研究，有望推动AI效率提升，让用户不再为简单问题的答案等待过长时间。
