模型路由把简单问题分配给大模型导致成本升高时，如何设计意图识别和降级策略

我会把这个问题拆成两块：一块是意图识别，判断请求到底需不需要大模型；另一块是降级策略，在保证效果可接受的前提下降低调用成本。

在意图识别上，我一般不会一开始就全部交给大模型判断，而是做分层路由。

第一层可以用规则和特征快速拦截，比如：

FAQ 类问题、固定业务咨询、状态查询、配置说明，这类通常不需要大模型； 请求长度很短、关键词明确、命中知识库标准问法的，可以走小模型或模板； 明显需要复杂推理、代码生成、多轮上下文理解、长文总结的，再考虑大模型； 对安全、合规、权限相关的问题要单独识别，不能简单降级。

第二层可以用轻量分类模型或者 embedding 相似度做意图识别。比如维护一批业务意图：订单查询、退款规则、账号问题、闲聊、技术问答、复杂推理等。用户问题进来后，先做向量召回或分类，拿到意图和置信度。如果置信度很高，并且意图本身是简单任务，就直接走低成本链路；如果置信度低，或者属于复杂任务，再走更强模型。

第三层才是大模型路由判断。也就是说，不要让大模型成为默认入口，而是作为兜底判断器或者复杂任务处理器。这样可以明显降低无效成本。

降级策略上，我会设计成多级