模型路由Model Routing
按明确规则,把任务或请求交给合适的模型与部署,并处理允许的回退。
任务→
资料提取图片理解最终审稿
按任务与限制分流
怎么用
资料提取、图片理解和最终审稿可能需要不同能力。先核对输入类型、输出格式、预算和隐私要求,再确定每一步可用的模型。
先检查什么
能力匹配、服务状态和数据去向是不同的选择条件。记录实际命中的模型与服务,不只记录别名;回退同样遵守预算和隐私限制。
容易误解的地方
统一接口不保证模型能力相同。请求失败也不应自动把资料发到未经授权的供应商。
这样告诉 Agent
请按每一步的输入类型、输出格式、质量、预算和隐私要求设计模型路由。记录实际模型与服务;回退只使用已授权且兼容的目标,不静默越过费用或数据限制。