快速结论：TokenHub 把混元、DeepSeek、GLM、Kimi 与 MiniMax 等模型放到统一兼容入口，但“能用同一种 SDK”不等于模型能力和行为完全一致。可靠的路由不应按品牌写死，而应先按任务要求筛选协议、上下文、工具调用和输出结构，再用自有测试集比较质量、延迟、价格与失败率；主模型、降级模型和停止条件要同时配置。
先按任务过滤，而不是先看榜单
| 任务 | 先检查的能力 | 不应只看 |
|---|---|---|
| 客服与摘要 | 稳定指令遵循、长文本、低延迟、成本 | 单一综合榜单分数 |
| 复杂推理 | 推理模式、可控预算、长任务稳定性 | 宣传中的“最强推理” |
| 代码与 Agent | 工具调用、结构化输出、代码任务集、错误恢复 | 只比较生成一段代码 |
| 联网研究 | 搜索协议、引用字段、来源覆盖和搜索费用 | 回答看起来是否完整 |
| 高并发生产 | TPM/QPM、P95 延迟、429 行为和缓存 | 单次请求速度 |
建立三层路由规则
- 硬条件：协议、上下文、工具、流式、图像输入、地区与内容安全要求，不满足直接排除。
- 业务评分：用真实但脱敏的任务集，按正确性、完整性、格式和人工返工时间评分。
- 运行约束：把单位成功任务成本、P95 延迟、限流和故障恢复纳入选择，而不是只计 Token 单价。
同一品牌也可能有多个模型版本；模型列表和能力会更新。路由配置要保存模型 ID、文档复核日期和测试版本，避免供应商更新后“无声漂移”。
降级链必须知道什么时候停
| 故障 | 可自动处理 | 必须停止或人工介入 |
|---|---|---|
| 短时 429/5xx | 指数退避、抖动、有限重试或切备用 | 超过重试预算、产生重复副作用 |
| 模型不可用 | 切换已验收的同任务备用模型 | 备用模型缺少所需工具或上下文 |
| JSON 格式错误 | 一次修复请求并做 Schema 校验 | 关键字段语义不确定 |
| 内容安全拒绝 | 向用户说明限制或转人工 | 不得通过换模型绕过应有规则 |
| 联网结果无来源 | 关闭自动发布，重新搜索与核验 | 涉及医疗、法律、财务或现实动作 |
最小可执行评测表
- 准备 50—200 条覆盖高频、边界与失败场景的脱敏任务。
- 固定系统提示、工具 Schema、采样参数和最大输出，记录供应商返回的用量字段。
- 同时统计正确率、人工返工分钟数、P50/P95、错误率和单位成功任务成本。
- 每次模型 ID、版本、协议或价格变化后重跑；不要把旧结论永久贴到新版本。
来源与边界
当前支持模型和协议以腾讯云TokenHub 语言模型调用概览、模型列表及产品文档目录为准，资料复核日期为 2026 年 8 月 19 日。本文不替任何模型背书，也不把厂商榜单当成本站实测。可配合编辑选型、AI 工具箱和AI 安全治理使用。
