分组容灾切换
配置后备路由,并核对实际处理请求的路由。
普通 API Key 可以配置一个主分组和有顺序的备选分组列表。当某条路由无法处理请求时,符合重试条件的请求可以尝试其他有权限的路由。
配置备选分组
- 创建或编辑普通 API Key,选择主分组,并按期望顺序配置备选分组。
- 所选分组都必须在账号权限范围内。请同时确认主分组和备选分组的模型覆盖与价格。
- 保存密钥,客户端继续使用同一把密钥和模型,再通过 请求日志 查看实际处理请求的路由。
后备路由可能改变价格
备选分组处理的请求按该分组适用的费率计费。容灾切换并不保证所有错误都能重试,也不保证已经输出部分内容的流式请求可以续传。
智能 API Key 会按自身路由策略遍历可用分组,不使用手动排序的备选分组列表。