Skip to main content

请教：自建反代网关挂几十个模型，失败重试和模型降级怎么做比较稳？🌐 链接:

  1. 请教：自建反代网关挂几十个模型，失败重试和模型降级怎么做比较稳？

    🌐 链接: https://www.nodeseek.com/post-995063-1

    🔍 关键词: #vps

    🏷️ 分组: NodeSeek论坛

    🕒 时间: 2026-10-20 09:42:46
    NodeSeek
    请教：自建反代网关挂几十个模型，失败重试和模型降级怎么做比较稳？
    背景：自己VPS上跑了个WorkBuddy反代网关（OpenAI兼容接口），国内版/国际版可切换，Telegram机器人通过/model切换，后面大概挂了50个模型，每天跑agent任务，token量不小。已做的：网关前加了访问控制，统一baseURL接入。遇到的问题：偶尔碰到上游失败，比如连续burst调用后返回