智能路由与自动切换,EchoBird 精简版 v1.0.0:只保留免费模型

分享一个基于 官方 EchoBird v5.7.0 做的精简版:去掉了其他功能,只留下免费模型相关这一块。平时手里有几个平台的免费 Key,想集中管理、少折腾切换配置,可以看看。

说明:这是第三方修改版,本文的 v1.0.0 指精简版自己的版本号,并非 EchoBird 官方发布版本。官方项目和本文分享的精简版请注意区分。

为什么需要智能路由?

免费模型经常会遇到额度耗尽、请求限速或临时不可用。智能路由通过一个本地 API 聚合已经添加的模型,对外使用同一个 API 地址,省去反复修改客户端配置的麻烦。

  • 共享额度,均衡调用:同一 Key 下的多个模型共享一份额度,按设置的限速策略轮流分配请求,不必等某个模型触发限流才切换。
  • 自动故障切换:模型因限流、欠费、鉴权失败或下线而不可用时,会进入冷却期,并切换到其他可用模型。限流约冷却 1 分钟,鉴权失败或欠费为 1 小时,模型下线为 6 小时;冷却结束后自动恢复参与调度。
  • 自动路由与分组路由:使用 auto 时,在全部可用模型中选择;使用分组名时,只在该组内进行路由和回退,不跨组切换。不同平台对同一模型的命名可能不同,可以将同一模型系列放在一个分组里。未分组的模型只参与 auto
  • 失败反馈:单次请求最多尝试 20 个模型。如果所有模型都暂时没有可用额度,接口会返回 429,并告知最早可重试时间。

简单说,就是一个地址接入,把多个模型轮换用起来,遇到故障自动切换,让手头的额度尽量发挥作用。

v1.0.0 更新

  • 清理了与 EchoBird 官方升级相关的残留。
  • 改进智能路由的均衡调用方式。
  • 新增请求速率限制设置。免费接口常见有 20 RPM(每分钟 20 次请求)这样的限制,具体以平台官方说明为准,不清楚可以先不填;确认不限速的付费 Key 可以填 -1
  • 模型列表支持拖动排序。
  • 调整了其他一些使用细节。

可能存在的问题

目前仍与 EchoBird 原版共用配置文件,还没有做隔离处理,可能影响原版配置。如果电脑上也在使用官方版,建议先备份配置,再尝试精简版。

关于添加的 Key

有人留言是否会上传添加的 key,用 codebuddy 查了一下,大家看一下。

关于这一点,具体还要以对应精简版的代码和检查结果为准;单凭这段说明,不能得出“Key 绝不会被上传”的结论。

项目来源与界面参考

官方仓库:edison7009/EchoBird
项目介绍:中文 README

下方配图来自官方 README,仅作上游项目参考;官方当前界面和功能可能与基于 v5.7.0 修改的精简版不同。

icon

model-cn-dark

下载地址

MEGA 网盘下载

© 版权声明
THE END
喜欢就支持一下吧
点赞14 分享
评论 抢沙发
头像-二楼后座
欢迎您留下宝贵的见解!
提交
头像-二楼后座

昵称

取消
昵称表情代码图片快捷回复

    暂无评论内容