新功能:多个订阅同时为你的 agent 服务

以前,几个 agent 共用一个订阅池时,大家都挤在同一个订阅上,这个用完了才换下一个。agent 一多,就容易撞限流。

顺带吐个槽:Codex 阴过我一次。有个备用号我留了好几天舍不得用,一启用才发现周额度要 7 天后才重置,真的好气!这个坑现在已经由网关的 weekly hello 填上了:它会在后台提前启动备用号的周额度计时。

现在,AQG 支持让池子里排在前面的几个订阅同时干活。多个 agent 可以分摊到多个订阅上,每个 agent 被分到一个订阅后就一直用它,prompt cache 不会被打断。

怎么打开

1. 先升级网关:把 Agent Quota Gateway 升级到最新版。每个池子默认同时服务的订阅数是 1,和以前的行为一样。在管理页面点这个数字,就能改成 1 到池子里的订阅总数之间的任意值。
2. 再改 my-ai-team:设置 MAT_GATEWAY_WORKER_NAMESPACE=1,然后重启 agent。一定要在第 1 步之后做,旧版网关不认识这个功能,agent 会连不上。

用起来是什么样

- 每个 agent 平时固定使用一个订阅,prompt cache 不会被打断。只有切换订阅时,cache 才需要重建一次。
- 新来的 agent 按 priority 顺序,在前 N 个订阅之间轮流分配。排在 N 之后的订阅继续当后备。
- 前面哪个订阅用完了,它上面的 agent 会自动换到下一个可用的订阅。等它恢复了,这些 agent 会被安排回来。
- 什么都不设置,就一切照旧。
 
 
Back to Top