路由 2026-09-24 · 集群变更 2026-10-06

四环节路由 · 2026-09-24

这一版从 2026-09-24 06:20 起固定。本地集群模型走 ttkk，第三方模型仍由 api.clavue.com 读 ttqq。换本地权重时只改集群网关上的稳定名目标，不要改这四段路径。

环节职责
集群网关 192.168.2.100:11401唯一改名点。发现 Pod 上的模型，并把稳定名改成当前引擎。
ttkk https://ttkk.inping.com/v1本地集群的公网入口。文生图、改图、语音、音乐、本地对话都从这里进隧道。
ttqq https://ttqq.inping.com/v1第三方模型（deepseek、Grok 等）。不要再把本地模型反代回 ttkk。
api.clavue.com按上游模型名选地址。Ops 的 admin-config.json 每次请求读取，保存后下一次就生效。

api.clavue.com 怎么选地址

全局 apiUrl 仍是 ttqq，给第三方用。本地名字在发出去之前改到 ttkk，并使用 ttkk 认的密钥。

上游模型地址
clavue-2b-last、qwen3.8:27b、qwen3.6:35b-a3b、qwen3.*、z-image*、qwen-image*、qwen3-tts*、minimax-music3https://ttkk.inping.com
deepseek-flash、Grok 等其余名字https://ttqq.inping.com

产品名 → 当前引擎

产品api 发出的上游名集群现状
clavue-2.1-fastclavue-2b-last网关改成 clavue-2b-v61，权重 /mnt/moxing/runs/clavue/vibecode-2b-devc-v61/full
clavue-2.1 / auto 溢出前的本地名qwen3.8:27b 或 qwen3.6:35b-a3b对应 Pod 在跑
clavue-2.1-pro / revdeepseek-flash第三方，走 ttqq
clavue-2.1-searchGrok第三方，走 ttqq
clavue-img 文生图z-image-turbo6/12 Pod。同隧道还有 z-image-album、z-image-manhua
普通改图qwen-image-21（别名 clavue-album / clavue-id 由 hop 重写到同引擎）只有集群 429/503 才退 Grok。旧 qwen-image-edit* 已下线
clavue-ttsqwen3-tts-custom走 ttkk
clavue-musicminimax-music3走 ttkk

2B 速度线容量（clavue-2.1-fast / clavue-2b-last）

后端 vllm-vibecode-2b-v38-004：ai-004 · 6 副本 · TP=1 · 权重 v79 · 上下文 262144 token（YaRN）。2026-10-06 吞吐升级：max-num-seqs=24、batched=8192。

维度单副本6 副本集群
短代码/对话并发（调度上限）24 路144 路
满窗并发（每条 ~262K 上下文）约 4 路约 24 路
单请求总 token262144（prompt + 输出）
典型 max_tokens≥ 4096；须满足 prompt + max_tokens ≤ 262144

实测单副本 c=16 聚合约 870 tok/s、c=24 约 1080 tok/s（升级前 c=8 约 500 tok/s）。勿把 24 路并发与「每条都 256K prompt」同时假设。

不要动

2026-09-24 复核