2026-10-06 · 集群网关整理 + 改图三副本对齐
上下游模型名与上下文(怎么用)
OpenAI 兼容。客户端只填产品 model id;网关 / 会员层再映射到集群引擎名。上下文长度为单请求 prompt+输出 token 上限(不是训练窗口宣传值)。
四入口对照
| 入口 | Base URL | 鉴权 | 读哪份配置 |
|---|---|---|---|
| 内网网关 | http://192.168.2.100:11401/v1 | 通常无 | ai-gateway-config-fixed(与 ai-gateway-config 同步)· 11402 看板 |
| ttkk | https://ttkk.inping.com/v1 | Bearer sk-… | New API → 11401 |
| ttqq | https://ttqq.inping.com/v1 | Bearer sk-… | 集群 model 与 ttkk 相同 body;第三方走 ttqq 渠道 |
| api.clavue.com | https://api.clavue.com/v1 | 会员 API Key | /opt/iccjk-site/data/membership/admin-config.json · 保存即生效 |
对话 / LLM
| 调用方 model | 集群上游(引擎) | 上下文 | 端点 · 用法 |
|---|---|---|---|
clavue-2.1 | qwen3.8:27b → TP2 LoRA | 131072(建议 ≤128K prompt) | POST /v1/chat/completions · 有 mill 注入 · 长文超时 ≥180s |
qwen3.8:27b / tools-clean | 同上 | 131072 | 裸名零注入 · 须 prompt+max_tokens≤131072 |
clavue-2-code | qwen3.8:27b | 131072 | 30081 检索前置 + 只允许 edit 工具 |
clavue-2.1-fast(ttkk) | clavue-2b-last → clavue-2b-v61 | 262144 | 6 副本 · seqs=24 · 短并发高 |
clavue-2.1-fast(api) | clavue-2b-last | 262144 | 同上,经 ttkk 隧道 |
qwen3.6:35b-a3b | MoE 35B floor | 32768 | POST /v1/chat/completions · 裸名零注入 |
clavue-3-*(16 个别名) | 35B 路由 | 32768 | 小说/SEO 等 · 见 别名手册 |
lingsi1.0 / auto(集群) | qwen3.5:4b | 见引擎 | 小模型 / 面板默认 |
clavue-strata-125b | Strata MoE IQ2_XS | 131072(128K fleet 八座) | 长文专用 · 勿与 27B 混池 |
clavue-2.1-pro / rev(api) | deepseek-flash 等 | 第三方 | 走 ttqq,非本集群 GPU |
27B 路径:11401 → :30081(35B/注入)或 :30082(27B LoRA · 按 inflight 最小副本分流)。核心池 vllm-qwen38-27b-lora 10×TP2;弹性分片 lora-022/lora-032 在 pool=core 补丁完成后铺设(+4 TP2 目标)。
实时语音(全文)
| 调用方 model | 集群上游 | 端点 | 用法要点 |
|---|---|---|---|
luxtts | luxtts-speed(2×GPU) | POST /v1/audio/speech | 48 kHz wav · 别名 clavue-tts-live · 网关 max_connections: 2 · 默认 voice=夹子 · NodePort :31821 |
三入口同 body:ttkk · ttqq · api.clavue.com · 内网 11401。客户端超时 30s。
有声小说 TTS(全文)
| 调用方 model | 集群上游 | 端点 | 用法要点 |
|---|---|---|---|
clavue-tts-ml | 同上 8 分片 | POST /v1/audio/speech | 男主组:jp-m-versatile / jp-m-burst / novel-m-lead。别名 qwen3-tts-acted-ml |
clavue-tts-fn | 同上 | POST /v1/audio/speech | 女旁白:novel-f-acted。别名 qwen3-tts-acted-fn |
clavue-tts-rest | 同上 | POST /v1/audio/speech | 其余声线(jp-f-* / drama-f-guofeng / child-f-sweet / jp-m-low)。别名 qwen3-tts-acted-rest |
clavue-tts | qwen3-tts-acted(8 分片池) | POST /v1/audio/speech | 兼容旧调用,八路混批。分片 3/7/12/13/19/21/22/31 · 主 Service 已缩 0,勿再直连 :31801 |
配额(2026-10-06 晚):演播 acted 8 GPU · 实时 luxtts 2 GPU · ASMR 上游 custom+lane2 2 GPU(clavue-asmr 走 CPU shim)。维护脚本:patch_gateway_tts_fleet_cap8.py、patch_gateway_luxtts_live.py。
入口: https://ttkk.inping.com/v1 · https://ttqq.inping.com/v1 · 内网 11401/v1 · api 见下表差异。
| 字段 | 含义 |
|---|---|
voice | 10 演播声(如 jp-m-versatile、novel-f-acted)— 见 tts.html 第 2 节 |
instructions | 整本书演播风格(四段模板),整段替换默认腔,不是追加 |
input | 正文,一次一句~小段,建议 ≤200 字 |
curl -sS https://ttkk.inping.com/v1/audio/speech \
-H "Authorization: Bearer $CLAVUE_KEY" -H 'Content-Type: application/json' \
-d '{"model":"clavue-tts-ml","voice":"jp-m-versatile","instructions":"男声一线旁白……禁止耳语ASMR。","input":"他推开门。"}' \
-o line.wav
api.clavue.com 的 clavue-tts 仅 Uncle_Fu / Vivian / Serena 三声;10 演播声必须用 ttkk。写稿用裸 27b/35b,不要用 clavue-3-chat 写口播再 TTS。
超时客户端 ≥ 180s(排队更长);按异步任务接。
耳语 ASMR(全文)
| 调用方 model | 集群上游 | 端点 | 用法要点 |
|---|---|---|---|
clavue-asmr | qwen3-tts-asmr-shim → custom/lane2 | POST /v1/audio/speech | 2 路 GPU 上游 · shim 2 副本(不占 GPU)· 禁止 chat · 与 clavue-tts 不可混用 |
三入口同 body:ttkk · ttqq · api.clavue.com · 内网 11401。
curl -sS https://ttkk.inping.com/v1/audio/speech \
-H "Authorization: Bearer $CLAVUE_KEY" -H 'Content-Type: application/json' \
-d '{"model":"clavue-asmr","input":"闭上眼睛,我在。","voice":"aiden"}' \
-o asmr.wav
- 默认
aiden中文 · 真耳语 voicing ≤0.15(响应头X-Asmr-Voicing) voice/speaker、instructions/instruct等价;api 可透传vivian等原生 speaker- 单句墙钟 20–110s · 超时 ≥ 300s
音乐
| model | 上游 | 端点 | 时长 |
|---|---|---|---|
clavue-music | minimax-music3 | POST /v1/audio/speech | 单次最长 260s · audio_duration 与 voice 同传 |
语音识别(全文)
| 调用方 model | 集群上游 | 端点 | 说明 |
|---|---|---|---|
funasr | SenseVoice-Small(CPU,ai-003) | POST /v1/audio/transcriptions | 旧名。内网 11401 无 Bearer |
faster-whisper-medium | 同上 | 同上 | 旧 Whisper 名。副本保持 0,请求不再进 whisper |
sensevoice | 同上 | 同上 | 新名。三个名字结果相同 |
旧 WebSocket ws://funasr.default.svc:10095 与 :10096 也进这个引擎。两种消息顺序都认。热词字段会收下,但 SenseVoice 不使用。长音频超时按 300 秒。详见 asr.html。
curl -sS http://192.168.2.100:11401/v1/audio/transcriptions \ -F model=funasr \ -F file=@audio.wav
图像
| 调用方 model | 集群上游 | 端点 | 说明 |
|---|---|---|---|
clavue-img | z-image-turbo | POST /v1/images/generations | 默认 WebP · 白名单 1024² / 768×1344 / 1344×768 |
qwen-image-21 | qwen-image-21-{a,b,c}.qwen-image-21-hl | POST /v1/images/edits | Qwen-Image-2.1 · 2 GPU/Pod · ~75s · 超时 ≥300s · 旧 qwen-image-edit* 已下线 |
clavue-seg-v1 … | 各后端 | segments / edits / try-on | 见 image.html |
2026-10-06:改图统一 qwen-image-21 三副本(ai-028 / ai-023 / ai-033);旧 qwen-image-edit* 已删除。
OCR / 嵌入(全文)
| 调用方 model | 集群上游 | 端点 | 说明 |
|---|---|---|---|
clavue-ocr | PaddleOCR-VL-1.6-0.9B | POST /v1/chat/completions | 产品名 · 后端 paddleocr-16 2/2 · 11401 已注册 |
PaddleOCR-VL-1.6-0.9B | 同左 | 同上 | 引擎直打 |
clavue-emb | bge-m3 | POST /v1/embeddings | 检索向量 |
视觉 OCR:OpenAI 多模态 messages(image_url base64 或公网 URL)→ 图转 Markdown/文本。超时 ≥ 60s。
curl -sS https://ttkk.inping.com/v1/chat/completions \
-H "Authorization: Bearer $CLAVUE_KEY" -H 'Content-Type: application/json' \
-d '{"model":"clavue-ocr","messages":[{"role":"user","content":[
{"type":"text","text":"识别图中全部文字"},
{"type":"image_url","image_url":{"url":"data:image/png;base64,..."}}
]}]}'
api.clavue.com:clavue-ocr · contextWindow 16K(会员表)。旧 id PaddleOCR-VL-1.5-0.9B 仍可用,优先 1.6。
JEV 判官(全文)
| 服务 | 入口 | 协议 | 注意 |
|---|---|---|---|
clavue-jev | http://192.168.2.100:31421(31422/31423) | POST /v1/judge | 不在 11401 · 无 chat completions |
choices 2–26 · 批量 rows 1–32 · 6×3080 · 单条 ~300ms。翻译可选 jev_check(clavue-trans)。
翻译
| model | 上游 | 公网 | 内网 REST |
|---|---|---|---|
clavue-trans | NLLB-600M 等 | POST /v1/chat/completions + translation_options | :31424/v1/trans/* |
2026-10-06 集群变更摘要
- TTS 缩容:
qwen3-tts-acted仅 8 分片 backend(001/002 各 4);释放约 17 GPU。内网请走11401,不用:31801主入口。 - 实时语音:
luxtts-speed2 副本 · 网关luxtts/clavue-tts-live。 - 网关僵尸 pool 已清理;Strata 八座、music 8 车道未动。
- 改图
qwen-image-21三副本:028/023/033(Deployment a/b/c)。 - 27B 主 Deployment 加
clavue.io/pool=core(滚动中);35B v0.26;4B v0.31 试点。 - H3 视频:
minimax-h3· 上游h3-vdn:8090· K8s 节点池 ai-020 / ai-021 / ai-022(dedicated=h3:NoSchedule),空槽不计可调度闲置;网关 ConfigMap 已用注释标注(patch_gateway_h3_nodes.py)。 - 闲置 GPU:
CLUSTER-GPU-IDLE-2026-10-06.md· 11402 KPI「可调度空槽」(非物理空 72)。