2026-10-06 · 集群网关整理 + 改图三副本对齐

上下游模型名与上下文(怎么用)

OpenAI 兼容。客户端只填产品 model id;网关 / 会员层再映射到集群引擎名。上下文长度为单请求 prompt+输出 token 上限(不是训练窗口宣传值)。

四入口对照

入口Base URL鉴权读哪份配置
内网网关http://192.168.2.100:11401/v1通常无ai-gateway-config-fixed(与 ai-gateway-config 同步)· 11402 看板
ttkkhttps://ttkk.inping.com/v1Bearer sk-…New API → 11401
ttqqhttps://ttqq.inping.com/v1Bearer sk-…集群 model 与 ttkk 相同 body;第三方走 ttqq 渠道
api.clavue.comhttps://api.clavue.com/v1会员 API Key/opt/iccjk-site/data/membership/admin-config.json · 保存即生效

对话 / LLM

调用方 model集群上游(引擎)上下文端点 · 用法
clavue-2.1qwen3.8:27b → TP2 LoRA131072(建议 ≤128K prompt)POST /v1/chat/completions · 有 mill 注入 · 长文超时 ≥180s
qwen3.8:27b / tools-clean同上131072裸名零注入 · 须 prompt+max_tokens≤131072
clavue-2-codeqwen3.8:27b13107230081 检索前置 + 只允许 edit 工具
clavue-2.1-fast(ttkk)clavue-2b-last → clavue-2b-v612621446 副本 · seqs=24 · 短并发高
clavue-2.1-fast(api)clavue-2b-last262144同上,经 ttkk 隧道
qwen3.6:35b-a3bMoE 35B floor32768POST /v1/chat/completions · 裸名零注入
clavue-3-*(16 个别名)35B 路由32768小说/SEO 等 · 见 别名手册
lingsi1.0 / auto(集群)qwen3.5:4b见引擎小模型 / 面板默认
clavue-strata-125bStrata MoE IQ2_XS131072(128K fleet 八座)长文专用 · 勿与 27B 混池
clavue-2.1-pro / rev(api)deepseek-flash 等第三方走 ttqq,非本集群 GPU

27B 路径:11401 → :30081(35B/注入)或 :30082(27B LoRA · 按 inflight 最小副本分流)。核心池 vllm-qwen38-27b-lora 10×TP2;弹性分片 lora-022/lora-032 在 pool=core 补丁完成后铺设(+4 TP2 目标)。

实时语音(全文)

调用方 model集群上游端点用法要点
luxttsluxtts-speed(2×GPU)POST /v1/audio/speech48 kHz wav · 别名 clavue-tts-live · 网关 max_connections: 2 · 默认 voice=夹子 · NodePort :31821

三入口同 body:ttkk · ttqq · api.clavue.com · 内网 11401。客户端超时 30s。

有声小说 TTS(全文)

调用方 model集群上游端点用法要点
clavue-tts-ml同上 8 分片POST /v1/audio/speech男主组:jp-m-versatile / jp-m-burst / novel-m-lead。别名 qwen3-tts-acted-ml
clavue-tts-fn同上POST /v1/audio/speech女旁白:novel-f-acted。别名 qwen3-tts-acted-fn
clavue-tts-rest同上POST /v1/audio/speech其余声线(jp-f-* / drama-f-guofeng / child-f-sweet / jp-m-low)。别名 qwen3-tts-acted-rest
clavue-ttsqwen3-tts-acted(8 分片池)POST /v1/audio/speech兼容旧调用,八路混批。分片 3/7/12/13/19/21/22/31 · 主 Service 已缩 0,勿再直连 :31801

配额(2026-10-06 晚):演播 acted 8 GPU · 实时 luxtts 2 GPU · ASMR 上游 custom+lane2 2 GPU(clavue-asmr 走 CPU shim)。维护脚本:patch_gateway_tts_fleet_cap8.py、patch_gateway_luxtts_live.py。

入口: https://ttkk.inping.com/v1 · https://ttqq.inping.com/v1 · 内网 11401/v1 · api 见下表差异。

字段含义
voice10 演播声(如 jp-m-versatile、novel-f-acted)— 见 tts.html 第 2 节
instructions整本书演播风格(四段模板),整段替换默认腔,不是追加
input正文,一次一句~小段,建议 ≤200 字
curl -sS https://ttkk.inping.com/v1/audio/speech \
  -H "Authorization: Bearer $CLAVUE_KEY" -H 'Content-Type: application/json' \
  -d '{"model":"clavue-tts-ml","voice":"jp-m-versatile","instructions":"男声一线旁白……禁止耳语ASMR。","input":"他推开门。"}' \
  -o line.wav

api.clavue.com 的 clavue-tts 仅 Uncle_Fu / Vivian / Serena 三声;10 演播声必须用 ttkk。写稿用裸 27b/35b,不要用 clavue-3-chat 写口播再 TTS。

超时客户端 ≥ 180s(排队更长);按异步任务接。

耳语 ASMR(全文)

调用方 model集群上游端点用法要点
clavue-asmrqwen3-tts-asmr-shim → custom/lane2POST /v1/audio/speech2 路 GPU 上游 · shim 2 副本(不占 GPU)· 禁止 chat · 与 clavue-tts 不可混用

三入口同 body:ttkk · ttqq · api.clavue.com · 内网 11401。

curl -sS https://ttkk.inping.com/v1/audio/speech \
  -H "Authorization: Bearer $CLAVUE_KEY" -H 'Content-Type: application/json' \
  -d '{"model":"clavue-asmr","input":"闭上眼睛,我在。","voice":"aiden"}' \
  -o asmr.wav

音乐

model上游端点时长
clavue-musicminimax-music3POST /v1/audio/speech单次最长 260s · audio_duration 与 voice 同传

语音识别(全文)

调用方 model集群上游端点说明
funasrSenseVoice-Small(CPU,ai-003)POST /v1/audio/transcriptions旧名。内网 11401 无 Bearer
faster-whisper-medium同上同上旧 Whisper 名。副本保持 0,请求不再进 whisper
sensevoice同上同上新名。三个名字结果相同

旧 WebSocket ws://funasr.default.svc:10095 与 :10096 也进这个引擎。两种消息顺序都认。热词字段会收下,但 SenseVoice 不使用。长音频超时按 300 秒。详见 asr.html。

curl -sS http://192.168.2.100:11401/v1/audio/transcriptions \
  -F model=funasr \
  -F file=@audio.wav

图像

调用方 model集群上游端点说明
clavue-imgz-image-turboPOST /v1/images/generations默认 WebP · 白名单 1024² / 768×1344 / 1344×768
qwen-image-21qwen-image-21-{a,b,c}.qwen-image-21-hlPOST /v1/images/editsQwen-Image-2.1 · 2 GPU/Pod · ~75s · 超时 ≥300s · 旧 qwen-image-edit* 已下线
clavue-seg-v1 …各后端segments / edits / try-on见 image.html

2026-10-06:改图统一 qwen-image-21 三副本(ai-028 / ai-023 / ai-033);旧 qwen-image-edit* 已删除。

OCR / 嵌入(全文)

调用方 model集群上游端点说明
clavue-ocrPaddleOCR-VL-1.6-0.9BPOST /v1/chat/completions产品名 · 后端 paddleocr-16 2/2 · 11401 已注册
PaddleOCR-VL-1.6-0.9B同左同上引擎直打
clavue-embbge-m3POST /v1/embeddings检索向量

视觉 OCR:OpenAI 多模态 messages(image_url base64 或公网 URL)→ 图转 Markdown/文本。超时 ≥ 60s。

curl -sS https://ttkk.inping.com/v1/chat/completions \
  -H "Authorization: Bearer $CLAVUE_KEY" -H 'Content-Type: application/json' \
  -d '{"model":"clavue-ocr","messages":[{"role":"user","content":[
    {"type":"text","text":"识别图中全部文字"},
    {"type":"image_url","image_url":{"url":"data:image/png;base64,..."}}
  ]}]}'

api.clavue.com:clavue-ocr · contextWindow 16K(会员表)。旧 id PaddleOCR-VL-1.5-0.9B 仍可用,优先 1.6。

JEV 判官(全文)

服务入口协议注意
clavue-jevhttp://192.168.2.100:31421(31422/31423)POST /v1/judge不在 11401 · 无 chat completions

choices 2–26 · 批量 rows 1–32 · 6×3080 · 单条 ~300ms。翻译可选 jev_check(clavue-trans)。

翻译

model上游公网内网 REST
clavue-transNLLB-600M 等POST /v1/chat/completions + translation_options:31424/v1/trans/*

2026-10-06 集群变更摘要