logic · 2026-09-24 路由已固定
27b / 35b 现网逻辑
给其他项目对照用。裸引擎零注入仍是 2026-09-11 的规则。当前路由固定在 2026-09-24:本地走 ttkk,clavue-2.1-fast 上游是 clavue-2b-last,第三方走 ttqq。
内网入口
| 本文档 | http://192.168.2.100:31803/ · /docs/ |
| 机器可读 | llm-logic.json |
| 27b / 质量 | http://192.168.2.100:11401/v1 或 :11419/v1 · model qwen3.8:27b |
| 35b / 速度 | http://192.168.2.100:30081/v1 或 :30080/v1 · model qwen3.6:35b-a3b |
| 公网 | https://ttkk.inping.com/v1 · https://ttqq.inping.com/v1 · Bearer |
怎么选
| 27b · clavue-2.1 | 35b · clavue-2.1-fast | |
|---|---|---|
| 干什么 | 产品名:开发 / Agent。裸名:调用方 system(作词/brief) | 产品名:内容 mill。裸名:调用方 system。SEO 用 clavue-3-seo |
| 引擎 | Qwen3.8-27B AWQ + tools-clean LoRA ×9(TP2) | Qwen3.6-35B-A3B MoE 地板,3B 激活 |
| 上下文 | 128K(09-10 试过 256K,当天回滚) | 32K,几乎单轮 |
| 思考 | 关 | 关;禁止多轮内心推演 |
| 人设 | 仅 clavue-2.1 / tools-clean 注 mill。裸 qwen3.8:27b 不注 | 仅 clavue-2.1-fast 注 mill。裸 qwen3.6:35b-a3b 不注 |
| 代码 | 要。KISS/YAGNI,脏代码不当模板 | 禁止。被问编程只回「用 clavue-2.1」 |
| 内容稿 | 不是主业 | 主业。单轮给满,宿主(gui/tui/cli/agent)吃格式 |
| 语气 | 不迎合、不情绪价值、正确率优先 | 外热内冷:接住情绪,事实不编 |
| max_tokens | 建议 ≥ 4096 | 出稿建议 2048–4096 |
链路
27b ttkk ch132 9006 → 11419 → 11401 → packing-lora :30082 → LoRA pods
ttkk/ttqq 9008/9101 → 30081 → 27b 名改走 30082 LoRA
35b ttkk 9008 / ttqq 9101 → 30081 → vllm-proxy :30080 → 35b 地板
packing 按 model 决定:领域别名注入领域提示词;产品名注入 mill;裸引擎不注入。不要把作词打到 clavue-3-chat,不要把写代码打到 35b mill。
版本
| 版本 | 日期 | 记什么 |
|---|---|---|
| 2026-09-11 | 09-11 晚 | 裸 qwen3.8:27b / qwen3.6:35b-a3b 零注入。作词、caption、封面 brief、TTS 稿走裸名 + 调用方 system。mill 文件只服务 clavue-2.1 / clavue-2.1-fast / tools-clean。批次 3 领域提示词「沟通纪律」已回滚。 |
| 2026-09-10 | 09-10 晚 | 27b 服务端:尝试 util 0.91→0.944 + max-model-len 131072→262144,当天回滚。用户可见:上下文仍是 128K,参数保持 0.91 / 131072(详见 服务端)。 |
| 2026-09-09.3 | 09-09 晚 | 35b:单轮给满、宿主格式(gui/tui/cli/ide/agent)、出稿加量。本文档上线。 |
| 2026-09-09.2 | 09-09 | 35b 独立内容人设(SEO/GEO/歌词/剧本/有声)。外热内冷、轻思考、不写代码。Fable 5 只取语气,不灌 18 万字。 |
| 2026-09-09.1 | 09-09 | 27b 切 tools-clean LoRA。人设:KISS/YAGNI、认宿主、百科不拒、不钻屎山。packing 27b→30082。 |
| 2026-09-09.0 | 09-09 午 | 底板 27b 缩 0。ttkk 9008 / ttqq 9101 曾 unknown model,已把 9101 接到 30081。 |
改人设
- 产品 mill:改
/opt/clavue-27b-system.txt/clavue-35b-system.txt,再systemctl restart packing-llm-shim packing-http10-buffer(改脚本才两台一起重启;只改 txt 重启 30081 即可) - 领域别名:改
/opt/clavue-prompts/<alias>-system.txt,重启packing-llm-shim - 作词 / brief:不要改 mill 文件,把规则写进调用方 system,打裸引擎
- 不必重建 vLLM Pod