jev · 2026-10-06 · serving R1

clavue-jev · 多选分类判官

产品名 clavue-jev → 引擎 jev-omni-zh。 走专用 POST /v1/judge（不是 chat，无 128K）。

翻译链可选 jev_check（见 clavue-trans），那是服务内调 JEV，不是 OpenAI 兼容面。

项	值
协议	`POST /v1/judge` · `Content-Type: application/json`
ttkk / ttqq	`https://ttkk.inping.com/v1/judge` · `https://ttqq.inping.com/v1/judge`（Bearer sk-…）
api.clavue.com	`https://api.clavue.com/v1/judge`（会员 API Key）
内网网关	`http://192.168.2.100:11401/v1/judge` · 可选 `"model":"clavue-jev"`
NodePort	`http://192.168.2.100:31421`（31422/31423）
K8s	`jev-omni-zh` NodePort · 后端 6/6 × 3080
健康	`GET /health` → `model: clavue-jev`
choices	2–26 个互异字符串
批量 rows	1–32 条/请求；建议 8–16 条合并提高吞吐

单条

curl -sS http://192.168.2.100:31421/v1/judge \
  -H 'Content-Type: application/json' \
  -d '{
    "question": "是否通过？",
    "context": "背景说明……",
    "choices": ["是", "否"]
  }'

响应含 choice、probabilities。

批量（推荐）

curl -sS http://192.168.2.100:31421/v1/judge \
  -H 'Content-Type: application/json' \
  -d '{
    "rows": [
      {"question": "情感倾向？", "context": "……", "choices": ["正面", "中性", "负面"]},
      {"question": "是否合规？", "context": "……", "choices": ["通过", "拒绝"]}
    ]
  }'

响应 { "rows": [...], "ms": … }。

容量与超时

场景	参考	客户端超时
单条	~300 ms · 单副本 ~3 QPS	≥ 5 s
rows≤16	单副本 ~16 判断/s	≥ 30 s
rows→32	6 副本批量理想 ~96 判断/s（需客户端合并 rows）	≥ 60 s

不支持

OpenAI /v1/chat/completions、流式长输出、工具调用
经 ttkk / api.clavue.com 公网反代（暂无会员 product id；仅内网 NodePort 或集群内调用）

运维：jev-omni-zh/serving/JEV-SERVING-BEST-PRACTICES.md · 仓库 USAGE.md