Files
chenxin 144415247e M4 收口:神识用户面与计量闭环——BYOK/配额三段式/usage 落库/Anthropic+Gemini 适配器/神识阁
- 神识 Go:store 双实现(PG 自动建表+60s 就绪重试 / 内存回退)承载 usage_logs·byok_keys·quota_balances;BYOK 密钥库(AES-GCM 加密、API 脱敏、撤回即失效、主密钥未配置 fail-closed);配额三段式(预扣 max_tokens 钳位 1M→结算实际 token→全败幂等退款,HJ-2004);计量归属(IR user_id→usage_logs,/me/usage 用户维度聚合+配额总览,/admin/usage/sample 对账抽样);Anthropic/Gemini 出站适配器(SSE 解析、system 提升、用量映射);stub 端点补名修复计量空 endpoint
- IR 契约:user_id/byok_key_id 双端同步(Go types.go + Py types.py)
- 灵台:runs.owner_id(迁移 005,server_default 兼容存量)经 kernel 全链透传为 IR user_id;shenshi_client 扩展用户面方法(X-Hunjing-User-Id 代理,Echo 桩带内存实现);/me/byok-keys 登记·列表·撤回与 /me/usage 端点(4 用例)
- 前端神识阁(/models 重建):偏好(生成参数表单)/自带密钥(登记加密保存、脱敏列表、撤回二次确认)/用量(聚合表+配额进度条)三区;me API 库+mock+5 用例;侧栏恢复入口
- 配置与部署:.env.example 增 SHENSHI_DATABASE_URL/SHENSHI_BYOK_MASTER_KEY/SHENSHI_USER_BUDGET_TOKENS;compose 神识容器接自有库(init-shenshi.sql 预建 hunjing_shenshi,与灵台不共库共表)
- 证据:Go 34 用例(BYOK 独占/配额拒绝/结算退款/归属聚合)、后端 532、前端 210、BFF 4 全绿;跨进程 E2E 四场景(灵台 HttpShenshiClient→真 Go 神识:登记脱敏/BYOK 独占不可达整体失败/用量归属聚合/撤回即失效)通过;rewrite-plan M4 标记完成、能力矩阵神识行升已验证
2026-08-27 18:39:17 +08:00
..

神识 · 魂镜模型网关(hunjing-shenshi / Shenshi)

文化命名「神识」(契约词典 §2.1):统一模型能力——Provider/Endpoint 接入、能力槽位、协议转换、路由、流式、BYOK、配额与成本。神识不拥有人物状态。

当前状态(rewrite/1.0 M4a)

  • 数据面 POST /v1/chat/completions:IR 入站 → 候选路由 → SSE 出站;首帧到达前不提交响应,失败可整体切道并返回 JSON 错误(HJ-2001),已写出字节后不换道、如实 error 终帧;
  • 适配器:openai_compatible(云厂商兼容面与元炁本地端点共用此协议)与 stub 回声桩(未配置端点时兜底);
  • 端点配置:环境 SHENSHI_ENDPOINTS(JSON 数组,字段 type/name/base_url/api_key/model/priority),示例见 .env.example;
  • 故障策略(shenshi-gateway.md §4):候选按 Priority 升序 + 粘性会话置首 + 冷却端点排尾兜底;首字超时(默认 10s)切道;401/403 凭证级冷却 10 分钟,429/5xx/超时仅冷却该端点绑定 30 秒;
  • 计量(M4a):每次尝试一条 stdout JSON 日志(kind=shenshi_usage)+ 进程内聚合,GET /me/usage 返回按 模型×端点 的请求数/成功数/token;生产 PG 落库与 BYOK 归属随 M4b;
  • 健康面 GET /healthz GET /readyz;服务令牌 SHENSHI_SERVICE_TOKEN(开发档可空)。

目录结构

shenshi/
  main.go                    # 入口:store/byok/quota 装配与路由
  internal/ir/types.go       # IR 请求/增量(与灵台 app/shenshi_client/types.py 对齐)
  internal/transform/        # 出站适配器(openai 兼容 / anthropic / gemini / stub)
  internal/route/registry.go # 槽位 → 端点候选注册表
  internal/relay/sse.go      # SSE 帧写出(X-Accel-Buffering: no)
  internal/store/            # 神识自有库(PG + 内存双实现)
  internal/byok/             # BYOK 密钥库(AES-GCM 加密与脱敏)
  internal/quota/            # 配额三段式(预扣/结算/退款,钳位集中)
  internal/metering/         # 用量计量(stdout + 落库)
  internal/server/           # HTTP 服务与测试

本地运行

统一经根目录 Makefile:

make dev-shenshi          # SHENSHI_PORT=8080
make vet-shenshi          # go vet
make test-shenshi         # go test ./...
# 灵台侧联调配置(根目录 .env):SHENSHI_BASE_URL=http://127.0.0.1:8080

测试

go vet ./... && go test ./...

设计依据:神识模型网关;错误码段 HJ-2xxx 见契约词典 §15。