chenxin
144415247e
- 神识 Go：store 双实现（PG 自动建表+60s 就绪重试 / 内存回退）承载 usage_logs·byok_keys·quota_balances；BYOK 密钥库（AES-GCM 加密、API 脱敏、撤回即失效、主密钥未配置 fail-closed）；配额三段式（预扣 max_tokens 钳位 1M→结算实际 token→全败幂等退款，HJ-2004）；计量归属（IR user_id→usage_logs，/me/usage 用户维度聚合+配额总览，/admin/usage/sample 对账抽样）；Anthropic/Gemini 出站适配器（SSE 解析、system 提升、用量映射）；stub 端点补名修复计量空 endpoint - IR 契约：user_id/byok_key_id 双端同步（Go types.go + Py types.py） - 灵台：runs.owner_id（迁移 005，server_default 兼容存量）经 kernel 全链透传为 IR user_id；shenshi_client 扩展用户面方法（X-Hunjing-User-Id 代理，Echo 桩带内存实现）；/me/byok-keys 登记·列表·撤回与 /me/usage 端点（4 用例） - 前端神识阁（/models 重建）：偏好（生成参数表单）/自带密钥（登记加密保存、脱敏列表、撤回二次确认）/用量（聚合表+配额进度条）三区；me API 库+mock+5 用例；侧栏恢复入口 - 配置与部署：.env.example 增 SHENSHI_DATABASE_URL/SHENSHI_BYOK_MASTER_KEY/SHENSHI_USER_BUDGET_TOKENS；compose 神识容器接自有库（init-shenshi.sql 预建 hunjing_shenshi，与灵台不共库共表） - 证据：Go 34 用例（BYOK 独占/配额拒绝/结算退款/归属聚合）、后端 532、前端 210、BFF 4 全绿；跨进程 E2E 四场景（灵台 HttpShenshiClient→真 Go 神识：登记脱敏/BYOK 独占不可达整体失败/用量归属聚合/撤回即失效）通过；rewrite-plan M4 标记完成、能力矩阵神识行升已验证
48 lines
2.6 KiB
Markdown
48 lines
2.6 KiB
Markdown
# 神识 · 魂镜模型网关（hunjing-shenshi / Shenshi）
|
||
|
||
> 文化命名「神识」（契约词典 §2.1）：统一模型能力——Provider/Endpoint 接入、能力槽位、协议转换、路由、流式、BYOK、配额与成本。神识不拥有人物状态。
|
||
|
||
## 当前状态（rewrite/1.0 M4a）
|
||
|
||
- 数据面 `POST /v1/chat/completions`：IR 入站 → 候选路由 → SSE 出站；**首帧到达前不提交响应**，失败可整体切道并返回 JSON 错误（HJ-2001），已写出字节后不换道、如实 error 终帧；
|
||
- 适配器：`openai_compatible`（云厂商兼容面与元炁本地端点共用此协议）与 `stub` 回声桩（未配置端点时兜底）；
|
||
- 端点配置：环境 `SHENSHI_ENDPOINTS`（JSON 数组，字段 type/name/base_url/api_key/model/priority），示例见 `.env.example`；
|
||
- 故障策略（shenshi-gateway.md §4）：候选按 Priority 升序 + 粘性会话置首 + 冷却端点排尾兜底；**首字超时（默认 10s）切道**；401/403 凭证级冷却 10 分钟，429/5xx/超时仅冷却该端点绑定 30 秒；
|
||
- 计量（M4a）：每次尝试一条 stdout JSON 日志（`kind=shenshi_usage`）+ 进程内聚合，`GET /me/usage` 返回按 模型×端点 的请求数/成功数/token；生产 PG 落库与 BYOK 归属随 M4b；
|
||
- 健康面 `GET /healthz` `GET /readyz`；服务令牌 `SHENSHI_SERVICE_TOKEN`（开发档可空）。
|
||
|
||
## 目录结构
|
||
|
||
```text
|
||
shenshi/
|
||
main.go # 入口：store/byok/quota 装配与路由
|
||
internal/ir/types.go # IR 请求/增量（与灵台 app/shenshi_client/types.py 对齐）
|
||
internal/transform/ # 出站适配器（openai 兼容 / anthropic / gemini / stub）
|
||
internal/route/registry.go # 槽位 → 端点候选注册表
|
||
internal/relay/sse.go # SSE 帧写出（X-Accel-Buffering: no）
|
||
internal/store/ # 神识自有库（PG + 内存双实现）
|
||
internal/byok/ # BYOK 密钥库（AES-GCM 加密与脱敏）
|
||
internal/quota/ # 配额三段式（预扣/结算/退款，钳位集中）
|
||
internal/metering/ # 用量计量（stdout + 落库）
|
||
internal/server/ # HTTP 服务与测试
|
||
```
|
||
|
||
## 本地运行
|
||
|
||
统一经根目录 Makefile：
|
||
|
||
```bash
|
||
make dev-shenshi # SHENSHI_PORT=8080
|
||
make vet-shenshi # go vet
|
||
make test-shenshi # go test ./...
|
||
# 灵台侧联调配置（根目录 .env）：SHENSHI_BASE_URL=http://127.0.0.1:8080
|
||
```
|
||
|
||
## 测试
|
||
|
||
```bash
|
||
go vet ./... && go test ./...
|
||
```
|
||
|
||
设计依据：[神识模型网关](../docs/architecture/shenshi-gateway.md)；错误码段 HJ-2xxx 见[契约词典](../docs/contracts/contract-glossary.md) §15。
|