# midplatform **Repository Path**: North_Fan/midplatform ## Basic Information - **Project Name**: midplatform - **Description**: No description available - **Primary Language**: Unknown - **License**: Not specified - **Default Branch**: master - **Homepage**: None - **GVP Project**: No ## Statistics - **Stars**: 0 - **Forks**: 0 - **Created**: 2026-11-20 - **Last Updated**: 2026-11-22 ## Categories & Tags **Categories**: Uncategorized **Tags**: None ## README # 模型凭据中台 · Demo(FastAPI + Vue3 + MySQL/Redis) 真实模型 Key 只存在于中台;本地 dsh(Web / Desktop)通过树外插件拿到**可限额、可审计、可吊销的短期令牌**,推理流量全部经中台 LLM 网关代理。设计文档见 `../../Claw/dsh-model-credential-platform-design.md`。 ## 架构(v2,按需求实施) | 层 | 技术 | 位置 | |---|---|---| | 后端 | **FastAPI**(Python 3.12):控制面 + Token Service + LLM 网关 + mock 厂商 | `backend/`(uvicorn,127.0.0.1:8787) | | 存储 | **MySQL 8**(Docker `mpc-mysql`,宿主端口 13306):若依风格表 + 审计 + 证据 | 表:sys_dept / sys_user / sys_config / mpc_vendor / mpc_lease / mpc_audit / mpc_crack_evidence / mpc_crack_verdict | | 热状态 | **Redis 7**(Docker `mpc-redis`,宿主端口 16379):限流令牌桶 / 并发流 / 吊销黑名单(fail-closed) | `app/ratelimit.py` | | 管理端 | **Vue 3 + Element Plus**(Vite 构建,FastAPI 静态托管) | `frontend/` → `frontend/dist` | | 本地插件 | `@mpc/dsh-integration`(树外 Cordis 插件):轮换凭据 + **防破解哨兵** | `plugin/` | | dsh 接线 | profile 补丁(llm-pi-ai 路由指向网关)+ 插件装载 | `deploy/mpc-cordis.patch.yml` | ## 压测报告(2026-11-20,本机 Docker 环境) **工具**:`backend/loadtest.py`(异步压测器)。**场景**:TTL=30s(用户指定的高频换票压测口径;生产配 40-50 分钟时换票负载降约 100 倍)+ 200 个压测工号(LT000001..LT000200,RPM=1200/并发 50/日预算 5000 万)。 | 阶段 | 负载 | 结果 | |---|---|---| | A 登录风暴 | 200 工号并发登录(并发 50) | 41 RPS,p50 843ms / p95 2.3s(p50 偏高是 scrypt 口令哈希刻意拖慢,安全特性),0 错误 | | B 持续负载 | 30 并发 × 180s:高频换票(TTL=30)+ 网关对话混合(mock 厂商,70% 非流式 + 30% 流式) | **57 RPS 合计吞吐**:非流式 p50 384ms / p95 612ms,流式 p50 560ms / p95 760ms,**0 错误 0 5xx,后端全程存活** | | C 换票齐峰 | 200 工号同时登录+换票(并发 50) | 37 RPS 峰值,p95 2.7s,0 错误 | | D 真实厂商抽检 | 5 并发 × 20s 走 SenseNova | 0 错误,延迟由厂商主导(p50 4.4s) | **压测抓出并修复的三个真问题**(这就是压测的价值): 1. `db.py` 全局共享单条 PyMySQL 连接——多线程下协议错乱风险 → 改连接池(定长,见下) 2. 事件循环被同步 DB/Redis 调用阻塞 → 网关异步路径全部 `run_in_threadpool` 下放 + 共享 httpx 出站客户端(原每请求新建 AsyncClient 导致 loopback-wait 5.8s) 3. anyio 默认 40 线程被打满(sync startup 在线程池里配置限位器改不到真正的池)→ async startup 扩容到 200/进程 **500 用户口径的容量改造**(2026-11-20): - MySQL 连接改**进程内定长池**(`MPC_DB_POOL_SIZE`,默认 30),不再随线程池线程数增长;4 worker = 120 条连接 - `sys_config` 加**进程内 10s 缓存**(管理端保存即失效),网关每请求省掉 3-4 次配置查库 - 网关加**全局并发闸门** `mpc.globalConcurrency`(默认 500)+ 出站连接池 600(`MPC_OUTBOUND_MAX_CONNECTIONS`),防 500 人 × 每用户 5 并发把厂商连接打满 - 插件**策略/热更新/自毁指令 60s 轮询**(凭据轮换与哨兵扫描仍 10s),500 人策略接口流量从 50 RPS 降到 ~8 RPS - 策略热路径去掉每次 `CREATE TABLE IF NOT EXISTS`(`releases._ensure_schema` 进程内只执行一次) - 多 worker 启动幂等:DDL/种子全部 `IF NOT EXISTS` + `INSERT IGNORE` - 压测器支持 500 口径:先 `LT_USERS=500 seed_loadtest.py`,再 `LT_USERS=500 LT_LOGIN_CONCURRENCY=100 LT_SUSTAIN_CONCURRENCY=100 loadtest.py` **生产部署(500 用户)**:`uvicorn --workers 4`(网关无状态,MySQL/Redis 共享),MySQL `max_connections` ≥ 300(4×30+余量);MySQL/Redis 独立部署脱离本机 Docker;真实厂商出站延迟(p50 ~4s)是厂商侧的,中台自身开销仅 ~20-40ms。 ## 防破解机制(LLM 复核制 + 远端规则 + 混淆产物) 1. **扫描规则远端下发**:规则存 `sys_config`(`mpc.scanRules`,管理端可配,服务端验证正则可编译),policy 接口每次下发;插件运行时拉取并安全编译(长度上限/容错),内置规则仅作兜底——**本地不存在完整规则清单** 2. 插件每 10s 哨兵扫描(纯正则,零流量):补丁完整性(网关 baseURL 被改离中台)、敏感词(按远端规则匹配)、令牌形状(凭据库里必须还是中台 JWT);另挂 `agent/pre-step` 只观察用户输入(`source.kind='user'` 的文本 part,命中以 `prompt:user` 来源上报,不改写/不阻断);**策略/规则/自更新/自毁指令 60s 轮询**,本地扫描不受影响 3. 命中即上报 `POST /api/plugin/report` → **MySQL 只存命中的证据片段**(去重、截断 300 字,对话正文不落库) 4. 证据满阈值(默认 5 条,可配)→ 后台调用**已配置的真实大模型**分析证据 5. LLM 判定 `breach` → **远端销毁**(账号停用 + 若依软删 + 全部租约吊销黑名单)+ 插件轮询到指令后**本地安静自毁**;判定 `benign` → 不处理 **混淆发布物**(`npm run build` → `publish/`):esbuild 单文件打包(内联 yaml,零外部依赖)→ javascript-obfuscator 混淆(RC4 字符串加密、控制流平坦化、死代码注入、自防御、十六进制标识符,903KB 源码 → 不可读产物)。**诱饵段**(decoys)随产物发布:假厂商 Key、假备用网关、假直连逻辑——攻击者若将诱饵写入本地配置(命中 sk- 规则)或调用诱饵函数(decoy-touched 上报),都会进入监控链路 → LLM 复核 → 销毁。**破解者读到的是错误的东西,且错误本身会暴露他。** 实测(2026-11-20):5 条证据 → SenseNova 判定 breach → 四项销毁全部生效;远端追加规则(test-marker)→ 混淆插件下一轮即按新规则捕获植入标记;诱饵 Key 落地补丁 → decoy-marker + sk- 双规则捕获。 **内网分发**:`publish/mpc-dsh-integration-0.2.0.tgz`(302KB,纯混淆产物、零外部依赖)→ `dsh plugin --profile <名> add `(装出为拷贝)或推到内网 Nexus。 ## 运行步骤 ```bash # 0) 基础设施(Docker) docker run -d --name mpc-mysql -p 13306:3306 -e MYSQL_ROOT_PASSWORD=mpc-demo-123 -e MYSQL_DATABASE=mpc -v mpc-mysql-data:/var/lib/mysql mysql:8.0 --max-connections=400 docker run -d --name mpc-redis -p 16379:6379 redis:7-alpine # 1) 后端(Python 3.12);500 用户口径:4 worker × 默认 30 连接池 = 120 < max_connections 400 cd backend && python -m venv .venv && .venv/Scripts/pip install fastapi "uvicorn[standard]" pyjwt httpx pymysql cryptography redis MPC_DB_POOL_SIZE=30 MPC_OUTBOUND_MAX_CONNECTIONS=600 .venv/Scripts/python.exe -m uvicorn main:app --host 127.0.0.1 --port 8787 --workers 4 # 2) 管理端(首次) cd frontend && npm install && npm run build # FastAPI 自动托管 dist # 3) dsh 侧装配(首次) bash scripts/setup-dsh.sh # 建 mpc profile + 装插件 + 写补丁 + 造工号 dsh --profile mpc --no-open --port 8090 # Web 本地开发模式 # DSH Desktop:安装官方 Desktop 后 # <安装目录>\resources\runtime\cli\bin\dsh.cmd plugin --profile desktop add <本仓库 plugin 目录> # 再把 deploy/mpc-cordis.patch.yml 拷到 %USERPROFILE%\.dsh\profiles\desktop\cordis.patch.yml ``` 管理端 `http://127.0.0.1:8787/admin`(内置引导 admin / admin123)。用户=工号(如 500764),归属若依组织树;**配额(RPM/并发/日预算)、令牌 TTL(90s/5min/1h/2h 任配,改完下一次签发即生效)、防破解阈值、默认配额——全部管理端可配**。 ## 身份认证(插件 onboarding:RFC 8629 风格 Device Flow) 插件无 UI,"知道自己是谁"靠三通道(按优先级): 1. **长效设备凭据静默续租**:浏览器配对产物 `~/.dsh/.mpc-device.json`(0600,明文仅本机;中台只存 sha256),每次续租轮换、可吊销,是设备身份锚点 2. **凭据文件**(兼容路径):部署侧预置 `~/.dsh/.mpc-credentials.yaml` 时走口令登录(老部署平滑升级) 3. **浏览器配对 onboarding**(首次运行):`/api/device/code` 申请配对码 → 插件拉起系统浏览器 → 门户页 `/device?code=XXXX-XXXX` 输**工号+口令+配对码**确认 → 插件轮询 `/api/device/token` 签发租约+设备凭据 安全语义:口令只出现在浏览器会话(不落盘、不进补丁);设备 IP 绑定发生在插件轮询请求(与登录同款学习模式);配对码一次一用、默认 5 分钟过期(`mpc.devicePairingTtlSeconds`);设备凭据默认 30 天(`mpc.deviceGrantTtlDays`),吊销/过期即回到浏览器重新配对;`user_revoked` 照旧触发本地自毁。**厂商 API Key 全程不下发**——设备凭据+120s 短令牌就是"自己的密钥"。 ## 版本对齐原则 **以 DSH Desktop 内置 Harness 版本为准**(本机 0.2.2-rc.5,npm CLI 锁同版本)。Desktop 独占 `$DSH_HOME/profiles/desktop`,插件只能用 Desktop 自带 CLI 或应用内插件页管理;`$DSH_HOME/.credentials.yaml` 两边共享。 ## 实测过的性质 | 性质 | 结果 | |---|---| | Web 本地开发模式装插件 + 授权对话 | ✅ dsh web → llm-pi-ai → 凭据库短令牌 → 网关 → SenseNova 真实回复 | | Desktop 装插件 + 自动轮换 | ✅ Desktop 启动 5s 内完成登录/换票/写凭据库 | | TTL 管理端可配 | ✅ 改 90s 后下一次换票 expires_in=90,插件自动适配 | | 组织树 / 工号 / 配额可配 | ✅ 若依 sys_dept 结构树 + 工号用户 + 按人覆盖配额 | | 吊销即时失效 / 恢复自愈 | ✅ UI 内可见(AUTH 失败 → 自愈恢复) | | 日预算强制执行 | ✅ 超限 429 budget_exceeded,提额即时恢复 | | 防破解 LLM 复核 + 自毁 + 远端销毁 | ✅ 全流程实测(证据→判定→四项销毁) | | 浏览器配对 onboarding(Device Flow) | ✅ 空环境启动→拉浏览器→门户页确认→设备凭据轮换→换票写库;静默续租/旧凭据重放 401/未确认轮询 authorization_pending/错口令 401 均实测 | | 真实 Key 不下发 | ✅ 本地全盘无 `sk-`;令牌直连厂商 401;管理员也读不到明文 |