Heterogeneous Compute Orchestration & Trustworthy Inference Scheduling Platform
🏆 本仓库为 黑客松 / Demo 赛 参赛项目，聚焦「一键可跑的端到端演示 + 真实性能实测 + 边缘自治 / 可信校验的直观效果」。
WNIDIA 把分散在 云、边、端 的异构算力（GPU / NPU / CPU）纳管成一台可调度、可计量、可自证的可信推理超级计算机。当中心云中断或断网时，边缘节点自动承接并本地自治；恢复后计量回放、分文不差。
- 算力错配：数据中心 GPU 大量闲置，边缘侧却算力饥渴，同一时代两种浪费并存。
- 中心云依赖：断网或中心云中断即停摆，业务不可持续。
- 黑箱不可信：推理过程不可自证、无法逐字节校验，也无法按算力结算。
- 异构算力纳管：云·边·端三级调度，引擎选择器（
TensorFold > vLLM > Ollama）按负载 / 时延排名决策。 - 性能前端 × 实时后端：门户联动，「一键启动面板」同时点亮性能监测与实时调度。
- JEV 评测·实时联动：每次推理可触发可信校验（多模型裁决），通过率 / tokens / 收益实时跳动。
- 边缘自治：中心云中断 → 边缘自动承接；断网 → 本地自治；恢复 → 计量回放补记。
- 可信计量：每次推理真实计时、真实计量，落
data/jev_log.jsonl，可结算。 - 五维场景剧本：层级 · 切分 · 代际 · 可信 · 复用 五大维度 × 多场景剧本，门户一键打通。
详细设计与数据流见 docs/ARCHITECTURE.md。
flowchart TB
U[用户 / 应用] -->|推理请求| GW[接入网关 API :9000]
GW --> SCH[调度层 Scheduler]
SCH -->|引擎排名决策| ES[引擎选择器<br/>TensorFold > vLLM > Ollama]
ES --> ENG[推理引擎层<br/>Ollama / vLLM / TensorFold @ 云·边·端]
SCH --> JEV[JEV 可信校验层]
ENG --> JEV
JEV --> MET[计量层 Meter]
MET --> LOG[(data/jev_log.jsonl)]
ENG -.断网 / 中断.-> EDGE[边缘自治 Edge Agent]
EDGE -->|恢复回放| MET
SCH --> DASH[看板 / 门户 :8888]
JEV --> DASH
部署后访问（请将 <PUBLIC_IP> 替换为你的节点地址）：
- 看板 Dashboard：
http://<PUBLIC_IP>:8026（演示账号reviewer/previewpass） - API：
http://<PUBLIC_IP>:9026（请求头Authorization: Bearer previewtoken） - 门户 Portal：
/路径下的「性能前端 / 实时后端 / JEV 评测·实时联动 / 场景剧本」
一键启动（节点 GPU 模式）：
bash scripts/deploy_gx10.sh # MODE=gpu，tmux 6 窗口本地预览（Mac / 单机）：
MODE=preview bash scripts/deploy_gx10.sh端到端冒烟（验证「推理真跑 + JEV 落盘」）：
# 触发一次边缘场景剧本执行
curl -s "http://<PUBLIC_IP>:9026/admin/demo/run?scene=edge" | head
# 查看 JEV 实测报告（含真实 tokens / 时延 / 收益）
curl -s -H "Authorization: Bearer previewtoken" \
"http://<PUBLIC_IP>:9026/admin/jev/report" | head| BP 目标 | 实测结果 | 状态 |
|---|---|---|
| 异构算力纳管 | 云·边·端三级调度 + 引擎排名决策 | ✅ 达成 |
| 边缘自治 | 中断承接 / 断网自治 / 恢复回放 | ✅ 达成 |
| 可信校验 | JEV 校验层（演示默认 mock 可复现，生产可切 live） | 🟡 演示态 |
| 真实计量 | Ollama 0.33.2 真实推理 103 tok / 24.4s，收益实测 ¥0.0002 | ✅ 实测 |
| 性能达标 | 对照 BP 时延 / 吞吐目标 | ✅ 达标 |
完整对照表与指标见 docs/BP_ALIGNMENT.md。
wnidia/ # 仓库根：参赛文档 + 源码 + 证据
├── README.md # 本文件（项目首页）
├── R9开发报告.md # r9 开发报告
├── docs/ # 参赛文档
│ ├── ARCHITECTURE.md # 系统架构（含架构图）
│ ├── DEPLOY.md # 部署指南
│ ├── BP_ALIGNMENT.md # BP 目标 vs 实测逐项对照
│ ├── PITCH.md # 完整宣讲稿
│ ├── PITCH_4MIN.md # 4 分钟极速版
│ └── SLIDES.md # 逐页幻灯片大纲
├── src/ # r9 源码（已脱敏，真实 IP 以占位符替代）
│ ├── controller/ # API / 调度 / JEV / demo 后端
│ │ ├── main.py # 路由入口
│ │ ├── demo.py # 场景剧本与 JEV 报告
│ │ └── static/ # 性能前端 / 实时后端 / JEV 沙盒
│ ├── agent/ worker/ # 边缘 Agent 与工作节点
│ ├── scripts/ # 一键部署等脚本
│ ├── tests/ # 测试套件
│ └── skills/ # 调度 / 切分 / 纳管等能力插件
├── jev-live/ # JEV live 裁决开发成果（下一版，非提交版本）
└── evidence/ # 证据固化（哈希 + 时间戳凭证，见下）
源码位于
src/，与文档分离；其中的真实 IP 已替换为<PUBLIC_IP>等占位符。另有
jev-live/：JEV live 裁决的下一版开发成果（路线 A / 路线 B）， 不属于参赛提交版本 —— 详见 jev-live/README.md。
为证明「某时间点某内容已存在且未被篡改」，本仓库提供确定性打包 + SHA256 + 链上时间戳：
| 对象 | SHA256 |
|---|---|
| 源码快照（134 个文件） | 8cf80d228d01fd12ab9cf90f6ab56f04159256a88bb20efe9d5153bbbe3cf575 |
发布包 wnidia_v5.1_gx10_r9.zip |
607c67ef72b3cea26e9a014721fce846185e7d1e77c1958a5d84ea63db171c34 |
- 凭证：
evidence/*.ots（OpenTimestamps，比特币锚定，免费公开可验） - 可复现：打包是确定性的（文件按字节序排序、mtime/uid/gid/权限固定、gzip 头 mtime 归零），任何人重新打包都得到同一哈希
- 工具：
evidence/wnidia_notarize.py（打包 → SHA256 → 提交时间戳） - 发行版本：v5.1-r9
除参赛节点使用的 GB10 外，已提供 NVIDIA RTX 5090 部署变体（扩展路径）：
| 资源 | 说明 |
|---|---|
docs/DEPLOY_5090.md |
5090 部署说明：画像对比、与 GB10 差异、配置与验证清单 |
scripts/deploy_5090.sh |
5090 一键部署脚本（默认 vLLM，支持 FP4/FP8 量化） |
⚠️ 5090 变体依据公开规格编写，尚未在真实 5090 硬件上验证。 参赛提交版本仍基于 GB10。对外请勿把未验证的多硬件能力表述为"已实现"。
仓库内置两个可复用工具（详见 docs/SELFCHECK.md）：
| 工具 | 用途 |
|---|---|
scripts/sanitize_check.py |
推送前扫描公网 IP / 端口 / 用户名 / 密钥 / 邮箱泄漏，支持 --fix 自动替换为占位符 |
scripts/selfcheck.py |
三层 bug 自查（语法 / 配置 / 运行时）+ 核心功能保护断言 |
两者已接入 CI（.github/workflows/selfcheck.yml），push / PR 时自动执行。
更多图示见
assets/（系统架构 / CSU 模块 / 可信固化边界）。
MIT —— 见 LICENSE。