HARDWARE / 会发热的算力四台机器
四台机器
八张 P100
这不是机房渲染图。项目现在跑在四台机器上:两台 4×P100、一台 2×K80、一台 QQ 小主机。电费、散热和老平台,都是研究的一部分。
P100816GB HBM2 / 张
K80248GB 合计
FULL LOAD~3.2 kW四台一起跑
MONTHLY¥500–900含空调,估算
01 / MACHINES现役
现役
机器表
二手、ECC、被动散热改装。每一台都干过活。
| 机器 | 硬件 | 角色 |
|---|---|---|
| LLM 推理服务器 | 双路 E5-2680 v4 / 256GB DDR4 / 4×P100 16GB | vLLM,Qwen-80B / DeepSeek-70B 量化推理 |
| SNN 计算服务器 | X79 / E5-2690 v2 / 64GB DDR3 / 2×K80 24GB | SpikingJelly、感觉编码、内稳态求解 |
| QQ 桥接小主机 | 惠普 400 G3 / i3-7100 / 8GB / 128GB | LLOneBot,群入口 |
| 新塔式 | E5-2697 v2 / P9X79-E WS / 8×8GB DDR3 ECC / 4×P100 / 1300W | SNN 扩容、渲染、训练试验 |
02 / WHY P100合适的卡
合适的卡
已经够用
P100 有 16GB HBM2、732GB/s 带宽和 FP64,适合 LIF 状态仿真与量化推理。二手价格低,已有资产可以直接用。
代价是功耗、被动散热、老平台与 DDR3。新塔式第二版配置单,这次新买的配件合计 ¥3,409.20。
03 / SOVEREIGNTY电费可以报销
电费可以报销
主权不能报销
如果完全本地化只做一半,断网时系统就退化成只有脊髓的青蛙。能本地跑的绝不云端;性能可以下降,闭环不能断。
v7 的语言仍然依赖云 API,这是写在项目书里的债务,不是荣誉。
读项目书 ↗HONEST COST
满载常开约 3.2kW。按每天 10 小时、电价 0.55 元/kWh,月电费约 ¥290;24 小时全开加空调,约 ¥500–900。没有融资,靠自费、赞助和热情。
04 / V3.2 LEGACY项目书 v3.2 的
项目书 v3.2 的
三台老服务器
这是 2026-08 项目书 v3.2 第 9.1 节写下的原始配置。后来的新塔式,是在这三台之外加的第四台。
| 服务器 | 原始配置 | 运行内容 |
|---|---|---|
| LLM 推理服务器 | 双路 E5-2680 v4(28C/56T) 256GB DDR4 4× Tesla P100 16GB 系统盘 512GB MSATA / 模型盘 128GB NVMe / 数据盘 500GB HDD | vLLM;Qwen-80B / DeepSeek-70B 量化 API |
| SNN 计算服务器 | X79 主板 E5-2690 v2(10C/20T) 64GB DDR3 2× Tesla K80 24GB(合计 48GB) 本地 256GB SSD | SpikingJelly 推理;感觉编码;内稳态求解 |
| QQ 桥接小主机 | 惠普 400 G3 i3-7100 / 8GB RAM / 128GB SSD | LLOneBot11;Redis;适配器 |
V3.2 / STARTUP ORDER
← 返回项目记录Redis(小主机)→ LLM 服务(P100)→ SNN 推理(K80)→ 感觉模拟器与内稳态模拟器 → LLOneBot11 → LangGraph 主脑。当时的目标是让四层架构在老硬件上先跑起来,而不是先买新卡。