HARDWARE / 会发热的算力

四台机器
八张 P100

这不是机房渲染图。项目现在跑在四台机器上:两台 4×P100、一台 2×K80、一台 QQ 小主机。电费、散热和老平台,都是研究的一部分。

P100816GB HBM2 / 张
K80248GB 合计
FULL LOAD~3.2 kW四台一起跑
MONTHLY¥500–900含空调,估算
01 / MACHINES

现役
机器表

二手、ECC、被动散热改装。每一台都干过活。

机器硬件角色
LLM 推理服务器双路 E5-2680 v4 / 256GB DDR4 / 4×P100 16GBvLLM,Qwen-80B / DeepSeek-70B 量化推理
SNN 计算服务器X79 / E5-2690 v2 / 64GB DDR3 / 2×K80 24GBSpikingJelly、感觉编码、内稳态求解
QQ 桥接小主机惠普 400 G3 / i3-7100 / 8GB / 128GBLLOneBot,群入口
新塔式E5-2697 v2 / P9X79-E WS / 8×8GB DDR3 ECC / 4×P100 / 1300WSNN 扩容、渲染、训练试验
02 / WHY P100

合适的卡
已经够用

P100 有 16GB HBM2、732GB/s 带宽和 FP64,适合 LIF 状态仿真与量化推理。二手价格低,已有资产可以直接用。

代价是功耗、被动散热、老平台与 DDR3。新塔式第二版配置单,这次新买的配件合计 ¥3,409.20。

03 / SOVEREIGNTY

电费可以报销
主权不能报销

如果完全本地化只做一半,断网时系统就退化成只有脊髓的青蛙。能本地跑的绝不云端;性能可以下降,闭环不能断。

v7 的语言仍然依赖云 API,这是写在项目书里的债务,不是荣誉。

读项目书 ↗
HONEST COST

满载常开约 3.2kW。按每天 10 小时、电价 0.55 元/kWh,月电费约 ¥290;24 小时全开加空调,约 ¥500–900。没有融资,靠自费、赞助和热情。

04 / V3.2 LEGACY

项目书 v3.2 的
三台老服务器

这是 2026-08 项目书 v3.2 第 9.1 节写下的原始配置。后来的新塔式,是在这三台之外加的第四台。

服务器原始配置运行内容
LLM 推理服务器双路 E5-2680 v4(28C/56T)
256GB DDR4
4× Tesla P100 16GB
系统盘 512GB MSATA / 模型盘 128GB NVMe / 数据盘 500GB HDD
vLLM;Qwen-80B / DeepSeek-70B 量化 API
SNN 计算服务器X79 主板
E5-2690 v2(10C/20T)
64GB DDR3
2× Tesla K80 24GB(合计 48GB)
本地 256GB SSD
SpikingJelly 推理;感觉编码;内稳态求解
QQ 桥接小主机惠普 400 G3
i3-7100 / 8GB RAM / 128GB SSD
LLOneBot11;Redis;适配器
V3.2 / STARTUP ORDER

Redis(小主机)→ LLM 服务(P100)→ SNN 推理(K80)→ 感觉模拟器与内稳态模拟器 → LLOneBot11 → LangGraph 主脑。当时的目标是让四层架构在老硬件上先跑起来,而不是先买新卡。

V3.0.1 版本页 ↗ · 历史版本 ↗

← 返回项目记录