AiTimes 智能时代

Appearance

原文来源：图灵沿界 原文链接：https://mp.weixin.qq.com/s/PX6xuOGm2BVPNYiWz8nIUA 本文为原创整理发布，转载请注明出处。

2026年6月24日，X上一条帖子把硬件圈和AI圈同时点着了。

照片场景不像你见过的任何数据中心。没有洁净的冷通道，没有标准机柜，没有恒温恒湿——只有车库角落四台服务器挤在一起，密密麻麻的GPU背板、粗短的MCIO线缆、密集的风扇阵列。32张RTX 3090，全部在线。

配文很短：768GB VRAM，InfiniBand互联，太阳能+电池供电。

6346个赞，79万浏览，587条回复。NVIDIA官方账号点了赞。

这条帖子的主人叫 Max Zanoga，X账号 @zanoga，粉丝不过七千多。他花两年时间，从一张二手RTX 3090起步，在自家车库里搭出了可能是目前公开可见的最大算力个人AI数据中心。

Zanoga 集群实拍

第一张卡之后，就回不了头了 ​

Zanoga的说法很坦率："事情总是这样开始的。"

两年前，他买了第一张RTX 3090。几周之内，VRAM就不够用了。立刻买了第二张。

两张卡跑大模型，很快又捉襟见肘。于是他上了第三张、第四张。四张卡跑起来的时候，他第一次清晰地意识到——"我知道自己想要更多。"

到第六张时，撞上了第一堵硬墙：PCIe通道不够了。

消费级主板根本喂不饱六张GPU。Zanoga换了Supermicro H12SSL-i，又换到ASUS ROMED8-2T——这块板子有足够的PCIe插槽和bifurcation能力，能同时带多张卡。第一台6-GPU服务器搭起来的那一刻，他已经在想第二台了。

扩容历程

两台服务器、12张3090，软件踩进地狱 ​

两台服务器、12张3090，硬件搭好了。接下来是互联。

他先试了 llama.cpp 的 RPC 走普通以太网。延迟惨不忍睹。对 tensor 并行这种跨卡切分模型层的操作来说，以太网 RPC 的延迟直接让性能崩盘。

Zanoga开始翻大型数据中心的技术资料，第一次认识了 InfiniBand。这是一种 HPC 领域的专用低延迟互联协议，延迟比以太网低一个数量级，支持 RDMA 零拷贝。跑多机 tensor 并行，这玩意儿是理想解。

他在 eBay 上淘了一台 Mellanox SB7800——36口 100Gb EDR InfiniBand 交换机，配几张 ConnectX-6 网卡。网络设备总共花了约 4000 美元。

配置过程是他口中"仅次于软件的噩梦"。IB 交换机的固件、子网管理器、端口模式——每一样都可能让你系统归零。他的忠告是："拿到交换机后，立刻克隆你的 SSD。"先把系统备份好，再去折腾 IB，否则固件刷坏后的恢复会让你想死。

ConnectX-6 网卡发热量巨大，他不得不 3D 打印专用风罩，外挂 9733 型号暴力风扇单独伺候。

软件才是最大的坑 ​

vLLM 做推理引擎，Ray 做分布式调度——这是目前 homelab 跑多机推理的主流组合。但把它们在 Docker 里配通，Zanoga 用了超过 100 种配置组合。

Ray 的地址发现、NCCL 的 InfiniBand 环境变量、CUDA 版本、vLLM 分布式 executor 后端、tensor parallel size 跨节点怎么设——每一个变量都是一颗雷。调试了无数个日夜。

"这是我离放弃最近的一次。"

他终于跑通一个小模型输出的那一刻，才决定这事真的做得成。当天就开始建第三台服务器。

18张卡的硬件崩盘：riser和电源双双翻车 ​

三台服务器、18张3090——规模上去了，硬件开始集体暴雷。

消费级"gamer"延长线（20到60cm那种）在8卡以上的密度里极其不稳定。AER错误频发，GPU动不动掉线。Zanoga把所有riser换成了 ADT-Link 的 MCIO 转接卡——服务器级的 SFF-TA-1016 方案，信号完整性远好于消费级延长线。他还把 SATA 电源线直接改焊到 GPU 供电线上。

电源也在随机崩溃。他用的 Dell D2400E-S0 服务器冗余电源——二手便宜，但"完全不可预测地重置某张 GPU 的供电"。换了 Super Flower Leadex 2000W 工业电源后，集群才稳定下来。

单机8张3090，每张TDP 350W，加上CPU、内存、风扇、IB网卡，一路轻松拉到2kW以上。电源这个环节没有容错空间。

硬件扩容

32张完成，然后接上太阳 ​

2026年初夏，Zanoga完成了第四台8-GPU服务器的搭建。32张RTX 3090，768GB总显存，一个集群。

跑满负载大约 10kW——相当于几台家用中央空调24小时全速运转。如果全走电网，电费账单会非常恐怖。而且他追求的是数据留在本地，以及能源独立。

Zanoga的选择是 太阳能+储能电池。

他配置了一套完整的离网/并网混合系统：

  • 太阳能阵列：主阵列20块板，峰值约12kW，另有2.5kW和4kW附加阵列
  • 逆变器：Deye SUN-16K-SG01LP1-EU，16kW单相混合逆变器，3路MPPT，支持电池、电网、发电机三模切换
  • 电池：2组 Seplos Mason-280L-N，每组16.076kWh、51.2V、314Ah，LiFePO4电芯带主动均衡BMS，轮式可移动

晴天时，12kW峰值阵列完全覆盖10kW负载，多余电力充入两组共32kWh的电池。电池撑过夜间和阴天，发电机作为最后的保险。

"电费账单：零。"

10kW的AI集群不花一分钱电费。这件事的冲击力，比32张卡本身还大。

太阳能供电系统

社群沸腾 ​

帖子发出后，反应从羡慕到质疑到自嘲，什么都有。

NVIDIA官方账号评论了一个"👀"。

有人问他靠这个赚钱吗，他说不——"纯属上瘾。"

中文社区也注意到了。@huihoo 转发时说："这可能是当前最大算力的 Home AI DataCenter。"

中文社区转发

质疑声同样直接。有人算"半足球场太阳能板"，Zanoga澄清是house加车库的屋顶规模，靠电池缓冲。有人问为什么不换更新的40/50系列或AMD卡——3090在二手市场24GB显存、每张550-650美元的性价比，目前没有替代品。还有人追问 token/s 跑分，他承诺会发 benchmark。

Reddit 的 r/LocalLLaMA 社区早有一批"走在半路上"的人。有人晒自己9张3090的homelab，有人分享4张卡的散热教训。论坛共识和Zanoga的经验完全吻合：riser是雷区，电源不能省，软件调参比买卡难十倍，多机互联没InfiniBand就别想了。

Reddit社区讨论

40万的硬件，零元的电费 ​

Zanoga公开过粗略的成本：

  • GPU、CPU、主板、内存、NVMe、电源：约 3万美元
  • 网络设备（InfiniBand交换机+网卡+线缆）：约 4000美元
  • 太阳能系统（电池、逆变器、支架等）：不超过 1万美元

硬件总投入约 4-5万美元。这个数字买不了一台保时捷，但买了一整座私人AI数据中心。

他做这一切的出发点很纯粹：跑模型。目前在跑 Kimi K2.6，计划把每款能塞进768GB显存的顶级开源模型都试一遍。每天海量数据处理，数据不离开车库，隐私完全在自己手里。商业化、接算力单、做内容——这些都不在他的清单上。

每月数十亿token的处理量，如果走云API，长期账单会把自建硬件的成本轻松碾过去。边际成本归零的那一天，就是自建集群的回本日。

不止是一个人的车库传奇 ​

Zanoga的32张3090集群，踩中的是2026年一条越来越粗的技术暗线：

本地AI算力扩张，正在从云端悄悄延伸到车库和屋顶。

YouTube和Reddit上，4卡、6卡、9卡3090/4090的homelab构建视频层出不穷。r/LocalLLaMA从两年前"单卡7B模型"的讨论，进化到现在的"多机70B+推理怎么搭"。模型侧小模型本地化和大模型并行推理的需求并存，都需要硬件底座。

太阳能+电池让高功耗本地AI在电价高企或电网不稳的地区变得可行。Deye和Seplos这类成熟ESS方案，把"自己发电跑AI"从概念变成了产品化操作。Zanoga证明了一条路走得通——每天真实负载在跑，概念验证的阶段早过了。

他已经在规划 v2 rig。根据两年踩坑经验做硬件调整，加上真正的benchmark数据和更详细的太阳能配置。

个人AI算力的天花板，被一个车库里的极客又往上推了一截。

如果觉得这篇文章有意思，欢迎点赞、在看、转发给同样对本地AI算力感兴趣的朋友。

原文链接： https://mp.weixin.qq.com/s/PX6xuOGm2BVPNYiWz8nIUA

版权声明： 本文为 AiTimes 智能时代 原创整理发布，转载请注明出处。