前两天看到英伟达那则公告,黄仁勋辞去总裁、CEO和董事职务,CFO Colette Kress接手临时CEO。说实话第一反应是“这公司要变天了”,但冷静下来一想,对像我这种自己攒推理集群的散户来说,最该关注的不是谁上位,而是之前传闻里提到的Rubin Ultra延期和Kyber机架改动。大摩路演里黄仁勋否认了Rubin Ultra延期,说按计划明年推,但Kyber机架架构调整了。这玩意儿才是真正的痛点。
我去年底刚搞完一个小型推理集群,主要是跑开源LLM的推理服务,规模不大,就32张A100和十几张H100混着用。当时布线时最头疼的就是供电。标准机架通常走380V直流或480V交流,但H100单个节点峰值功耗能到700W,32张卡加上交换机、存储,单机架功率密度轻松破20kW。我一开始想用800V直流供电,结果发现国内机房能提供800V直流母线的供应商极少,大部分只走380V或240V。最后妥协成480V交流转直流,效率降低了大概3-4%,多出来的热还得额外风冷。现在英伟达那边要推800V直流,对大型数据中心是利好,但对中小玩家来说,意味着要么改造配电柜,要么等新规格的PDU上市,周期至少半年。
另一个改动是光互连。老架构里机架间通信主要靠铜缆,距离一长信号衰减大,带宽受限。Kyber机架据说要集成光互连,直接走光纤。这玩意儿对推理延迟改善明显,尤其是跨机架做张量并行的时候。我之前用H100跑Llama 3 70B,跨机架通信延迟占推理总延迟的15%左右,换成光互连应该能压到5%以下。但光模块的到货周期现在是个问题,我认识的做光模块的朋友说,800G光模块交期已经排到12周以上,英伟达自己又囤了不少,小厂想拿货得加价。
机架功率密度这块,Rubin系列传闻是单GPU功耗可能到1500W,比H100翻倍还多。这意味着散热方案得从风冷转液冷。我现在的集群是风冷,夏天最热时进风口温度35度,GPU温度能飙到85度,风扇转速拉满噪音堪比吸尘器。如果下一代卡真到1500W,风冷根本压不住,必须上冷板式液冷。液冷改造包括管道、水泵、冷板、CDU,一套下来成本至少是风冷的1.5倍,而且机房需要有排水和防漏设计。我算过一笔账,如果全换液冷,现有集群的改造费用接近新购一半卡的价格,所以暂时只能观望。
这三个改动——800V供电、光互连、液冷——对自建集群的影响是实打实的。到货周期上,新架构卡可能要等8-12周,配套的供电和散热设备可能更久。大摩路演里提到管理层对增长偏乐观,单季营收逼近1000亿,说明需求还在涨,但供应链瓶颈没解决。小玩家要么加钱插队,要么等两三个季度后产能爬坡。
最后说句实在的,技术路线调整是常态,但每次改架构都等于重新布线、重新算散热、重新调网络,成本和时间都不小。
随便看看
- 说说自己这些年的约炮经历(六)
- [开盘] [技术区大乐透]第25051期 投注截止时间:2025-
- 中国13省把406亿元养老金挪用了,背后真相触目惊心!
- [虎哥代发]申请加入坦克车队[10P]
- [欧美] Norma A[20P]
- [欧美] Cara Mell[20P]
- [亚洲] 白白嫩嫩的身材超级好[39P]
- [冷兔趣闻]果然爱看热闹是不分物种的!
- 人参鹿茸治疗阳萎 ---毛泽东的私生活
- 天使亚梦:低调出道的潜力股,值得关注的宝藏女孩
- 必须后入[16P]
- 要明白:很多时候不是缺钱困住了你,而是认知不够
- [亚洲] 删
- [欧美] 迷人姐妹花 [20P]
- 无套插入舅妈的骚逼里[30P]
- [欧美] Petite Tease Nikia [26P]
- [法广] 38军不能向学生与市民开枪! “抗命将军”受
- [Portal CBS ] 修复的阿尔忒弥斯II号月球火箭将返
- 《亮剑》的结局,李云龙遭受迫害开枪自杀
- 女人看起来真是太完美了,皮肤够白,咪咪够大,真好啊[23P
- 蜂毒对癌症的研究
- 教授?禽兽?
- [每日动图]20250605[140P]
- 又漂亮身材又好的妻子[19P]
- [亚洲] JVIDEve – 未能逃脱金属手铐[57P]
- 特朗普发出威胁言论后 伊朗代表团暂停谈判
- [写真] 妖娆妩媚的OL女人[21P]
- 性感少妇看起来非常淫荡,她想知道你是如何盯着她淫荡
- 从恶意不买房者,到故意不生三胎者
- [亚洲] 性感的内衣小姐姐[38P]
- [亚洲] 诱人的护士小姐姐[29P]
- [欧美] Alice Shea[20P]
- 每天一分钟,知晓天下事!2026年6月21日
- 长腿大学生[11P]
- 301医院不在名单内!北京一纸公告炸出“黑幕”
- 关于法国学潮的简中通稿和实际有多大的差别,天差地别
- 认知修行2025年2月25日
- [亚洲] 让我服务主人吧 [20P]