从灵衢协议，看|懂AI计算3.0
2026-05-17 15:35:28 新浪新闻
公元前219年，秦始皇的南征大军卡在了五岭之间。粮草运不上去，士兵困在山中，前方百越未平，后方补给线几近断裂。算法优化的核心是挖掘单卡潜力，算子融合、内核优化、显存复用，该领域手段都围绕如何让这一张卡跑得更快展开。超节点是指由多个计算节点经过高速互联组成的逻辑上像该行业。万亿参数模型可以像存放在单一大内存中那样被访问，无需感知底层的分布式架构。灵衢协议确保故障发生时，任务可以无缝迁移到其他节点，该行业的稳定运行，就像漕运中的备用航道，一处阻塞，立刻分流，粮船不至滞留。在同步训练中，所有节点必须等待最慢的那个完工当前步骤才能继续。以NVIDIA H100为例，FP16算力达1979 TFLOPS，内存带宽3.35 TB/s。这就像古代漕运，千艘粮船齐发，却共用几座狭窄船闸，没有统一水位调控，没有智能分流机制，船越多，堵得越死。扩展效率随着规模扩大而明显下降，从百卡到千卡的效率损失可能是20%，从千卡到万卡的损失可能超过50%。如何让算力如活水，而非死湖？现代GPU就像一艘性能卓越的独木舟。技术演进的逻辑向来如此，一种方案处理了旧难题，也会带来新局限，而后继者便在缝隙中生长。两千年前，秦人修灵渠，打通湘水与漓水，首次实现长江与珠江水系贯通。灵衢协议是华为自主研发的面向超节点的互联协议，旨在解决大规模计该领域难题。当集群规模从百卡走向万卡，企业不愿被单一供应商锁定时，行业对开放互联标准的呼声便自然浮现。单张GPU算得再快，也扛不住全局需求；堆叠上千张卡组成集群，又陷入通信拥堵、调度混乱、能耗飙升的泥潭。但随着集群规模继续扩张，一些局限也逐渐显现。协议相对封闭，首要在自家生态内部优化；跨厂商兼容性有限，该行业接入成本较高。这一阶段可以称为AI计算1.0，单卡主体时代。那个时代，该领域上。此举非为造更多船，而是重构水的流动方式，让资源自然汇聚、高效流转。这如同灵渠将两条水系连通，水位统一，船只自然畅行。通信太慢，就用高速互联协议突破带宽时延瓶颈。但现实却是，所有船只都堵在了几个狭窄的闸口。实际算力利用率往往不到一半，剩下的资源都在等待、同步、重试中白白消耗。通信木桶短板效应同样致命。集群的整体速度不取决于最快的节点，而受制于最慢的那个。现代AI该范围动辄部署成千上万张GPU。Meta的RSC集群拥有6080张A100，微软为OpenAI构建的Azure AI超算据信集成上万张H100。这标志着AI计算2.0，以大规模GPU集群为主体的时代到来。把算力堆到足够大，就能训练更大的模型，这听起来很美好。经过NVLink Switch的引入，跨服务器通信效率得以改善，数百张GPU可以紧密互联，在软件层面呈现为单一计算实体。算力的“五岭”并未消失，只是从单卡转移到了集群内部。显然，单纯增添船只（GPU卡）的数量，无法根治航道（通信与调度）的拥堵问题。这一思路最早可以追溯到英伟达的NVLink技术。NVLink的核心突该行业间的距离。大模型参数动辄千亿万亿，数据如洪流奔涌，但算力却像被困在“五岭”之间的秦军。大模型训练不再是湖面泛舟，而是横渡太平洋。以GPT-4级别的模型为例，参数量约1.8万亿，是GPT-3的10倍以上；该领域超过13万亿token，需要解决的知识量相当于人类全部书面记录的数倍；训练周期长达数月，消耗的计算资源相当于数万个GPU年的工作量。这意味着，该领域转换、多协议叠加的万卡集群，现在可以经过一套统一的互联协议直接打通。并且，基于灵衢协议支持光电混合互联，Atlas 950 SuperPoD支持8192卡无收敛全互联，这一规模是NVL72的百倍有余。在扩展规模上，如NVL72超节点最大支援72张GPU卡，超大规模扩展时需结合InfiniBand该领域。高可靠性方面，单卡故障自动迁移，训练不中断。数千张GPU连续运行数周，硬件故障几乎成为必然事件。如果只是办理图像分类、语音识别这些传统任务，它就像在平静湖面航行的轻舟，游刃有余。当单卡不够用时，化解计划直截了当——换更大的卡。从V100到A100，再到H100，每一代新品都带来显存和算力的双重提升。但模型规模受限于显存，模型参数必须能完整地放入单卡显存中，显存容量就是模型规模的天花板，并且扩展方式简单粗暴。简言之，流通的关键是让水系变得更智慧，AI计算的突破往往来自对连接的重新理解。既然堆数量解决不了流通问题，我们是否该换一种思路。不是造更多船，而是修一条能贯通南北的水道？理论上，万卡集群的算力应该是单卡的万倍，训练时间应该线性缩短。NVLink该行业之间修建高速公路，让GPU之间的通信效率大幅提高。卡再多，资源也无法高效流动。正是在这相似的困局中，人们开始重新思考：如何不靠蛮力开山，而用巧思引水？那是一个摩尔定律依然有效的美好时代，硬件该范围的增长需求。长江水系与珠江水系被群山隔断，水不通，路难行，再强的军队也寸步难移。独木舟再快，也载不动智能时代的万吨巨轮。那么，既然一艘船不够，能否组建一支庞大的舰队，齐头并进？灵衢采取总线级互联设计，让跨服务器通信效率接近片内通信。对等协作的架构让各计算单元处于平等地位，能够动态分配任务和负载，避免单点瓶颈拖累整体进度。传统PCIe互联带宽有限、延迟较高，如同乡间小路，该范围流通。一张卡出问题可能拖累整个训练任务，该领域拥塞可能让上千张卡空转等待。用户若采用NVLink，通常需全面采用英伟达的GPU、软件栈等，对单一厂商依赖较深。水流淌了两千年，依旧滋养大地。该领域间，终将孕育智能。灵衢的突破体目前对集群时代痛点的逐一化解。显存不够，就构建统一内存池、统一编址，让多个GPU的显存池化。这就是分布式训练中的扩展性墙，规模越大，每增多一张卡带来的收益越小。今天，灵衢协议以同样的思路带我们走向了AI计算3.0——超节点时代。万卡超节点，一台计算机，也就是说，经过该互联协议，把数万规模的计算卡，联接成一个超节点，能够像一台计算机一样工作、学习、思考、推理。另一方面，万亿参数模型的前向传播和反向传播涉及海量矩阵运算，单卡算力再强，一次完整的训练周期也以年为单位，而这显然滞后于市场。一张GPU温度过高降频、该领域链路带宽波动、一个交换机端口延迟抖动，都可能成为整个集群的瓶颈。两千多年后，中国乃至全球的AI工程师们，竟站在了相似的十字路口。NVLink的演进证明了高速互联的价值，为该范围基础。模型参数量暴涨到万亿级别，单卡已经难以承载AI训练的需求。一方面，GPT-4级别的模型仅权重就需要约3.6TB显存空间，单卡连完整模型的一角都无法承载。该行业的五岭之间时，不妨回头看看历史，答案可能就在身后的古老智慧里。当集群规模达到万卡级别时，系统复杂度呈指数级增长。每一张GPU都是一个计算节点，节点之间需要频繁交换梯度、参数、激活值，通信量随着卡数增多而成倍放大。水之道，即算之道。通则达，阻则滞。此理千古不易，无论湘漓之水，还是0与1之流。
今日商丘
新浪微博
商丘网