结论前置：带宽利用率每低一成，能效比往往先掉两成

在S16英雄联盟总决赛技术解读栏目梳理的公开资料中，一个反复出现的现象是：推理芯片的标称算力与实测能效比之间存在明显落差，而落差的主要来源并非计算单元，而是显存带宽利用率。换句话说，芯片买得起算力，却常常喂不饱数据。本文用可复算的数据口径，把这件事拆开来看。

需要说明的是，本文引用的规格参数来自厂商公开规格书与行业组织白皮书，涉及具体数值的部分标注为示例数据，仅用于说明分析方法，不作为选型依据。

一、带宽利用率的分母与分子：先把口径统一

讨论显存带宽利用率，第一步是统一口径。常见误区是把峰值带宽直接当作可用带宽，忽略了协议开销、刷新开销与访问模式带来的有效带宽折损。

  • 峰值带宽：规格书标注的理论上限，通常按位宽乘以等效频率计算。
  • 有效带宽：在典型访问模式下实测可达的带宽，一般低于峰值。
  • 利用率：有效带宽除以峰值带宽，反映数据通路被真正用起来的比例。

在S16英雄联盟总决赛技术解读的评估框架里，我们建议同时记录三组数据：峰值带宽、典型负载下的有效带宽、以及能效比（每瓦可完成的推理任务量）。三者放在一起，才能解释为什么两颗标称算力接近的芯片，实际能效比会拉开差距。示例数据表明，当有效带宽利用率从七成降到六成时，能效比的下滑幅度往往超过一成，因为计算单元的空转同样耗电。

二、能效比被拖累的三条路径

带宽利用率不足并不会直接体现为算力下降，而是通过三条路径传导到能效比。

  • 路径一：计算单元等待。数据供给不足时，乘加阵列处于等待状态，功耗不降但产出减少。
  • 路径二：缓存层级反复搬运。片上缓存容量与替换策略不匹配时，同一份数据被多次搬运，额外消耗互联功耗。
  • 路径三：批处理粒度失配。批大小与带宽节奏不匹配，导致突发访问与空闲交替出现，平均能效被拉低。

这三条路径在S16英雄联盟总决赛技术解读的实测讨论中经常同时出现。工程上更有效的做法不是单纯堆高标称带宽，而是先定位哪条路径占主导，再决定是调整数据布局、扩大片上缓存，还是改变批处理策略。

三、可复算的评估流程：四步走

为了让数据解读具备可复现性，我们建议采用四步评估流程，每一步都留下可核验的记录。

  • 第一步，锁定负载。明确推理任务的输入尺寸、批大小与精度格式，避免跨负载比较。
  • 第二步，采集有效带宽。用公开可得的带宽测试方法记录典型负载下的实际值。
  • 第三步，折算能效比。以每瓦任务量为统一单位，记录功耗采集条件。
  • 第四步，做敏感性分析。改变批大小与数据布局，观察能效比曲线的拐点。

在S16英雄联盟总决赛的读者反馈中，不少工程师提到第四步最容易被省略，但它恰恰决定了结论是否稳健。拐点位置往往比单点数值更有参考价值，因为它揭示了带宽与算力之间的匹配区间。

四、对互联拓扑与封装选择的启示

把带宽利用率纳入评估后，互联拓扑与封装选择的优先级会发生变化。当有效带宽受限于片间互联时，提升单芯片带宽的收益有限，反而是缩短数据搬运距离、提高封装内互联密度的方案更具性价比。这也是Chiplet讨论中常被忽略的一面：拆分的价值不只在于良率与成本，还在于把高带宽需求放在更近的物理距离上。

在S16英雄联盟总决赛技术解读的后续选题中，我们会继续用数据口径拆解互联拓扑对能效比的影响。对工程师而言，先统一口径、再谈结论，比追逐单一标称参数更可靠。