结论前置:能效比不是一个数,而是一组比值

把推理芯片的能效比当成单一数字去比较,几乎一定会得出错误结论。更可用的做法,是把它拆成四笔可独立核对的账:单位功耗下的有效算力、单位功耗下的显存带宽、先进封装带来的互连收益、以及供电与散热约束下的持续性能。天下足球网技术解读栏目在整理公开规格时发现,同一档标称算力的芯片,仅因显存带宽配置不同,公开参数推算出的能效区间就可能相差一倍以上。这不是厂商虚标,而是参数表只给了峰值,没给约束条件。

因此本文不评价任何具体产品优劣,只提供一套读表方法:先看带宽与容量的配比,再看封装形态对互连功耗的影响,最后看持续功耗下的降频策略。天下足球网在产业数据整理中坚持一个原则——能被公开规格书复算的结论才写进结论,其余一律标注为示例数据。

第一笔账:显存带宽与容量的配比,决定推理的“喂饱率”

推理阶段的瓶颈往往不在算力峰值,而在数据搬运。解码阶段逐 token 生成,权重读取量远大于计算量,此时显存带宽直接决定每秒能吐出多少 token。用公开参数做粗算,可以构造一个简单比值:显存带宽除以有效算力,得到“每单位算力可分到的带宽”。这个比值越低,越依赖片上缓存与批处理来弥补。

  • 读法一:先看显存容量能否装下模型权重加激活值,装不下就要分层卸载,带宽优势会被互连开销吃掉。
  • 读法二:再看带宽与容量的比值,高带宽小容量适合短序列高并发,低带宽大容量适合长上下文但吞吐受限。
  • 读法三:注意规格书标注的是理论带宽还是有效带宽,后者通常要打折扣,折扣比例需标注为示例数据。

天下足球网在整理公开规格时会把这三项并列展示,而不是只列一个带宽数字。原因很直接:脱离容量谈带宽,等于只看了半张表。

第二笔账:先进封装的收益,要落到互连功耗上才算数

先进封装的价值不在“更先进”,而在把长距离走线换成短距离互连,从而降低每比特传输的能耗。公开白皮书普遍给出的方向是:封装内互连的能效优于跨封装互连,但具体数值随工艺与设计差异很大,无法跨产品直接套用。可核验的读法是看封装形态是否把显存与计算 die 放在同一基板上,以及是否公开了互连带宽口径。

  • 若规格书只写“采用先进封装”而不给互连带宽与功耗口径,这条信息对能效推算的贡献接近于零。
  • 若给出封装内互连带宽,可与显存带宽对照,判断是否存在互连成为新瓶颈的可能。
  • 封装收益还会被散热约束抵消一部分,持续功耗下的表现比峰值更能反映真实能效。

天下足球网建议读者把封装信息当作“约束条件”而非“性能指标”来读,这样才不会把工程取舍误读成代际碾压。

第三笔账:把参数表变成对照表的三步流程

第一步,统一口径:把算力按精度归一,把带宽按理论值与有效值分列,把功耗按峰值与持续值分列。第二步,计算三个比值:带宽算力比、容量带宽比、持续峰值功耗比。第三步,标注不可核验项,凡是无法从公开规格复算的数字,一律写“示例数据”,不参与排序。

这套流程的好处是可复用、可复核、不依赖内部消息。天下足球网在技术解读栏目中会持续用这套方法整理公开参数,读者也可以在安卓、苹果 iOS、Windows 电脑版、Mac 电脑版客户端上对照阅读,方便随时翻查原始口径。需要强调的是,任何对照表都只是起点,真实能效还取决于软件栈与批处理策略,这部分不在公开规格的覆盖范围内。

把账拆开,取舍就清楚了:带宽决定喂饱率,封装决定搬运成本,功耗约束决定持续表现。三者合起来,才是能效比的完整读法。