GPU 与 AI 加速卡功耗测试 从几百瓦到千瓦级怎么测?
2026-10-20 14:24:54

跑一轮 AI 推理,软件显示 GPU 功耗 500W。这个数字能帮助我们判断负载,却还回答不了供电调试中的一些具体问题:任务启动时,电流冲到了多高?电压有没有下跌?主板插槽和辅助供电线各承担了多少?换一组参数后,完成同样的任务究竟省不省电?

这些问题会影响电源选型、散热设计,也会影响加速卡在真实服务器里的稳定性。尤其当测试对象从几百瓦的 PCIe 插卡,扩展到千瓦级加速器模块时,首先需要理清测量位置、供电接口和仪器承载能力。

这篇文章从实验室常用的方法讲起,再用 Quarch PAM 的实物说明,介绍怎样把一张卡的各路输入功耗测清楚。

机箱内 GPU 功耗测试安装示例

图 1 机箱内的安装示例。显卡辅助供电路径中串入了测量组件,测试时仍由原系统电源供电。

先分清整机功耗和单卡功耗

业内测试 GPU 和 AI 加速卡功耗,常见方法各有侧重。

测量方法

能了解什么

使用时要注意什么

驱动工具或板载遥测

负载变化、功率限制和日常运行状态

查看数据的更新周期、平均窗口,以及测的是整板还是某个模块

服务器交流输入端的功率计

整机输入功率和完成任务消耗的电能

结果包含 CPU、内存、风扇和电源转换损耗等,不能直接当成单卡功耗

示波器配电流探头或分流器

电流突变、电压跌落及短时事件

需要选择量程和带宽,处理探头校准、多路接线与时间对齐

串接式功耗分析夹具

卡上各路输入的电压、电流和功率变化

需要同时覆盖插槽与辅助供电,并匹配接口和持续电流能力

例如,NVIDIA 的 nvidia-smi 文档将 Average Power Draw 定义为过去一秒的整板平均功率,并说明了适用设备范围。这样的数据适合运行监控,但平均后的曲线会弱化短时变化。把查询命令执行得更频繁,也不等于改变板载传感器本身的采样机制。[1]

如果目标是研究快速变化的电流,示波器是一种常用工具。可以用电流探头,也可以在供电路径中串入低阻值分流器,通过测量其压降计算电流,再结合电压得到功率。分流器本身会带来压降和发热,测量方案需要考虑这些影响。[2]

而在需要反复运行不同模型、持续记录较长时间的测试中,工程师还要解决另一件事:怎样把各路数据稳定地采下来,便于重复比较。

单卡输入功耗要把各条供电路径加起来

常见 PCIe GPU 插卡有两处取电来源:底部金手指连接的主板插槽,以及卡上额外的辅助供电插座。辅助供电通常简称 AUX Power。

只测辅助供电线,会漏掉插槽供电;只测插槽,又会漏掉高功耗卡的大部分输入。测试整板输入功耗时,应在同一时间轴上,将各条供电路径的功率相加。

单卡输入功率 = 插槽各供电轨功率之和 + 辅助供电功率。

每一路功率都应使用实际测得的电压乘以电流。例如某一时刻,插槽合计提供 40W,辅助供电提供 460W,两者相加才是该时刻约 500W 的单卡输入功率。这里的数值仅用于说明计算方法。

这个测量位置包含卡上供电转换、显存及其他板上部件的消耗;它与 GPU 核心功耗、服务器交流输入功耗分别对应不同的范围。比较两份报告前,先确认双方测量的是同一个位置。

Quarch PAM 怎样接入实际系统

PAM 是 Power Analysis Module,即功耗分析模块。Quarch 的这套方案由 PAM 控制器、PCIe 插槽测量夹具,以及与卡上供电接口匹配的 AUX 测量夹具组成。夹具负责接入被测设备的供电路径,控制器负责与电脑通信并配合软件记录数据。[3][4]

可以把整套连接理解为两条供电路径:主板插槽经过 PCIe 夹具连接到加速卡;系统电源的辅助供电线经过 AUX 夹具,连接到卡上的辅助供电插座。AUX 夹具再通过配套连接线与主夹具连接,主夹具接入 PAM 控制器。

GPU 插槽夹具 AUX 夹具与 PAM 控制器的连接实物

图 2 整套装置的实物示例。显卡下方是 PCIe 插槽夹具,上方黑色盒体是 12VHPWR 辅助供电测量组件,右侧银色盒体是 PAM 控制器。照片主要展示组件关系,实际安装还需完成相应的电源及通信连接。

GPU 的大功率供电仍来自主板和系统电源。 银色 PAM 控制器承担控制与数据通信功能,不能把它当成给显卡输出数百瓦电力的电源。[3]

这种串接方式适合在原有主机、驱动和工作负载下观察卡的输入行为。夹具提供经过校准的电压、电流测量;对标准接口的卡,通常可以通过配套夹具接入,减少自行拆线、焊接测量点和逐路布置探头的工作。[4][5]

安装后应先确认 PCIe 链路速率、通道数和任务性能符合预期,同时检查卡的机械支撑、线束连接和散热。这样得到的功耗曲线,才能对应原本希望研究的运行状态。

三路 8 pin 辅助供电怎样测

第一类 AUX 方案对应带多个 PCIe 8-pin 辅助供电插座的卡。Quarch 将其中一种版本称为 Triple PCIe 8 Pin AUX,也就是三路 PCIe 8-pin 辅助供电测量组件。

在 Gen5 GPU/AI 产品页面中,相应套件料号是 QTL2983/KIT_ATX3,包含 PCIe x16 插槽夹具和三路 8-pin AUX 夹具。[4]

三路 PCIe 8 pin AUX 夹具与主夹具

图 3 三路 8-pin 方案。上方为 PCIe 插槽夹具,下方为辅助供电测量组件,两者通过配套线连接。白色线束连接辅助供电路径,接线时按组件上的 PSU 和 Device 标识确认方向。

三路接头的意义,是让多组辅助供电经过测量组件接入卡端,避免只测其中一根线后,用估算代替整卡输入。

不过,**有三个接头,不等于软件一定提供三个独立的辅助供电电流通道。**QTL2983 技术手册列出的是一个 +12Vaux 测量通道。若测试目标是比较每个插座或每根导线的电流分配,需要另行确认测量配置。[6]

三路 PCIe 8 pin AUX 测量组件近照

图 4 三路 8-pin AUX 组件近照。选型时要同时核对接口数量、线束和每条路径允许的电流。PCIe 显卡供电与 CPU 用的 EPS 供电应按各自接口定义连接。

对于工程师来说,这一方案的便利在于:插槽和辅助供电的数据可以放在一起分析,既能得到整卡输入功耗,也能观察负载变化时,两处供电各自怎样响应。

12VHPWR 辅助供电怎样测

第二类方案用于 12VHPWR 辅助供电路径。它在电源线和卡端供电插座之间串入对应的 AUX 组件,再与插槽夹具配合,记录辅助供电和插槽供电。

Quarch 产品页面将这一 Gen5 套件列为 QTL2983/KIT_12VHP。[4]

12VHPWR AUX 夹具与 PCIe 主夹具

图 5 12VHPWR 方案。与三路 8-pin 版本相比,辅助供电连接形式发生了变化;同时测量插槽和辅助供电的思路相同。

看图时可以留意盒体上的 PSU → Device 标识,它用于说明电源侧与设备侧的连接关系。具体使用哪一套线束,应以夹具版本和被测卡的接口要求为准;涉及 12V-2x6 等接口版本时,也应确认兼容性。

高电流测试中,连接器、线束和散热同样属于测量条件。测试前应按说明书完成连接,避免因接触、布线或散热状态变化,给结果增加额外变量。

12VHPWR AUX 测量组件接口细节

图 6 12VHPWR AUX 组件细节。PAM Fixture 插座用于与配套夹具连接;组件本身串接在显卡的辅助供电路径中。

连续记录能帮助工程师看清哪些问题

Quarch GPU/AI 夹具标注的模拟信号基础采样率为 250,000 次/秒,对应每 4μs 一个采样点;复位、唤醒等数字边带信号的采样率为 1MHz。[4] 这让工程师可以观察较细的输入功耗变化,并将其与控制信号的状态对应起来。

例如,某次任务启动后出现异常,可以同时检查输入电压、电流和 PERST# 复位信号,缩小排查范围。电压下跌和复位先后出现,是排查线索,还需要结合驱动日志等信息判断原因。

这里也要区分采样率与带宽。4μs 的采样间隔并不代表能完整还原任意宽度的尖峰;若关注更快的边沿或高频纹波,应根据事件持续时间、模拟带宽和探头条件选择仪器。

对于较长的 AI 任务,持续记录还有另一层价值。工程师可以先看整个过程,再放大任务加载、计算和空闲等阶段,避免只凭某个瞬间的屏幕读数作判断。PAM 数据手册说明支持长时间记录,记录规模还取决于电脑存储和配置。[5]

Quarch Power Studio,简称 QPS,提供曲线查看和计算通道。例如,在保留原始记录的同时,增加一条 100ms 窗口平均曲线,就能分别查看局部变化与整体趋势。QPS 还支持 CSV 导入和多文件合并,便于进一步处理测试数据。[7]

把功耗和完成任务的时间一起看,往往更有意义。 假设同一任务、相同输出要求下,配置 A 平均功率为 500W,用时 10 秒;配置 B 平均功率为 450W,用时 12 秒。则两者耗能分别是:

配置

平均功率

完成时间

本次任务耗能

A

500W

10秒

5000J

B

450W

12秒

5400J

以上为计算示例,不是某款 GPU 或 Quarch 客户的实测结果。两组数据使用相同的测量位置,并覆盖完整任务时间。

配置 B 的平均功率较低,但由于运行更久,本次任务消耗的电能更多。实际比较 AI 推理方案时,还应固定模型、精度、输入输出条件,并同时记录吞吐量、延迟和输出质量要求。

当待比较的参数较多时,可以通过 Python 自动运行任务、启动和停止采集,再保存结果。它减少了人工反复操作,也便于按统一条件进行回归测试。[3][5]

一个公开应用案例

Quarch 在 2026 年 7 月 30 日发布的文章中,介绍了 Tenstorrent 使用 GPU 功耗分析仪和交流功率分析仪开展测试的情况。设备端记录加速器输入,交流端记录系统输入,团队据此分析不同工作负载下的瞬态、平均、最大和最小功率,并使用 Python 自动执行重复测试。[8]

这种两处测量的安排,也给实验室提供了一个实用思路:单卡输入曲线用于研究卡本身,整机输入曲线用于观察系统运行代价。若进一步联用多台仪器,还需要确认时间对齐的方法和精度,不能把脚本同时启动直接理解为所有采样点严格同步。

600W 连续功率与千瓦级测试的边界

介绍高功耗测试工具时,持续功率、短时功率突增和电流测量范围需要分别看。

Quarch GPU/AI 产品页面列出了 600W 和 1800W 两个数字。前者标注为连续功率,后者标注为短时功率突增,也就是 Power Excursions。[4] 1800W 短时突增能力不能作为 1800W 持续负载能力使用。 具体突增持续时间和重复条件,需要按相应硬件规格确认;这些数字也不能替代具体接口、线束和夹具版本的额定值。

Gen5 与 Gen6 也要按实际型号区分:

产品或套件

公开资料能够确认的内容

QTL2983/KIT_ATX3

Gen5 x16 插槽夹具配三路 8-pin AUX   夹具

QTL2983/KIT_12VHP

Gen5 x16 插槽夹具配 12VHP AUX 夹具

QTL3216

Gen6 x16 插槽夹具,测量插槽 12V、3.3V   和 3.3V aux 等供电轨

前两项来自 Gen5 GPU/AI 套件页面;QTL3216 的资料来自独立的 Gen6 产品页面。Gen6 GPU 如需同时测辅助供电,应确认可配套的 AUX 硬件、线束和额定能力,不能直接沿用 Gen5 套件的规格。[4][9]

对于连续功耗达到 1000—2000W 的加速器,测试原则仍是测全输入路径,但接入硬件需要重新匹配。以 12V 供电作计算示例,1000W 对应约 83A,2000W 对应约 167A;测量组件、连接器和线束都必须具备相应的持续承载能力。

还要核对机械形态。AMD 公开的 MI355X 规格为 1400W TBP,采用 OAM 模块形式,虽然也有 PCIe 连接,却不能据此把它当成普通 x16 插卡安装。[10]

这类设备通常需要在其实际供电母板或模块输入路径上,配置匹配电压、电流和带宽的分流器、电流传感器与采集设备。选择 Quarch 或其他测量方案时,都应先明确设备形态、各路持续电流及瞬态要求,再确定接入方式。

PAM 方案的价值在一份可复查的测试记录里

对于接口和功率范围匹配的 PCIe GPU 或 AI 加速卡,PAM 方案把插槽测量、辅助供电测量、长时间记录和软件分析组织在一起。工程师可以减少自制测量接线的工作,将更多时间用于运行实际任务、比较曲线和定位问题。

它的价值会体现在具体的记录中:整卡输入是否测全,任务切换时电压是否稳定,异常附近出现了什么控制信号变化,完成相同任务用了多少电能,以及调整参数后能否重复得到相同结果。

一份这样的功耗记录,才能为电源设计、系统调试和 AI 工作负载优化提供可复查的依据。

资料出处

[1] NVIDIA nvidia-smi 官方文档 GPU Power Readings。

[2] Tektronix 应用说明 Making Accurate Current Measurements on Power Supplies with Oscilloscopes。

[3] Quarch Power Analysis Module 产品说明 QTL2312。

[4] Quarch Gen5 PCIe x16 PAM Fixture w AUX Power 产品说明 QTL2983。

[5] Quarch Power Analysis Modules 数据手册 v1.11。

[6] Quarch Power Analysis Module 技术手册 Rev 1.10 附录 A.9。

[7] Quarch Power Studio 官方功能与版本说明。

[8] Quarch Power as the Key Metric in AI Compute 2026 年 7 月 30 日。

[9] Quarch Gen6 PCIe x16 PAM Fixture 产品说明 QTL3216。

[10] AMD Instinct MI355X 官方产品规格。

配图为 Quarch 产品与应用图片,部分为基于原图整理的展示版本。文中产品参数对应上述公开资料,资料核对日期为 2026 年 10 月 20 日。

如果正在从事PCIe、CXL、NAND、SSD Controller、PCIe / NVMe SSD相关开发,或者对于CPU、GPU、网卡、AI加速等高速芯片以及相关测试感兴趣的,可以随时联系我们。