更低开销CPU功耗分析，杜克陈怡然学生提出自动功耗建模，摘得微架构顶会MICRO最佳论文

发布时间：2021-10-24 15:17:58来源：机器之心

机器之心报道

编辑：杜伟：陈萍

第54届IEEE/ACM微体系结构国际研讨会公布最佳论文奖，来自杜克大学、陈怡然教授团队的谢知遥摘得该奖项。

第54届IEEE/ACM微体系结构国际研讨会（IEEE/ACMInternationalSymposiumonMicroarchitecture,MICRO-54）已于近日公布奖项，来自杜克大学的谢知遥荣获最佳论文奖，获奖论文题目为《APOLLO:AnAutomatedPowerModelingFrameworkforRuntimePowerIntrospectioninHigh-VolumeCommercialMicroprocessors》，他是该论文一作。

论文地址：：https://dl.acm.org/doi/pdf/10.1145/3466752.3480064

值得一提的是，谢知遥的导师是陈怡然教授。陈怡然教授是杜克大学电子与计算机工程系教授，计算进化智能中心主任，专注于新型存储器及存储系统，机器学习与神经形态计算，以及移动计算系统等方面的研究。在得知学生获奖时，陈教授发微博表示祝贺：

MICRO大会是由IEEE（InstituteofElectricalandElectronicsEngineers，电气和电子工程师协会）和ACM（AssociationforComputingMachinery，国际计算机学会）共同举办的专业领域会议。

从1968年开始，MICRO大会每年举行一次，到目前为止已经是第54届。

MICRO致力于展示、讨论和辩论先进计算和通信系统的创新微体系结构思想和技术的首要论坛。本次研讨会汇集了微体系结构、编译器、芯片和系统相关领域的研究人员，就传统的微体系结构主题和新兴研究领域进行技术交流。

MICRO社区一直保有学术研究人员和工业设计师之间的密切互动，其目标是在MICRO-54延续这一传统。2021年，MICRO将作为全球在线活动举办，主办城市是希腊雅典。

论文解读

从嵌入式应用、移动计算到数据中心，实现严格的能效要求驱动整个计算领域的设计决策。因此，无论是在CPU微体系架构设计期间，还是对于运行时功耗管理来说，准确的功耗估计对实施谨慎的工程权衡至关重要。并且，对功耗估计的需求又因目标应用的不同而异。

最近用于快速功耗管理的电压增高的技术需要细粒度的时间分辨率，比如文献[32]中的完整电压增高操作发生在几十纳秒内。类似地，在现代高性能CPU中，电压噪声效应（如Lid/dt）发生在<10个周期内。因此，量化快速电压噪声的影响以及自适应时钟等缓解功能的功效需要功耗追踪中出现细粒度时间分辨率，其中每个CPU周期都有一个sample（即每周期时间分辨率）。

设计时功耗建模挑战。对于细粒度的功耗追踪，CPU设计团队往往依赖行业标准的功耗分析工具（如文献[8]），以在RTL或者具有反向注释寄生程序的门级中重放模拟向量。功耗是根据单个信号网络的切换统计数据以及这些网络驱动的电容性负载所计算的。这种方法非常准确并可以作为验收标准，但遗憾的是计算成本也很高。

另一种替代方法依赖基于FPGA的网表模拟来解决功耗估计的速度影响。在这种方法中，模拟轨迹基于FPGA生成，然后使用功耗分析EDA软件处理提取的切换统计数据，以获得功耗轨迹。但是，由于现代计算机服务器存在严重的存储限制，因此使用这种方法来实施每周期功耗追踪依然任务繁重。

运行时功耗估计挑战。以往的工作已经展示了使用硬件监控事件计数器来指导OS编排的DVFS的运行时回归模型。这些模型在数千或数百万个CPU周期内对累积特定微架构事件（如L2缓存中丢失事件和退役指令）求取平均值。但是，这些事件与每周期微架构活动的相关性较差。并且，当需要细粒度功耗追踪时，对长CPU周期的求平均值过程会导致这种方法的准确性大打折扣。

最近已经有人提出基于片上功耗计（on-chippowermeter,OPM）的RTL运行时功耗监控方法，以牺牲专用硬件电路为代价来提升时间分辨率。然而，现有相关方法无法同时实现高分辨率和低硬件面积开销。

不同功耗建模方法的比较。

在本文中，研究者提出一个统一的RTL级功耗建模框架APOLLO，它在一致性的模型结构中同时解决了设计时和运行时的挑战，如下图1所示。APOLLO的核心是一个基于最小最大凸惩罚（MCP）回归的全新功耗代理选择方法，并且可以为数百万个CPU周期内执行的基准实施功耗追踪。对于运行时监控，APOLLP以0.2%的面积开销实现了每周期准确的功耗估计。

APOLLO是第一个实现周期准确度和1%以下面积开销的功耗监控方法。此外，APOLLP的代理选择过程是全自动化的，因而可以扩展到新设计。下图2为自动化的APOLLO框架示意图：

与最近的机器学习方法PRIMAL相比，APOLLO达到相似的准确度，但速度快了数个量级。APOLLO在准确度和计算速度方面还超越了另一SOTA方法Simmani。不仅如此，与最近的OPM方法相比，APOLLO实现了细粒度的时间分辨率和更低的硬件开销。下图为APOLLO与其他基线方法的一些比较结果：

一作简介

个人主页：https://www.linkedin.com/in/zhiyaoxie/

获奖论文一作是谢知遥，于2017年获得香港城市大学电子与通信工程学士学位，本科毕业后加入陈怡然和李海教授的实验室团队，成为杜克大学计算机工程专业博士生。

谢知遥主要研究领域包括机器学习、EDA、深度学习、VLSI设计等。他曾在多家知名公司实习，包括Arm、英伟达、Cadence、Synopsys。

参考链接：

https://m.weibo.cn/status/4694893102105307?sourceType=weixin&from=10BA195010&wm=9006_2001&featurecode=newtitle

2021NeurIPSMeetUpChina

受疫情影响，NeurIPS2021依然选择了线上的形式举办。虽然这可以为大家节省一笔注册、机票、住宿开支，但不能线下参与这场一年一度的学术会议、与学术大咖近距离交流讨论还是有些遗憾。

今年，我们将在NeurIPS官方支持下，再次于12月份在北京举办线下NeurIPSMeetUpChina，促进国内人工智能学术交流。

2021NeurIPSMeetUpChina将设置Keynote、圆桌论坛、论文分享和Poster等环节，邀请顶级专家、论文作者与现场参会观众共同交流。

欢迎AI社区从业者们积极报名参与，同时我们也欢迎NeurIPS2021论文作者们作为嘉宾参与论文分享与Poster展示。感兴趣的小伙伴点击「阅读原文」即可报名。

©THEEND

转载请联系本公众号获得授权

投稿或寻求报道：content@jiqizhixin.com