近日，交叉信息院于洋助理教授课题组与北京大学的王剑晓助理研究员合作完成的《通过储能设施防御对抗性攻击》（Defending Against Adversarial Attacks by Energy Storage Facility）获得能源领域顶会IEEE PESGM 2022年最佳论文奖。每年在会议上获得该荣誉的论文比例不到投稿总数的2%。

论文研究了智能电网中的人工智能算法攻击带来的经济风险和对策。研究指出，算法攻击已经能够威胁实体经济的新型风险，这类风险隐蔽性强，因此难以被察觉和究责，但却会给经济带来重大损失。然而，和计算机领域“用算法对抗迎击算法攻击”的“魔法对抗魔法”思路不同的是，实体经济中存在着能够对抗算法攻击的物理设备——也就是用物理方法对抗魔法。因此，人工智能时代，实体经济有必要投建“对抗算法攻击的新基建”。

智能电网是一个依赖数据和学习模式的信息物理系统，人工智能算法（AI）构成了智能电网的“思考和感知系统”。然而，智能电网面临一种新型威胁：通过设计噪声误导数据驱动的AI模型，诱使AI基于错误感知学会错误知识、最后做出错误决策。

论文指出AI的错误决策会给物理电网带来巨大经济损失。在德克萨斯州，5%的对抗性攻击可以使一个季度的总发电成本增加17%，约有二千万美元。研究发现，在低碳化后，这种隐蔽的供给会带来更大损失：当风能渗透率增加到40%以上时，5%的对抗性攻击会使发电成本增加23%。需要指出的是，算法攻击和传统对电网的攻击完全不同。传统电网攻击，是通过造成设备损坏和大面积停电来实现。而算法攻击，目的不是一次性瘫痪电网，而是以“润物细无声”的方式，让电力系统在不知不觉中遭受“聚沙成塔”的巨大经济损失。

图1对智能电网中AI算法的攻击方法以及对电力系统运行的威胁

该研究还提出了利用物理资产防御对抗性算法攻击的新方法：投资于储能系统。目前所有的文献都集中在开发防御对抗性攻击的算法上。研究发现，当智能电网中有足够多的储能资产时，即便我们察觉不到算法攻击、算法攻击也成功的误导了AI，储能也能阻隔AI的错误衍生为经济损失。实际上，AI被误导会改变价格信号，从而触发储能的响应，这种储能的逐利行为却避免了整个系统的经济损失。

图2 不同可再生比例下的成本损失率

交叉信息院2020级在读博士生李佳蔚为本文第一作者，交叉信息院2022级预研博士生陈琳为本文通讯作者，其他作者包括交叉信息院助理教授于洋以及北京大学助理教授王剑晓。本工作获得了上海期智研究院的资金支持。

国际电气与电子工程师协会电力与能源协会年会（IEEE Power & Energy Society General Meeting）是全球最具影响力的电力行业旗舰会议，每年在北美地区召开一次，是全球电力和能源学者、工程师最主要的学术会议。

文章链接：https://arxiv.org/abs/2205.09522