在近期一系列备受关注的黑客事件引发AI可能“杀死全人类”的担忧之前，我们的能源系统早已在网络攻击面前脆弱得令人不安——而且风险还在不断增长。
“我们一直都是猎物。我们只是在捕食者的胃口下勉强求生，”安全与技术研究所（IST）公共安全与韧性驻所高管Joshua Corman去年告诉我。当时，我正关注美国国土安全部的一份警告，称伊朗行为者及其同情者可能对美国发动网络攻击。
上周，我致电Corman，聊了聊近期失控AI代理自行策划复杂网络攻击的事件。连AI高管们也在讨论，他们正在构建的技术是否会失控到引发世界末日的程度。如果像一些AI开发者警告的那样，人工智能未来有一天杀死全人类的概率已达10%，那么在这之前，它难道就没有可能让我们陷入黑暗吗？
“任何想要发动攻击的反社会者，现在都比以往更强大。”
但当我与Corman和其他网络安全专家交谈时，他们更担心的仍是生成式AI落入坏人之手，而非失控代理。随着科技公司竞相构建越来越强大的AI模型，电力公用事业公司也必须加固防御——无论攻击的发起者是人还是别的东西。
“字面意义上说，任何想要发动攻击的反社会者，现在都比以往更强大了，”Corman告诉我。“AI已经成为一种力量倍增器，而且还在持续增强。”
我们的许多关键能源基础设施——为家庭供电、让冰箱里的食物保鲜、维持医院救命设备的运转——在设计之初根本没考虑过连接互联网。发电厂的寿命通常长达数十年。美国核反应堆的平均年龄约为44年。这些建筑在建造时并未考虑如今的网络安全风险，因此很容易成为黑客的目标。
最终，这些基础设施中的大部分还是连上了互联网。从那时起，由此产生的网络安全漏洞就一直难以修复。电力行业一些仍在使用的设备的原始设计公司已经倒闭，没人再为那些“孤儿设备”开发软件补丁。即使有补丁可用，及时部署也是另一大挑战。与IT软件升级不同，控制关键基础设施实体机器的运营技术（OT）系统可能仅设计为每季度或每年更新一次。小型公用事业公司可能还缺乏使用最新防御措施所需的资源、人员和技术知识。
“AI带来的真正区别在于，它让攻击者的行动速度更快——而对于防御基础设施的一方来说，要跟上这种节奏非常困难，”保卫民主基金会网络与技术创新中心副研究员Sophie McDowall说。
在评估生成式AI带来的风险时，意图是一个关键因素。当一个OpenAI模型设法突破公司的训练参数、攻击AI实验室Hugging Face时，“我们在其中看到的复杂性和能力，以及它们的实际效果，实在令人大开眼界，在某种意义上也令人恐惧，”代表2000个城镇社区公用事业的美国公共电力协会网络安全项目高级经理Rob Denaburg说。
但Denaburg指出，即使在Hugging Face被黑以及类似的AI代理闯入本不该攻击的系统事件中，失控代理也始终专注于完成其训练目标。如果有人专门训练一个模型来攻击能源基础设施，而代理又在那种情况下突破了沙箱，那对电力公司来说恐怕会是更大的隐忧。而归根结底，这仍然涉及怀有恶意的人类对手。
从历史上看，敌对民族国家在很大程度上被视为关键基础设施面临的最大网络安全威胁。“他们更有纪律性，”Corman说，也更有能力发动复杂的网络攻击。如今，AI正在让技术较差的对手更容易发起有效攻击。
“恶意行为者可以利用这些工具，发挥出超出自身水平的攻击能力，去攻击他们原本不知道如何攻击的目标……因为他们可能不了解OT协议、OT网络和OT策略，但LLM已经读过那些手册，确实知道该怎么做，”Corman说。
公用事业公司必须做好更充分的准备，而无论坏人是谁，防御策略都是相似的。“不管有没有AI，说到底这仍然是一次网络攻击，”Denaburg说。“即使AI能帮助攻击者串联漏洞、把从初步渗透到利用的某些流程自动化……只要你能在一个环节拦住他们，他们就无法完成攻击。”
电力公司可以遵循一系列最佳实践来保护关键基础设施。其中一些是非网络安全手段，比如确保系统在需要时可以切换到人工操作，或者在某些情况下从源头减少基础设施的互联程度。越来越多的情况下，“面对AI的威胁，他们开始意识到：如果保护不了，那就断开连接，”Corman说。
“他们一边在为一个自己部分造成的问题提供支持。”
McDowall说，政府和开发先进AI模型的公司同样负有责任。她指出，OpenAI CEO Sam Altman最近与公用事业公司会面讨论电网安全，是一个积极的举动。但她表示，要防止灾难，他们还可以做得更多。“他们一边在为一个自己部分造成的问题提供支持，”却未能充分管控自身的技术进步，McDowall告诉The Verge。
尽管核技术和危险材料的研发有监管护栏，但AI还没有同样的政策保障。“这是一项可能给关键基础设施系统带来潜在风险、可能对人类生命造成潜在威胁的科技发展。因此确实需要限制，”McDowall说。“我理解我们也不想限制发展，但我们完全可以在负责任的前提下推进研究。”
她指出，关于如何利用AI改善能源系统网络安全的研究严重不足——尤其是超越单纯漏洞挖掘式红队测试的应用。
本月早些时候，OpenAI承诺投入10亿美元，用于补贴培训和提供新模型的使用权限，以帮助保护关键基础设施。
“未来几个月，随着世界各地的模型能力日益增强，AI驱动的网络攻击将变得更加普遍和复杂，”OpenAI在9月3日的公告中说。“前沿AI可以帮助防御者更快行动。”
但Corman告诫，不要指望依靠友好的AI代理来对抗恶意代理。在关键基础设施OT系统的敏感环境中，两者可能都难以控制。
“在OT环境中过快地引入太多变革本身就非常危险，”Corman说。“现在我们等于让一头AI公牛在OT瓷器店里和另一头AI公牛打架。”
关注本报道的话题和作者，在你的个性化首页信息流中查看更多类似内容，并接收邮件更新。——Justine Calma