科技行业应该如何对待AI安全这一话题？越来越多的高管正在就这个问题发表意见，围绕诸如Hugging Face事件——一名OpenAI智能体入侵了多家不同公司——等事件是否表明AI即将把我们的世界推向混乱的争论愈演愈烈。
最近几周，知名实验室纷纷呼吁放慢AI发展步伐。最具戏剧性的是，CEO Dario Amodei撰写了一篇近4000字的长文，阐述AI发展应当减速的理由，以便部署足够的安全护栏。该计划除其他内容外，还包括一项公司与政府在安全部署上开展协作的国际战略。竞争方的AI高管——如OpenAI的Sam Altman和xAI的Elon Musk——都对Amodei的计划表示支持。
这篇文章在整个科技行业引发了进一步讨论，不过并非所有人都赞同Amodei关于全球协同行动的呼吁。事实上，许多人似乎认为政府监管根本不必参与其中。
最新加入这场辩论的是Meta CEO Mark Zuckerberg，他本周在X上发文分享了自己对此事的看法。
“我的看法是，信任与对齐正迅速成为区分不同智能体和模型的最重要能力。”Zuckerberg透露，出于安全考虑，他的公司推迟了其AI模型的发布。“Meta为了专注安全与保障，将Muse的发布推迟了几个月，”Zuckerberg说，“我们并没有要求其他人在我们这么做之前也这样做。我们只是把它当作日常工作的一部分来做的，因为这对用户、对我们来说显然都是正确的选择。”
Zuckerberg——他对Amodei计划的部分内容表示认可——似乎在暗示政府行动并无必要，行业内部的结构性激励会自然促使企业把安全做好。市场最终会让那些用心打造不会造成混乱的模型的公司获得成功。这似乎与Zuckerberg上个月发表的长篇文章相呼应，该文主张在必要时与政府进行有限协作，但主要鼓吹美国的竞争力是繁荣技术未来的关键。
总体而言，这似乎也是其他许多科技高管的立场。
另一位发声的高层是Reddit联合创始人Alexis Ohanian，他周三告诉CNBC，他认为科技行业在向公众解释AI风险方面基本上“充耳不闻”。不过和Zuckerberg一样，Ohanian似乎也表示希望企业能够自行解决问题。Google DeepMind联合创始人Shane Legg也分享了他的看法。“我们现在生活在一个能力进步非常非常快的时期，”Legg说，“但我们不能让能力跑在安全前面。”他补充道：“我们需要真正弄清其中的细节，以及这在实践中将如何运作。”
尽管各大实验室呼吁公私合作，但一些支持监管的声音似乎也相当乐于让企业自己制定规则。事实上，本周还有一条不那么显眼但同样有趣的消息：据The Information报道，OpenAI、Anthropic和其他主要AI公司正在合作创建一个AI标准组织——被一家媒体描述为私营的“自律监管机构”。
此前曾有过创建类似的联邦运营组织的讨论。然而，特朗普白宫——其中包括直言不讳的AI支持者，并且大体上推动科技行业免受监管（该政府甚至试图强力阻止州政府出台自己的AI法律）——并未采取任何行动。政府的“AI沙皇”、科技界老将David Sacks表示，AI监管应该留给开发AI的公司自己来做。
和白宫一样，国会中的重要人物们似乎同样无意接受Amodei提出的监管其公司的提议。就在Anthropic CEO发表文章后不久，
一个私营组织将使这个行业除自愿承诺外不受监管，并自然地把一定的权威和影响力赋予创建它的那些公司。这引出了另一个持续存在的说法，即该行业对监管的呼吁实际上是一种“监管俘获”策略。根据这一论点，已经处于行业头部地位的强大公司可能会利用监管策略来排挤或使资源较少的小公司处于劣势——从而扼杀自己的竞争对手。这未必涉及真正的法规，但可能涉及仍会对实力较弱的公司构成压力的行业自愿标准。
中国政府的许多重要声音也附和了这一立场。在Amodei本周呼吁“为前沿设定节奏”之后，中国外交部发言人郭嘉昆指责美国人利用“散布恐慌”来扰乱全球AI治理的发展，而中国官方报纸的一篇评论文章则称Amodei的言论完全是“冷战剧本”的翻版。
重组企业与中国的做生意方式——这是Amodei在文章中呼吁的事项之一——自然可能成为美国公司借机使事情朝有利于自己方向发展的机会。Amodei甚至承认这就是目标。“如果我们把这些措施执行得当，我相信它们足以拖慢中国的进展，从而在未来3-5年内显著拉大美国的领先优势——这正是AI在地缘政治上最重要的窗口期，”他在文章中写道。
然而，认为美国大型AI实验室试图让比赛规则偏向自己的，不仅仅是中国的看法。加拿大AI公司Cohere的CEO Aidan Gomez最近指责这些公司组成了“卡特尔”，他在一篇博客文章中写道：“AI需要护栏。这一点没有争议，从来都没有。争议在于由谁来制定它们，谁可以参与，以及规则保护的是谁的利益。”
正如Gomez所指出的，AI安全领域是一个高度政治化的领域，安全的条款如何定义——以及由谁来定义——最终将有助于决定谁在下一阶段AI竞争中抢占先机，谁被甩在后面。