我们正目睹一场关于AI安全和潜在放缓的大辩论，Anthropic CEO Dario Amodei最近[……]
在TechCrunch的Equity播客最新一期节目中，Kirsten Korosec、Sean O’Kane和我讨论了像Amodei和OpenAI CEO Sam Altman这样的高管是否真心想要放慢脚步。
我很惊讶有这么多行业领袖似乎对Amodei的计划表示了支持，但Sean指出，该计划似乎缺乏细节。
当Kristen问到现有监管与自由市场运作相结合是否能自行提供足够保障时，Sean回答说：“我们目前的联邦政府显然不热衷于大范围执行监管，更不用说在这一领域专门执行了。”
此外，他还认为：“似乎没有太多消费者选择在驱动这个市场，也就是说，如果其中一家公司做了非常糟糕的事情，它们也不会看到取消订阅数量之类的实际影响。”
继续阅读我们对话的节选（为篇幅和清晰度做了编辑）。
Anthony Ha： Sean，你怎么看？我们真的会“给前沿定节奏”吗？
Sean O’Kane： 不知为什么，这听起来像《惊爆点》里的台词。这完全是加利福尼亚式的说法，就像“我们要给前沿定个节奏，老兄”。
我不知道。我上周在这个节目中说过，我不认为我们会走向任何形式的放缓，主要原因是我不认为这些公司的结构方式允许这样做。
所以，当听到Dario在Anthropic、Sam在OpenAI、甚至Elon Musk在某种程度上也说出这些话时，这对我一周前的说法是相当迅速的反转——我们可以讨论是否相信这一点。我想说，我也不认为自己完全错了，因为即使有Dario在一篇博客文章中提出的那些松散计划，以及其他一些领导人谈到过的内容，我觉得我们仍然缺少很多具体细节，不仅在于这些人为什么认为存在危险和风险的说法上，还在于他们所说的“放慢”到底意味着什么。
Anthony，我知道上周末这一切爆发时你研读得非常仔细，所以我很好奇，在理解他们想表达什么这件事上，你是否比我更宽容一些。
Anthony： 我是说，我也有疑问。真正让我印象深刻的是，行业内如此多的人似乎很快就团结在了这个计划周围。甚至在Amodei[……]之前。
我的理解是，这些建议来自AI安全社区；这些想法已经酝酿了一段时间。它们不只是[Amodei]自己想出来的。但似乎很多人都准备好接受这一点，从某种程度上说，看到共识的形成令人鼓舞。但这也让我有点怀疑，这是否代表着朝着放缓迈出的真正重大步骤。
Kirsten Korosec： 首先，共识可以是好事。同时，它也可能是形成卡特尔的开始。所以，让我们明确一下我们在谈论谁。我们谈论的是前沿AI实验室，这是具体且重要的。
你刚才确实说细节还不清楚，但我们知道这里的大致想法是，独立的第三方评估机构会进入像Anthropic或OpenAI这样的[公司]内部，监督AI安全实践和事件。但围绕这一点仍有很多模糊之处。
还有另一项提案是让民主国家的主要AI公司在安全标准和限制上进行协调。然后是国际协调这部分。这些就是围绕这个计划的大致思路。
我还要补充的是，一些非常具体的人对此进行了相当大的抵制。而且令人惊讶的是，其中有些人我原以为不会抵制。显而易见的一位，我猜是Nvidia CEO Jensen Huang，他说了一些相当尖锐的话。我不知道你们俩怎么看[……]他的一些言论以及他在All-In峰会上舞台上接到的特朗普总统的电话。
Sean： 我认为Jensen在一定程度上明白，他在这里被视为“房间里的大人”。这很有趣，因为我认为这种动态已经改变了。如果在大约一两年前，当这些AI公司真正开始大规模爆发时，你问人们谁在扮演这个角色，我想很多人会指向Microsoft和Satya Nadella，而我觉得出于我们现在不需要深入讨论的若干原因，Microsoft已经失去了作为“房间里的大人”的地位。当然部分原因是Nadella说过他要让Google跳舞，而那从未发生。事实上，在很多方面，发生的是相反的情况。
Jensen，我认为，不仅明白他需要取悦尽可能多的人，所以他想说最审慎的话，他还是这个领域与这届政府之间最有用的联络人之一，以至于他在这个出席人数众多、备受瞩目的会议上在台上时接到了总统的电话，这让他们两人都能对这一团乱麻作出回应。
Kirsten： 关于他是“房间里的大人”和联络人的观点，他确实处于可以做到这一点的位置。但在我看来，我想说[他的亮相]确实感觉有点像摆拍，有点过火了，真正凸显了这样一个事实：Nvidia从AI以不设限的方式向前推进中获益巨大。
我不想对此表现得愤世嫉俗，但这就是我的最初反应。
Anthony： 特朗普和Huang的利益是一致的，而且[Huang]在告诉[特朗普]他想听的话。
我确实认为他特别强调的一些内容值得展开讨论一下。首先他谈到了这个想法：“我们不会有放缓。”有趣的是，仅仅是“放缓”这个词——它已经被大量提及——但与此同时，Altman和Amodei都会使用放缓的语言，而他们更喜欢用的词是“节奏”，对吧？
而这三项提案——就是你刚才描述的那些，Kirsten——理论上，它们可能导致事情放慢，但它们并没有明确这么说。它说的是：“嘿，我们正在制定一些基本的安全措施，让一些人对我们进行监督。”但这些东西中没有任何一项本质上是在说，事情必须比现在进行得更慢，至少据我理解是这样。
Kirsten： 那我有个问题想问Sean。难道你不能辩称，在自由市场社会中，我们有现有的监管制度，而且[在]不存在保护主义的竞争环境[中]，如果一家公司发布了不安全的东西，它将不再能够成为一家有生存能力的公司？而且现在已经有监管机构可以追究这些公司？还是说你拒绝这个想法？
Sean： 在真空中，或者在一个没有被大量不同外部压力扭曲的市场中，是的，我认为有这个因素。但我们目前的联邦政府显然不热衷于大范围执行监管，更不用说在这一领域专门执行了。
而且我们也处于一种奇怪的境地——我不太知道该怎么恰当表述，但似乎没有太多消费者选择在驱动这个市场，也就是说，如果其中一家公司做了非常糟糕的事情，它们会看到取消订阅数量之类的实际影响。
尤其是现在，随着它们进军企业市场，并通过向企业销售服务赚取了多得多的收入，用钱包投票在那里自然就更难了。企业不会仅仅因为不认同OpenAI所做某件事的原则，就从[OpenAI的]Codex打包迁移到[Anthropic的]Claude Code。
而且它们还被大量投资资金托底，这使得如果它们真的面临损失，也更容易消化这些损失。所以我认为这在理论上是个好主意，但我觉得在实践中，这些都没有真正发生。