作者：Lily Jamali BBC驻北美科技记者，发自旧金山
- 每年九月，硅谷各路高管云集旧金山宫殿酒店（Palace Hotel），在高盛（Goldman Sachs）主办的一场会议上向投资者示好。
过去一周，在谈论增长与潜在回报之余，科技巨头们还不得不回应Anthropic研究员Jacob Coxon的突然辞职。
现年27岁的Coxon曾在OpenAI工作，后加入其主要竞争对手Anthropic。他于本周二表示，构建人工智能（AI）的人士相信这项技术可能毁灭人类。
他说，他们是在"拿我们的生命赌博"，“这些很快将成为可以入侵任何东西的超人类系统”。
Coxon绝非第一位公开发出警报的AI内部人士。近年来，Anthropic和OpenAI都因明显的安全担忧接连出现高调辞职事件，一些Anthropic现任员工甚至在Coxon的帖文中表示附和。
“我们真心相信AI可能杀死全人类！我个人认为未来十年内这种概率超过10%，“Anthropic团队负责人Evan Hubinger在X上发帖称。
虽然Coxon在帖文中明确表示他的警告"不是营销”，但硅谷的一些高管和投资者对近期内部人士纷纷发出警报的举动反应怀疑。
据报道，Anthropic和OpenAI正在筹备可能创下纪录的IPO（首次公开募股），科技行业一些人士认为，这些关于AI危险性的最新尖锐言论，可能是为了展示产品实力、制造炒作而刻意设计的。
Anthropic掌门人Dario Amodei因声称AI技术可能消灭一半初级白领岗位、并将"考验我们作为一个物种的本质"而受到抨击。
会议发言人之一、Grindr CEO George Arison告诉BBC，他认为Coxon等人本周的言论反映出Anthropic存在一种"反文明的世界观”。
他称这些言论"危险"，并表示这促使他指示这家LGBTQ+交友应用的部分工程师停止使用Anthropic的技术。
“作为受托管理股东资金的人，如果依赖一家在公开声明方面做出这种事情的企业，那是不负责任的，“他说。
“也许他们真的相信，“Arison说。“但你也可以说，他们这么说是因为这是煽动更多投资者支持的绝佳方式，因为要证明这些估值的合理性，唯一的办法就是宣称：‘我将接管每一个行业、每一个岗位，我的AI将完成所有这些工作。’”
Anthropic在今年早些时候的最新一轮融资中估值达9650亿美元（约合7130亿英镑）。
BBC已请Anthropic就上述言论作出回应。
在周六清晨发布的一篇文章中，Amodei呼吁放慢AI模型开发速度并实施全球监管——并表示AI相关风险"是严肃的”。
图片说明：Grindr CEO George Arison告诉BBC，他认为一些关于AI的尖锐公开警告"很危险”
英伟达（Nvidia）CEO黄仁勋也在会议现场面对观众谈及了Coxon的言论，多位与会者告诉BBC。他们表示，黄仁勋斥这些言论不实。
黄仁勋此前曾表示，AI"将终结人类"的说法是"彻头彻尾的胡说八道”。
尽管他可能因AI繁荣而存在商业利益——英伟达生产为AI系统提供算力的芯片——但他的言论反映出硅谷对现任和前任员工发出的生存威胁警告的反弹日益升温。
一些批评者甚至指责Anthropic制造恐慌，希望借此推动监管，从而将竞争对手挡在门外，让它和OpenAI垄断整个行业。
投资公司Altimeter Capital负责人Brad Gerstner发布了黄仁勋在会议上的照片，并指责Coxon"荒谬的夸张”。
周五，AI平台Hugging Face的CEO Clement Delangue也加入讨论。英伟达上周宣布将收购Hugging Face，该公司今年早些时候曾被OpenAI智能体入侵，引发了对AI安全的强烈抗议。
“抱歉，向Jacob询问AI灭绝风险，就像问你的空调维修工气候变化问题，“他在X上写道。“不是说这一定无趣或错误，但我们要理性看待。”
在Amodei的提议发布后，Gerstner和Delangue在周六的表态都更为审慎，Gerstner称这一想法是在速度与安全等相互竞争的考量之间取得平衡的"重要一步”。
Delangue则表示愿意帮助参与Amodei提出的潜在解决方案。
内部人士的警告会引发监管打压吗？
今年四月，Anthropic宣布发现其Mythos工具在某些黑客攻击和网络安全任务上可超越人类表现，震惊了整个AI界。
Mythos还展示出独立逃出所谓沙盒环境的能力，在监管机构、立法者和企业之间引发了关于AI潜在危险的辩论。
周四有新进展：Anthropic表示已发现并阻止了试图利用其AI技术从事生物武器开发和网络间谍等活动的威胁行为者。
在宫殿酒店彩色玻璃穹顶中庭闪耀的水晶吊灯下，一些投资者告诉BBC，Coxon等人的言论可能加速政府的监管打压。
图片说明：
观看：“慢下来”——Bernie Sanders提出禁止AI超级智能的法案
本月由佛蒙特州左翼参议员Bernie Sanders共同发起的联邦立法，即《禁止人工超级智能法案》（Ban Artificial Superintelligence Act），将对先进AI开发实施临时暂停。
“人类很有可能失去对AI的控制，“Sanders周四告诉BBC的Newsnight节目。“届时会发生什么，没人知道。但会不会是灾难性的？是的，有可能。”
“当科学家告诉你它可能对人类造成灾难性影响时，你要是不说’慢下来’，那就是个傻子，“他补充道。
不过，如果全行业的政府打压真的到来，主导者很可能是立法者，而非大体支持AI无拘束发展政策的特朗普政府。后者已将这一立场定位为确保美国不把主导权让给中国的必要之举。
本周在回答记者提问时，总统Donald Trump被问及是否担忧AI导致人类灭绝。“不，我不担心，“他说。“我担心的是，如果我们不赢得AI竞争，我们将处于非常不利的境地。我们现在正领先于中国。”
但总统与Anthropic的关系一直动荡。在该企业拒绝让美国军方使用其AI模型后，白宫称其为"激进的左翼、觉醒公司”，并将其列为供应链风险——联邦法官已裁定此举违法。
特朗普政府初期的AI事务负责人David Sacks也多次抨击Anthropic。
OpenAI则未遭受白宫同等程度的审视。上周发布名为Astra的新模型时，OpenAI总裁Greg Brockman形容其公司与特朗普政府的关系是"非常好的合作伙伴关系”。
今年6月宣布将上市的OpenAI最新估值为8520亿美元。
该公司未回应BBC的置评请求。
本周在旧金山的会议上，对财富的追求似乎大多压过了日益加剧的生存担忧，以及对政府可能限制AI的恐惧。
一位投资者表示，他期待着Anthropic即将提交的S-1文件——企业向证券监管机构提交以发行股票的文件。
他对这家公司的主要问题很简单：这家公司盈利吗？
当被问及是否担心世界末日将至时，芯片公司d-Matrix的CEO Sid Sheth——该公司当天在会议上与英伟达签署了一项协议——直言不讳。
“不担心，“他说。
订阅我们的Tech Decoded通讯，追踪全球顶级科技新闻与趋势。英国以外地区？在此订阅。