David Robinson过去负责为OpenAI每一次重大模型发布撰写安全报告。本周，他辞去了这一职位，并在《大西洋月刊》发表文章公开表态。
对于这些突然纷纷站出来、警告自己亲手参与打造的东西有多么危险的人，你感到有些怀疑甚至反感是可以理解的。毕竟，这个烂摊子正是他们自己造成的。但这并不意味着我们应该无视他们的警告。
Robinson表示，行业文化已经根本性崩坏。这个问题比简单地给模型训练方式加上几条新规则或监管规定要深刻得多。他说，硅谷一直以“极端自信”和“永续冲刺”的方式运作，带着“毫无阻碍的乐观主义”打造更大更强的模型，忽视或低估潜在问题。
他认为，AI公司是时候培养一种谦逊意识，跳出科技行业那种封闭的、“快速行动、打破一切”的世界了。具体而言，他认为AI需要核能级别的安全防护：
“鉴于当今的风险，前沿实验室需要像核电站或繁忙的机场一样运转，配备多层冗余和细致而耗时的规划，这样偶尔且不可避免的人为失误才不会打开通往灾难的大门。”
Robinson只是越来越多从知名AI公司离职的研究人员和安全工作者中的最新一员。Jacob Coxon似乎拉开了这场离职潮的序幕——他从Anthropic辞职后公开表示，AI“可能在本十年末杀死我们所有人”。随后是Google DeepMind的Robert O’Callahan、Bilal Chughtai和Josh Engels，以及Anthropic的Joe Benton。