Anthropic CEO Dario Amodei近日反驳了一种观点，即他一直在描绘一幅过于悲观的人工智能及其影响未来的图景。
Amodei的评论是对投资人Gavin Baker的回应。Baker在All-In播客和X上均表示，Amodei关于AI危险的警告助长了美国对AI的反弹情绪，尤其是对数据中心的反对。
Baker声称，在AI监管问题上（Anthropic曾主张一些监管措施，包括一项要求大型AI公司提高透明度的加州法案），Amodei“已经输掉了争论”，而且鉴于“他即将成为全球最重要公司之一的CEO”，Baker写道：“我冒昧地认为，他应该努力成为自己行业更积极的倡导者。”
Baker远非唯一认为AI怀疑论甚至政府打压是对一些AI高管严峻警告的自然反应的人。但在一系列帖子中，Amodei不同意“他的信息传递过于负面”的说法。相反，他说他的写作“在风险和收益之间大致平衡”，他写文章“Machines of Loving Grace”是因为他“觉得AI行业没有描绘出足够鼓舞人心的图景，来说明这项技术如何能从根本上让世界变得更好。”
尽管如此，Amodei承认“公众对AI持负面看法”，他也同意“这是一个大问题”。他不同意的是，这种负面情绪“主要由”Amodei“或任何其他警告AI风险的AI领袖造成”。
“我认为这从根本上说是一场信任危机，”Amodei说。“我认为普通人不信任公司、政府或科技行业，总觉得我们在酝酿某种新的方式来坑害他们。”
事实上，“信任”这个词经常出现在关于OpenAI CEO Sam Altman的新闻标题中，显然也是Amodei等其他AI CEO面临的问题。然而，按照Amodei的说法，这场危机已经酝酿了几十年，AI反弹“只是它的最新一轮体现”。
“我认为对包括Anthropic在内的AI公司最准确的批评是，我们尚未兑现造福世界的重大承诺，”Amodei说。“这完全是我们自己的问题，我认为这才是你们应该提出的批评，而不是那些关于信息传递和营销的东西。”
换句话说，他说承诺AI能治愈癌症“更像陈词滥调而非鼓舞人心”；真正能改变人们对AI看法的将是“真正治愈癌症”。
至于监管，Amodei认为Baker在“虚假选择”之间二选一：要么在无监管的情况下广泛分发AI，要么通过监管将技术集中在少数公司手中。
“我知道硅谷有一种简化的说法，即监管=监管俘获=权力集中，但我一直认为这是对世界的过度简化图景，”Amodei说。“这个圈子之外的许多人认为监管是约束企业权力、惠及普通人的东西。”
Amodei补充说，他也“不一定同意那种观点”，但他说这正是“Anthropic始终非常谨慎地制定政策提案的原因”。
“我们非常努力地提出一些提案，这些提案会削弱（放缓）前沿AI公司，同时有利于较小的竞争对手，”他说。
为什么提出这些提案？Amodei说，在他看来，“AI在结构上是一种倾向于集中权力的技术”，而且“开放权重在这方面确实有一定帮助，但远非充分解决方案，因为它们只是将集中化程度在一定程度上转移到拥有最多算力和芯片的人手中。”
“相比之下，我认为正确的‘道路规则’可以同时(a)应对AI的网络、生物、对齐风险，(b)在制度上约束前沿AI公司的权力，以及(c)为开放权重模型留出空间，同时解决它们带来的具体风险，”他说。