ESC
AI 1 分钟阅读

Y Combinator掌门人Garry Tan:美国开源权重AI实验室也应对前沿模型进行“蒸馏”

Y Combinator CEO Garry Tan表示,对于中国AI实验室从前沿模型中“蒸馏”知识的行为,监管者不应干预,美国开源权重AI实验室也应效仿。他认为前沿模型基于公开人类知识训练,智能获取应成为“公共产品”,并警告单一公司垄断AI才是真正的末日场景。

来源:TechCrunch

对于中国AI实验室利用蒸馏技术从前沿模型厂商那里汲取知识一事,Y Combinator CEO Garry Tan希望监管机构不要插手。事实上,他认为美国AI实验室或许也该玩同样的游戏。

“我什么都不做,”他本周早些时候接受CNBC采访时表示。“我们甚至可以主张,应该建立一套美国自己的蒸馏机制。”

他向TechCrunch进一步解释说,这意味着他希望规模较小的美国开源权重(open-weight)AI实验室对美国前沿AI实验室使用同样的训练技术,从而让美国拥有更强大、且非中国的开源权重选择。

所谓蒸馏(distillation),是指模型开发者通过大量提示另一个模型,来学习其运作和推理方式。AI实验室普遍且合法地使用这一技术来辅助训练新模型。

Anthropic本周发布了第二份报告,指控中国实验室正在进行“非法蒸馏攻击”——隐藏身份未经许可进行蒸馏,并依赖欺诈和被盗凭证来实施。Anthropic CEO Dario Amodei此前曾公开呼吁美国监管机构打击蒸馏行为。

值得注意的是,硅谷这家声名显赫、高产出的创业加速器的掌门人并不同意这一观点。

需要说明的是,Tan并不主张美国AI实验室使用被盗凭证来蒸馏。他希望它们能堂堂正正地走正门。事实上,他的论点有二:其一,他认为AI实验室对客户如何使用模型分享给他们的信息指手画脚,属于越权行为。

其二,他指出,专有AI实验室在尽可能汲取人类知识来训练模型时,也从未征求过许可。众所周知,它们在未经知识产权持有者许可的情况下摄入了大量受版权保护的材料。

在被问及为什么美国实验室也应该自由蒸馏时,他告诉TechCrunch:“控制用户和客户对闭源权重模型的API调用行为,让人感觉是一种束缚。在这方面,政府可以发挥作用,让这样一个事实成为常态:基于广泛公开数据训练出来的智能,其获取本身更应该是一种公共产品,而不是被锁在限制性的服务条款之后。”

Tan本人是一位狂热的AI用户,甚至曾自称患有“网络精神病”。他希望在开源权重AI实验室和前沿实验室之间看到一种平衡。

“它们身处前沿并推动着前沿向前发展。我们希望这件事能够获得融资,并成为可持续的伟大商业模式,”他对CNBC表示。“你也希望开源权重模型能给人们带来自由和获取渠道。”

在他看来,真正的AI末日场景,是前沿AI的全部巨大力量最终落入单一强大的专有厂商手中。“噩梦场景、AI的末日场景,就是只剩一家公司,”他说。“它拥有最好的资本渠道,拥有最好的AI研究员,一路狂奔,突然之间就只剩下一家巨头公司。那将是非常糟糕的。”