微软今日发布第三代自研AI芯片Maia 300,旨在成为微软产品和服务的"主要AI推理系统"。Maia 300不仅降低了云端运行AI工作负载的成本、提升了效率,还更擅长处理最新的推理模型和智能体(agentic)任务。
Maia 300将于2027年开始投入生产部署,其设计以效率为核心。微软云事业部执行副总裁Scott Guthrie表示:“我们预计Maia 300每兆瓦可输出的token数量将比领先的GPU系统多40%。而在完整的96加速器配置下,其机架级token吞吐量最高可达Maia 200的7倍。”
这些效率提升将使微软很快能够主要依赖自家AI芯片,而非来自Nvidia和AMD的芯片。Guthrie表示:“从2027年起,我们将把Azure Maia系列扩展至吉瓦级(multi-gigawatt)部署,使Maia成为微软产品和服务的核心AI推理系统。”
Maia 300芯片将于2027年开始用于生产工作负载。 图片来源:Microsoft
Maia 300是Maia 200的继任者,后者于今年1月才刚刚发布。Maia 200目前已应用于微软的多项生产AI工作负载,包括Microsoft Copilot、GitHub Copilot、Microsoft Foundry以及微软自己的AI模型。
Guthrie表示:“以AI服务的真实世界指标衡量,Maia 200是我们整个机群中性能最好的AI基础设施。而Maia 300是一套完整的AI系统,专为当今涌现的新型AI工作负载而设计:长上下文推理、对延迟敏感的对话体验,以及持续的多步骤智能体任务。”
微软采用全新的chiplet(芯粒)架构来实现至关重要的效率提升。最新Maia 300架构基于TSMC的N2P工艺节点打造,将计算、内存控制器和I/O功能分离。Azure硬件与基础设施团队表示:“这增加了专用于计算性能的硅片面积,并允许每个功能采用最适合其角色的制程技术。”
Maia 300也是微软自有AI模型研发工作的关键一环,有望帮助公司实现追赶Google DeepMind、OpenAI和Anthropic的目标。微软AI CEO Mustafa Suleyman表示:“我们必须打通全栈,一直深入到芯片层。在这样的规模下,我们需要一个自己拥有、并与我们的模型协同设计的平台。这就是为什么在Maia芯片之上运行我们的Microsoft AI模型是团队的重点工作。”