微软推出自家企业人工智能芯片“Maia”和“Cobalt”，引领AI芯片行业进步

Microsoft Azure Maia AI 加速器是 Microsoft 设计的第一个用于 Microsoft 云中的大型语言模型训练和推理的加速器

微软宣布推出两款新的企业内部芯片：Azure Maia 100 和 Azure Cobalt 100，以加强其计算基础设施业务。

这些芯片在本周于西雅图举行的微软 Ignite 2023 大会上展示，这是这家科技巨头最大的年度全球活动，为企业提供高效、可扩展和可持续的计算，以利用最新的云和人工智能突破。

微软表示，它们代表了其使命中的最后一块拼图，即通过自己和合作伙伴提供的硬件和软件来提供灵活的基础设施系统，并且可以对其进行优化以满足不同的工作负载要求。

正如该公司所解释的那样，Maia 是其人工智能加速器，旨在为生成人工智能工作负载运行基于云的训练和推理。同时，Cobalt 是一款基于 Arm 的芯片，旨在高效处理通用工作负载。这两项产品将于明年部署在 Azure 中，首先是微软自己的数据中心驱动其Copilot和 Azure OpenAI 服务。

微软云+人工智能集团执行副总裁 Scott Guthrie 在一份声明中表示：“我们正在重新构想数据中心的各个方面，以满足客户的需求。” “就我们的运营规模而言，优化和集成基础设施堆栈的每一层以最大限度地提高性能、实现供应链多元化并为客户提供基础设施选择非常重要。”他补充道。

虽然微软没有分享具体的性能统计数据，但该公司确实指出，Maia AI 芯片可以处理 Microsoft Azure 上运行的一些最大的 AI 工作负载，从训练语言模型到推理。该芯片专为 Azure 硬件堆栈而设计，使其能够在处理工作负载时实现硬件的绝对最大利用率。

多年来，它与OpenAI合作开发了加速器。具体来说，该公司在 Sam Altman 领导的生成人工智能独角兽构建的模型上进行了测试，并利用反馈进行必要的更改。

“当微软首次分享他们的 Maia 芯片设计时，我们感到非常兴奋，我们共同努力改进并使用我们的模型对其进行测试。Azure 的端到端 AI 架构现已通过 Maia 优化至芯片，为训练功能更强大的模型并使这些模型对我们的客户来说更便宜铺平了道路。”Altman 在一份声明中表示。

与 Maia 一样，Cobalt 的功能在很大程度上也处于保密状态。然而，有一件事非常明确：该芯片将处理 Azure 上的通用工作负载，重点关注能源效率。基于 Arm 的设计可确保其经过优化，最大限度地提高每瓦性能，确保数据中心每消耗单位能源就能获得更多计算能力。

“架构和实施的设计考虑到了功效。我们正在最有效地利用硅上的晶体管。微软硬件产品开发公司副总裁韦斯·麦卡洛 (Wes McCullough) 表示：“将我们所有数据中心服务器的效率提升相乘，这将是一个相当大的数字。”

更重要的是，由于这两种芯片都是内部设计的，微软将把它们安装在定制服务器主板上，放置在定制的机架内，可以轻松地安装在现有的公司数据中心内。对于 Maia 机架，该公司还设计了“助手”，将冷液体引导到芯片的冷板，确保在处理大功率使用情况时不会升温。

Microsoft 实验室内的 Maia 100 AI 加速器及其“助手”的定制机架。该助手的作用就像汽车散热器，在处理人工智能工作负载的计算需求时。在机架之间循环液体来冷却芯片

作为其灵活系统方法的一部分，微软还通过扩大对合作伙伴硬件的支持来支持其定制芯片。该公司表示，已经推出了专为 Nvidia H100 Tensor Core GPU 构建的新型 NC H1​00 v5 虚拟机系列的预览版，并将很快将最新的Nvidia H200 Tensor Core GPU 添加到其数据中心机群中。它还计划将 AMD MI300X 加速虚拟机添加到 Azure，以加速 AI 工作负载的处理，以进行高级 AI 模型训练和生成推理。

这种方法为公司的客户提供了多种选择，具体取决于他们的性能或成本需求。

截至目前，微软计划明年推出新芯片。它已经开始开发第二代产品。

参考链接：https://venturebeat.com/ai/microsoft-strengthens-infrastructure-play-with-in-house-maia-and-cobalt-chips/