上个月就有报道称,微软和OpenAI正在开发自己的AI芯片,并计划在11月发布,希望可以更高效、更低成本地适配其开发的大型语言模型(LLM),满足未来算力的需求。此前微软先后向OpenAI投资了数十亿美元,利用英伟达最新的H100计算卡,以满足处理训练和扩展AI所需的巨大计算负载。
这次开发者大会上,微软宣布推出其芯片实验室设计的两款定制芯片,分别是Azure Maia 100 AI加速器和Azure Cobalt 100处理器。
微软表示,目前这些芯片都处于“部署的第一阶段”,明年初会出现在数据中心,首先用于运行Copilot、Azure OpenAI和其他服务。微软没有透露具体有多少芯片可用,但即便有了自己的定制芯片,未来仍将使用英伟达和AMD等合作伙伴的芯片为客户服务。
Azure Maia 100 AI加速器所使用的GPU就是代号为“雅典娜(Athena)”的项目,基于台积电(TSMC)的5nm工艺制造,拥有1050亿个晶体管,目前初始服务器正在接受GPT 3.5 Turbo的测试。Azure Cobalt 100处理器拥有128核心,支持64位Armv9指令集,使用了Arm为微软定制的Neoverse CSS平台,可能是基于Neoverse N2内核。
微软称,Maia的服务器采用完全定制的基于以太网的网络协议设计,可实现更好的扩展性和端到端工作负载性能。
郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。