采台积电5纳米制程，Meta下一代自研AI芯片性能提升3倍

darthracer · 2024-5-17 23:28

Meta去年公开首款自研芯片MTIA（Meta Training and Inference Accelerator）成果，第一代MTIA（MTIA v1）即采台积电7纳米制程，下一代MTIA同样委由台积电生产。

在英特尔、Google发布最新AI芯片之后，Meta 10日也公开自研芯片开发成果。MTIA v1后继产品官方称为下一代MTIA（Next Gen MTIA），它执行的模型用于处理与AI推荐系统相关的工作。与台积电7纳米制程构建的MTIA v1相比，下一代MTIA采用5纳米制程。

下一代MTIA配备更多处理核心，拥有更多on-chip memory（256MB对比MTIA v1 128MB）和off-chip LPDDR5（128GB对比MTIA v1 64GB），并以更高的平均时脉速度运行，从800MHz上升到1.35GHz，同时功耗增加（90W对比MTIA v1 25W）。

Meta指出，下一代MTIA目前已投入16个数据中心区域使用。Meta评估的四个关键模型中，下一代MTIA性能比MTIA v1提升3倍，“由于我们控制整个堆栈，所以与商用GPU相比，可以完成更高的运算效率”，Meta博客文章写道。

Meta也透露，目前还没有使用下一代MTIA训练生成式AI，尽管该公司声称有多项项目正在进行。此外，Meta承认下一代MTIA不会取代目前用于训练模型的GPU，而是补充计算资源。

英特尔最新发布Gaudi 3，声称能源效率比NVIDIA H100芯片高40%，推论速度快50%。Google正向Google Cloud客户推出用于训练AI模型的TPU v5p，并发布首款为数据中心设计的Arm架构AxionCPU。亚马逊拥有多款自研AI芯片，微软去年也已AI芯片Azure Maia 100和云计算处理器Azure Cobalt 100参战。

Meta近年不遗余力加强AI技术开发，自行研发定制化芯片以满足运算需求。该公司一直是NVIDIA H100 GPU的大客户，今年底前Meta运算基础设施预计采购达到35万颗H100。同时MTIA系列芯片开发也将加速进行，希望在AI军备竞赛赶上竞争对手。

采台积电5纳米制程，Meta下一代自研AI芯片性能提升3倍

浏览过的版块