Meta发布新一代MTIA芯片:AI性能大幅提升

【HowToTech科技】4月11日消息,meta
Platforms于近日发布了其专为AI工作负载设计的定制芯片系列——训练与推理加速器项目(MTIA)的最新版本。

据meta官方介绍,新一代MTIA相较于初代,在性能上有了显著的提升,这种提升特别有助于加强内容排名和推荐广告模型的效果。新一代MTIA的设计理念在于寻求计算、内存带宽和内存容量三者之间的理想平衡。这一改进不仅优化了芯片的性能,更使得推理任务(即实际推理工作)的执行变得更为顺畅。

据HowToTech科技了解,meta在其官方声明中强调,实现他们在定制芯片领域的雄心,需要将投资视野扩展到计算芯片以外的领域,包括内存带宽、网络以及容量等下一代硬件系统。这表明meta正致力于打造一个全方位的、高效的AI硬件生态系统。

目前,MTIA的主要应用是训练排名和推荐算法,但meta的目标并不仅限于此。他们期待未来能扩展MTIA的功能,将其应用到生成式人工智能的训练中,例如训练其Llama语言模型。

技术规格方面,新一代MTIA芯片配备了256MB的片上内存,主频达到1.35GHz,采用台积电5nm工艺制造,相比第一代产品的128MB内存和800MHz主频有了明显的改善。根据meta的早期测试结果,新芯片的性能在评估的四种型号中均达到了第一代的三倍。

目前,这款芯片已经在数据中心得到部署,并正积极为AI应用提供服务。随着技术的不断进步,我们期待MTIA能在未来发挥出更大的潜力,推动AI领域的发展。

大鱼的头像

这个人很懒,什么都没有留下~

延伸阅读:

OpenAI 测试长输出版 GPT-4o:单次输出达64K tokens

【HowToTech科技】8月1日消息,OpenAI在7月29日透露,他们正在对一款名为GPT-4o Long Outp...

大鱼的头像
大鱼
2024 年 8 月 1 日
ISC.AI2024数字安全峰会:360、华为、微软等共话安全+AI新挑战

7月31日,ISC.AI 2024数字安全峰会在北京国家会中心顺利召开。峰会以“打造安全大模型,引领安全行业革命”为主题...

大鱼的头像
大鱼
2024 年 7 月 31 日
ISC.AI2024开幕 周鸿祎发布国内首个免费安全大模型

“把大模型拉下神坛就要把免费贯彻到底,今天我在行业里第一个宣布安全大模型免费。”7月31日,ISC.AI2024第十二届...

大鱼的头像
大鱼
2024 年 7 月 31 日
阿里通义免费开放奥运AI大模型

7月31日,阿里通义宣布免费开放奥运AI大模型,具备最强奥运专业知识,并集合同声传译级别的中法互译功能。即日起,用户可以...

大鱼的头像
大鱼
2024 年 7 月 31 日
实时对话更自然,OpenAI 向部分付费订阅用户开放 GPT-4o 语音模式

【HowToTech科技】7月31日消息,OpenAI于当地时间30日宣布,即日起GPT-4o的语音模式(注:Alpha...

大鱼的头像
大鱼
2024 年 7 月 31 日