Meta 加速 AI 开发, AI 芯片等三大项目进展
NFT中文社区 元宇宙动态 2023-05-22 10:42:29 · 热度999

来源:NFT中文社区

编辑丨Bowen@Web3CN.Pro

Facebook 母公司 Meta 于美东时间 5 18 日在多篇文章中披露了有关其人工智能 AI 项目的新进展继在元宇宙、AI 项目发力后,Meta 又将目光聚焦在芯片上。

以 AI 为核心的基础设施

自 2010 年 Meta 的第一个数据中心破土动工以来,已经逐渐建立起全球性的基础设施。据了解,目前 Meta 数据中心每天为超过 30 亿人提供 Meta 应用程序(包括Facebook 、Instagram、Messenger、WhatsApp等)服务引擎。

AI 是 Meta 数据系统的重要组成部分,从2015 年的 Big Sur 硬件到 PyTorch 的开发,再到用于 AI 研究的超级计算机,Meta 正在构建以 AI 为核心的基础设施。此次公布的项目进展细节包括:

1. MTIA 芯片

MTIA(Meta Training and Inference Accelerator, Meta训练和推理加速器)是 Meta 针对训练和推理工作负载加速器的内部定制芯片。通过部署 MTIA 芯片和 GPU,Meta 将为每个工作负载提供更好的性能、更少的延迟和更高的效率。

2. 下一代数据中心

Meta 的下一代数据中心设计将支持其当前的产品,同时支持未来几代人工智能 AI 硬件的训练和推理。这个新的数据中心将采用人工智能优化设计,支持液冷人工智能硬件和高性能人工智能网络,将数千个人工智能芯片连接在一起,形成数据中心规模的人工智能训练集群。

Meta 加速 AI 开发,公布 AI 芯片等三大项目进展

图源:Meta

3. RSC AI 超级计算机

RSC(Research SuperCluster)是 Meta 研究团队建造的AI超级计算机。RSC旨在训练下一代大型 AI 模型以支持新的增强现实工具、内容理解系统、实时翻译技术等等。它具有 16,000 个英伟达A100 GPU,所有 GPU 均可通过 3 级 Clos 网络结构访问,为 2,000 个训练系统中的每一个提供全带宽。Meta将使用这台超级计算机训练其LLaMA大语言模型及其他技术。

MTIA 芯片引发关注

根据官方消息,Meta 于 2020 年为其 AI 模型构建了第一代硅芯片,采用台积电7纳米工艺制造,名为 MTIA,是同名MTIA项目的部分工作。芯片运行频率为800MHz,在 INT8 精度下提供 102.4TOPS 算力,在 FP16 精度下提供51.2TFLOPS 算力。

打造第一代芯片的目的是提高推荐模型的效率,模型服务于广告和其他新闻推送内容。一代MTIA可以将内部 128MB 的内存扩展到高达 128GB。

在 Meta 设计的基准测试中,MTIA 处理了低等和中等复杂度的AI模型,效率比GPU高,但同时 Meta 也承认,MTIA 在处理高复杂度 AI 模型时遇到了问题。

Meta 加速 AI 开发,公布 AI 芯片等三大项目进展

图源:Meta

此次,Meta 公布的 MTIA 项目最新进展细节显示,MTIA采用开源芯片架构RISC-V,它的功耗仅有 25 瓦,远低于英伟达等主流芯片厂商的产品功耗。

Meta 表示,芯片在内存和网络领域的工作还未完成,随着 AI 模型发展,这些工作会出现瓶颈。目前,MTIA 的重点放在 Meta 应用家族的推理,而不是训练,也就是利用已经训练好的人工智能模型做出预测或采取行动。

Meta 工程副总裁 Aparna Ramani 表示,该公司的新硬件是为了与其自主开发的 PyTorch 软件高效配合,后者已经成为第三方开发者开发人工智能应用时最常用的工具之一。这款新硬件最终可以用于执行与元宇宙相关的任务,比如虚拟现实和增强现实,还能用于新兴的生成式人工智能技术。

MTIA 芯片专供 Meta 内部使用,具体配置时间表暂未透露。

Meta 加速 AI 开发

有消息称,谷歌正在用简称TPU的处理器训练 PaLM-2 等旗下大型生成式 AI 系统;亚马逊为云服务 AWS 的客户提供训练和推理的专属芯片;微软在与 AMD 合作开发名为 Athena 的自有 AI 芯片。

在此竞争之下,Meta 似乎正努力追赶其他硅谷科技企业的步伐。

目前,Meta 已为该公司的程序员开发了生成式人工智能编程助手,帮助其简化软件开发和运营过程。这款新的助手类似于微软 2021 年在人工智能创业公司 OpenAI 的帮助下推出的 GitHub Copilot 工具。

同时,Meta 推出针对研究社区的大型语言模型LLaMA(Large Language Model Meta AI) ,可以在非商业许可下提供给政府、社区和学术界的研究人员和实体工作者。AI 产品将率先用于广告功能,针对不同的用户,让AI根据算法自动生成广告。

这些模型的性能非常优异,具有130亿参数的 LLaMA 模型在大多数基准上可以胜过 GPT-3,而且可以在单块 V100 GPU 上运行;最大的650亿参数的 LLaMA 模型可以媲美谷歌的 Chinchilla-70B 和 PaLM-540B。

Meta之所以自定义设计其大部分基础设施,主要是因为这能使其优化端到端的体验,包括从物理层到软件层再到实际的用户体验。因为从上到下控制堆栈,所以其可以根据自己的特定需求对其进行定制。这些基础设施将支持Meta开发和部署更大规模、更复杂的AI大模型。

AI 和元宇宙两手抓

4 月 26 日消息,从Meta 发布 2023 年第一季度财报显示,期内营收同比增长3% 至 286.45 亿美元,高于分析师预期的 276.5 亿美元,打破连续三个季度同比下降的局面。

对于公司未来的布局,扎克伯格表示要 AI、元宇宙两手抓。AI 和元宇宙其实是相关的,比如混合现实其实建立于 AI 技术之上,其对 AR 眼镜的计划包含了一个以 AI 为中心的操作系统;反过来也是一样,元宇宙技术也将有助于推动 AI 发展。

扎克伯格提到:“有声音说我们减少了对元宇宙的关注,我想说这种说法并不准确,多年来我们一直在关注 AI 和元宇宙,未来我们仍然会继续在这两个领域深耕。”

参考:

Meta:Reimagining Our Infrastructure for the AI Age

华尔街见闻:Meta发力AI:官宣训练和推理芯片项目,首款定制AI芯片超低功耗

Cryptoslate:Meta reveals new details about in-house AI chips

澎湃新闻:Meta一季度营收转增!小扎要AI元宇宙两手抓,还在准备下一个里程碑

文章推荐
区块链头条
2023-02-03
3785

人工智能和区块链:技术的未来

人工智能算法可用于检测和防止欺诈交易,而区块链技术可以提供确保金融交易真实性所需的透明度和安全性。DeFi是一个基于区块链技术的新金融生态系统,其中各种去中心化的应用程序和协议提供各种金融服务,如借贷和交易。
元宇宙动态
元宇宙之心MetaverseHub
2023-01-14
5513

人工智能与环境结合,将为地球保护带来怎样的启发?

目前,人工智能已经广泛地存在于研究领域,如健康和环境保护等。METAVERSE连接AI和环境的应用程序人工智能备受关注的应用之一是它在消防中的应用。人工智能和环境结合在一起的另一个关键领域是通过研究气候变化影响海洋的变化来保护海洋。
元宇宙动态
清元宇宙
2022-12-17
9892

科幻电影终成现实?

对于人工智能最直观的解释,可能来自好莱坞电影。
元宇宙动态
巴比特资讯
2022-11-21
10181

万字长文讲透AI艺术:缘起、意义和未来(下篇)

AI 艺术更为直接的是一场新消费变革,但以未来为终局,其必将是一场新技术变革,这是自十多年前移动互联网革命以来久违的一幕,让开源生态点燃的这星星之火燃遍新十年创业的每个角落。
AI
元宇宙动态
清元宇宙
2022-12-18
4046

能搬箱子、会浇花,特斯拉“擎天柱”降临!

在2022特斯拉人工智能日上,一位“重量级嘉宾”的出场,点燃了全场的气氛。
元宇宙动态
清元宇宙
2022-12-18
4046

能搬箱子、会浇花,特斯拉“擎天柱”降临!

在2022特斯拉人工智能日上,一位“重量级嘉宾”的出场,点燃了全场的气氛。
元宇宙动态
松果财经
2022-09-18
11290

AI小冰:如果虚拟人有“灵魂”,它将如何融入社会?

相比技术带来的风险,超级自然虚拟人以何种方式融入人类社会才是最大的考验。AI being服务各个生活场景的商业化蓝图,才刚刚展露一角。
元宇宙动态
清元宇宙
2022-07-15
5542

当AI开始对月吟诗醉酒,它的情感真的与人类互通了吗?

人工情感的研究最终应回归到人本身,它形成情感在“人—技术”之间的双向给予,通过技术手段洞悉人类情感发生机制,成为克服个人情感匮乏、缓解社会情感淡漠、实现人的全面发展的新途径。
元宇宙动态
手游矩阵
2022-07-02
12991

让人们“用嘴画画”的AI,真的会取代人类画师吗?

近段时间,这样的言论在互联网上越来越频繁的出现,似乎相当一部分人对于绘画艺术的行业前景正在失去信心,而造成这种现象的,是近两年接连问世的一系列绘画AI。
元宇宙动态
清元宇宙
2022-06-28
6665

百万年薪抢人才!哪些元宇宙对口专业是今年填报大热门?

挑选出涵盖各个技术的十个元宇宙相关专业进行了数据分析,包括人工智能、虚拟与现实技术、计算机科学等专业,让我们来看看哪个专业会是今年志愿填报的大热门吧!
元宇宙动态
1
2
NFT中文社区
0
0