英伟达GTC会议来袭!新一代Blackwell GPU架构面世

閱讀時間約 8 分鐘

当地时间周一(3月18日),备受瞩目的英伟达年度GTC会议在加州圣何塞拉开帷幕。

时隔五年,英伟达再次线下举办起了年度GTC会议,故外界对此次大会期待值很高。英伟达方面也没有让大家失望,一次性介绍了多个公司的最新成果。

新一代Blackwell GPU架构

在此次大会上,最引人瞩目的就是英伟达推出的新一代Blackwell GPU架构。

官方介绍称,Blackwell可使全球机构都能够在万亿参数的大语言模型(LLM)上构建和运行实时生成式AI,其成本和能耗较上一代产品降低多达25倍

Blackwell GPU

Blackwell GPU

官方表示,Blackwell GPU架构搭载六项变革性的加速计算技术:

●全球最强大的芯片:Blackwell架构GPU具有2,080亿个晶体管,采用台积电4纳米(nm)工艺制造,通过10TB/s的片间互联,将GPU裸片连接成一块统一的GPU。

●第二代Transformer引擎:得益于全新微张量缩放支持,以及集成于英伟达TensorRT™-LLM和NeMo Megatron框架中的英伟达先进动态范围管理算法,Blackwell将在新型4位浮点AI推理能力下实现算力和模型大小翻倍。

●第五代NVLink:为了提升万亿级参数模型和混合专家AI模型的性能,第五代NVLink为每块GPU提供突破性的1.8TB/s双向吞吐量,确保多达576块GPU之间的无缝高速通信,可以满足当今最复杂LLM的需求。

●RAS引擎:采用Blackwell架构的GPU包含一个用于保障可靠性、可用性和可维护性的专用引擎。此外,Blackwell架构还增加了多项芯片级功能,能够利用AI预防性维护来运行诊断并预测可靠性相关的问题。这将最大程度地延长系统正常运行时间,提高大规模AI部署的弹性,使其能够连续不间断运行数周乃至数月,同时降低运营成本。

●安全AI:先进的机密计算功能可以在不影响性能的情况下保护AI模型和客户数据,并且支持全新本地接口加密协议,这对于医疗、金融服务等高度重视隐私问题的行业至关重要。

●解压缩引擎:专用的解压缩引擎支持最新格式,通过加速数据库查询提供极其强大的数据分析和数据科学性能。未来几年,每年需要企业花费数百亿美元的数据处理将越来越多地由GPU加速。

凭借上述技术,Blackwell能够在拥有高达10万亿参数的模型上实现AI训练和实时LLM推理。英伟达表示,这些技术将助推数据处理、工程模拟、电子设计自动化、计算机辅助药物设计、量子计算和生成式AI等领域实现突破。

超大规模的超级芯片

英伟达还介绍了GB200 Grace Blackwell超级芯片

官方称,该超级芯片是通过900GB/s超低功耗的片间互联,将两个英伟达B200 Tensor Core GPU与Grace CPU相连。

GB200是英伟达GB200 NVL72的关键组件。GB200 NVL72是一套多节点液冷机架级扩展系统,适用于高度计算密集型的工作负载。它将36个GraceBlackwell超级芯片组合在一起,其中包含通过第五代NVLink相互连接的72个Blackwell GPU和36个Grace CPU。

GB200 NVL72规格

GB200 NVL72规格

此外,GB200 NVL72还内置BlueField®-3数据处理器,可在超大规模AI云中实现云网络加速、组合式存储、零信任安全和GPU计算弹性。对于LLM推理工作负载,相较于同样数量的H100,GB200 NVL72最高可提供30倍的性能提升以及多达25倍的成本和能耗降低。

值得一提的是,该平台可作为一个单GPU,具有1.4 exaflops的AI性能和30TB的快速内存,是组成最新一代DGX SuperPOD的基础模块。

已有多家企业“属意”Blackwell架构

英伟达方面透露,其合作伙伴将从今年晚些时候开始供应采用Blackwell架构的产品。

其中,亚马逊的AWS、谷歌云、微软的Azure、甲骨文云基础设施将成为首批提供 Blackwell 驱动实例的云服务提供商

Indosat Ooredoo Hutchinson、Nebius、Nexgen Cloud、Oracle EU Sovereign Cloud、Oracle美国/英国/澳大利亚政府云、新加坡电信等主权AI云也将提供基于Blackwell架构的云服务和基础设施。

GB200 还将通过 NVIDIA DGX™ Cloud 提供,NVIDIA DGX™ Cloud 是一个与领先的云服务提供商共同设计的 AI 平台,可为企业开发人员提供专门的基础设施和软件访问权限,使他们能够构建并部署先进的生成式 AI 模型。AWS、谷歌云和甲骨文云基础设施计划在今年晚些时候托管采用Grace Blackwell的新实例。

此外,思科、戴尔、联想和超微预计将提供基于Blackwell产品打造的各种服务器。永擎电子、华硕、Foxconn、技嘉、和硕等多家企业也将提供基于Blackwell的服务器。

此外,越来越多的软件制造商网络,包括工程仿真领域的全球领导者 Ansys、Cadence 和 Synopsys,将使用基于Blackwell的处理器来加速其用于设计和仿真电气、机械和制造系统及零件的软件。他们的客户可以更低成本、更高能效地使用生成式 AI 和加速计算,来加速产品上市。

生成式AI微服务

在GTC大会期间,英伟达推出数十项企业级生成式AI微服务,企业可以利用这些微服务在自己的平台上创建和部署定制应用,同时保留对知识产权的完整所有权和控制权。

包括Adobe、Cadence、CrowdStrike、Getty Images和SAP在内的诸多领先应用、数据和网络安全平台提供商已经率先使用了英伟达AI Enterprise 5.0中提供的这些全新生成式AI微服务。

英伟达创始人兼首席执行官黄仁勋表示:“成熟的企业平台坐拥数据金矿,这些数据可以转化为生成式AI助手。我们与合作伙伴生态系统一起创建的这些容器化AI微服务,是各行业企业成为AI公司的基石。”

生成式AI微服务

生成式AI微服务

NIM微服务提供基于英伟达推理软件的预构建容器,可以使开发者能够将部署时间从几周缩短至几分钟。它们为语言、语音和药物发现等领域提供行业标准API,使开发者能够使用安全托管在自己的基础设施中的专有数据,来快速构建AI应用。

NIM微服务将为谷歌、Meta、微软等多家企业的开放模型提供了快速且性能出色的生产级AI容器。

此外,为了加快AI采用,企业还可以使用CUDA-X微服务,包括用于定制语音和翻译AI的Riva、用于路由优化的cuOpt™,以及用于高分辨率气候和天气模拟的Earth-2。

英伟达表示,更多用于定制模型开发的NVIDIA NeMo™ 微服务即将陆续发布,其中包括构建用于训练和检索的简洁数据集的NeMo Curator、用于利用特定领域数据微调LLM的NeMo Customizer、用于分析 AI 模型性能的NeMo Evaluator 以及用于LLM的NeMo Guardrails。

人形机器人通用基础模型——Project GR00T

在GTC上,英伟达发布了人形机器人通用基础模型Project GR00T,为大家展示了其在机器人和具身智能方面的突破。

据官方介绍,GR00T驱动的机器人将能够理解自然语言,并通过观察人类行为来模仿动作——快速学习协调、灵活性和其它技能,以便导航、适应现实世界并与之互动。

Project GR00T

Project GR00T

英伟达还发布了一款基于Thor系统级芯片(SoC)的新型人形机器人计算机Jetson Thor

该SoC包括一个带有transformer engine的下一代GPU,其采用Blackwell架构,可提供每秒800万亿次8位浮点运算AI性能,以运行GR00T等多模态生成 AI模型。凭借集成的功能安全处理器、高性能CPU集群和100GB以太网带宽,大大简化了设计和集成工作。

英伟达透露,其正在为领先的人形机器人公司开发一个综合的AI平台,如1X Technologies、Agility Robotics、波士顿动力公司、Figure AI、宇树科技等。

此外,英伟达对Isaac机器人平台也进行了重大升级。GR00T使用的Isaac工具还能够为在任何环境中的任何机器人创建新的基础模型。这些工具包括用于强化学习的Isaac Lab和用于计算编排服务的 OSMO。不过,新的Isaac平台功能要到下个季度才会推出。

#英伟达##英伟达芯片##人工智能##AI#

    1會員
    74內容數
    留言0
    查看全部
    發表第一個留言支持創作者!