英伟达GTC大会看点:Blackwell芯片、推理微服务NIM、人形机器人

北京时间3月19日,英伟达创始人兼首席执行官黄仁勋在美国加州圣何塞SAP中心拉开了GTC大会帷幕,这是时隔5年重回线下的会议,现场吸引了11000多名与会者。大会上黄仁勋演讲了长达120分钟的主题分享《见证AI的变革时刻》,并发布了最新技术Blackwell 架构、NIM微服务、Omniverse Cloud API等。

1、最新芯片技术Blackwell

黄仁勋在主题演讲中表示,英伟达将推出用于万亿参数级生成式AI的NVIDIA Blackwell架构。搭载Blackwell技术,英伟达将推出B200和GB200系列芯片。Blackwell 能大幅提高大模型的训练、推理效率。在 FP8 训练方面,Blackwell 的每芯片性能是其前身的 2.5 倍,在FP4推理方面的性能是其前身的 5 倍。它具有第五代 NVLink互连,速度是 Hopper 的两倍,并且可扩展至 576个GPU。

“加速计算已经达到临界点——通用计算已经失去动力,我们需要新的计算方式,来持续降低计算成本。加速计算普遍比通用计算速度更快!” 为了对全球人工智能基础设施进行大规模升级,黄仁勋推出了 NVIDIA Blackwell平台,满足客户在万亿参数大型语言模型上构建和运行实时生成式AI。

据介绍,Blackwell GPU拥有2080亿个晶体管,而H100/H200有800亿个晶体管,采用台积电4NP工艺制程,可以支持多达10万亿个参数的AI大模型。GB200将两个B200 Blackwell GPU与一个基于Arm的Grace CPU进行配对。

新的芯片架构和技术将极大改善能耗。黄仁勋举例称,如果要训练一个1.8万亿参数量的GPT模型,需要8000张Hopper GPU,消耗15兆瓦的电力,连续跑上90天。但如果使用Blackwell GPU,只需要2000张,跑90天只要消耗4兆瓦的电力。

据悉,在Blackwell产品正式发布之前,亚马逊、微软、谷歌等企业已经准备使用该产品。英伟达表示,新芯片预计将于今年上市,但目前还未公布相关售价信息。

02. 推理微服务NIM:软件服务全面升级

黄仁勋指出,生成式人工智能已经彻底改变了软件开发的方式,不再是传统意义上的编程。此次英伟达推出了一项全新的推理微服务NIM,该服务是通过一种交付快速推理模型的新方法来加速和优化生成式AI大语言模型的部署,用户可以在这里体验各种AI应用,企业可以在这里创建和部署自定义的AI应用。

黄仁勋介绍了英伟达如何使用NIM创建一个内部聊天机器人,旨在解决构建芯片时遇到的常见问题。“我们需要一个模拟引擎,以数字方式为机器人呈现世界,”他说,这就是 Omniverse。这些“微服务”将允许开发人员使用专有和自定义模型快速创建和部署“副驾驶”或人工智能助手。

此外,企业级数字孪生和沉浸式内容创建中心Omniverse将在Apple Vision Pro上首次亮相。通过英伟达Omniverse的云API和图形交付网络 (GDN),人们现在将可以轻松将3D应用的OpenUSD(交互式通用场景描述)实时串流到Vision Pro混合头显中。

03.人形机器人: 下一波AI浪潮

英伟达发布了人形机器人基础模型“GR00T项目”,这是一款基于英伟达Jetson嵌入式系统和Isaac Sim机器人仿真器的机器人模型。它可以理解自然语言,通过观察人类动作来模拟运动、学习走路,还具备了一定的自主导航、物体识别和抓取等能力。迪士尼的机器人也来到大会现场,它用的就是英伟达Jetson芯片。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mfbz.cn/a/476112.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

如何在edge上安装拓展weTab

1.点解管理拓展 2.点击获取拓展 3.搜索框输入"wetab"并搜索 4.点击获取按钮 5.点击之后跳出弹窗,点击"添加拓展" 6.回到拓展页面,找到wetab拓展,点击右侧启动拓展 7.打开新的界面,wetab已经启动 8.自定义界面 1. 右键图标可以进行删除操作 2.左下角有个设…

Vue3学习记录(七)--- 组合式API之指令和插件

一、内置指令 1、v-memo ​ 该指令是Vue3的v3.2版本之后新增的指令,用于实现组件模板缓存,优化组件更新时的性能。该指令接收一个固定长度的依赖值数组,在组件进行更新渲染时,如果数组中的每个依赖值都与上一次渲染时的值相同&a…

基于SSM的校园失物招领系统设计与实现+数据库+免费远程调试

项目介绍: 基于SSM的校园失物招领系统设计与实现。Javaee项目,采用M(model)V(view)C(controller)三层体系结构,通过Spring SpringMvc Mybatis JspVuelayuiElementui来实现。MySQL数…

Python脚本:用py处理PDF的五大功能

一、代码 【第三方库】3个 【Py版本】3.9 【使用前提】关闭所有的word文档 import os from datetime import datetime from docx2pdf import convert from pdf2docx import parse from PyPDF2 import PdfMerger from PyPDF2 import PdfReader,PdfWriter#将文件夹中的所有Wo…

模板高级使用(非类型模板参数,特化,分离编译)

文章目录 模板没有实例化取内嵌类型报错问题非类型模板参数模板的特化函数模板的特化类模板的特化1.全特化2.偏特化 模板的分离编译 模板没有实例化取内嵌类型报错问题 首先在这里分享一个模板的常见报错问题。就是模板的在没有实例化的情况下去取模板类里面的内嵌类型这时候的…

算法---二分查找

二分查找 1. 简述朴素的二分模板 2. 万能模板原理解释查找左端点查找右端点 查找左边界的二分模板查找右边界的二分模板 1. 简述 二分查找算法是一种在有序数组中查找特定元素的算法。它通过将数组分成两部分,并重复比较目标元素与中间元素的大小关系,从…

模板(初阶)

一、介绍: 1.1模板目的: 将重复的活,从程序员手中交给编译器执行。 1.2泛型编程: 编写与类型无关的通用代码,实现代码的复用。 二、函数模板: 2.1函数模板: 函数模板代表了一个函数家族&…

L4 级自动驾驶汽车发展综述

摘要:为了减小交通事故概率、降低运营成本、提高运营效率,实现安全、环保的出行,自动驾驶 技术的发展已成为大势所趋,而搭配有L4 级自动驾驶系统的车辆是将车辆驾驶全部交给系统。据此,介绍了自动驾驶汽车的主流技术解决方案;分析了国内外L4 级自动驾驶汽车的已发布车型、…

Java:接口

目录 1.接口的概念2.接口的语法规则3.接口使用4.接口的特性5.实现多个接口6.接口中的继承7.抽象类和接口的区别 1.接口的概念 在现实生活中,接口的例子比比皆是,比如:笔记本上的USB口,电源插座等。 电脑的USB口上,可以…

【华为OD机试】悄悄话花费的时间【C卷|100分】

【华为OD机试】-真题 !!点这里!! 【华为OD机试】真题考点分类 !!点这里 !! 题目描述 给定一个二叉树,每个节点上站着一个人,节点数字表示父节点到该节点传递悄悄话需要花费的时间。初始时,根节点所在位置的人有一个悄悄话想要传递给其他人,求二叉树所有节点上的人都接收…

2024.03.21作业

自由发挥实现一个登录窗口的应用场景 widget.h #ifndef WIDGET_H #define WIDGET_H#include <QPen> #include <QBrush> #include <QPainter> #include <QWidget>QT_BEGIN_NAMESPACE namespace Ui { class Widget; class Painter; } QT_END_NAMESPACE…

Vue 3中实现基于角色的权限认证实现思路

一、基于角色的权限认证主要步骤 在Vue 3中实现基于角色的权限认证通常涉及以下几个主要步骤&#xff1a; 定义角色和权限&#xff1a;首先需要在后端服务定义不同的角色和它们对应的权限。权限可以是对特定资源的访问权限&#xff0c;比如读取、写入、修改等。用户认证&#…

CSS问题精粹1

1.关于消除<li>列表前的符号 我相信很多人在初学CSS时会遇到该问题&#xff0c;无论是创作导航&#xff0c;还是列表&#xff0c;前面都会有个黑点点或其它符号。 解决该问题其实很简单 采用list-style-type:none或list-style:none直接解决 如果你想更换前面的黑点点&a…

Redis笔记(4)

目录 事务 管道 发布/订阅&#xff08;了解&#xff09; Redis复制&#xff08;replica&#xff09; 哨兵&#xff08;sentinel&#xff09;监控 集群分片 集群算法-分片-槽位slot&#xff1a; 配置Redis集群&#xff1a; 集群读写&#xff1a; 节点从属调整 主从扩容…

模拟面试题

一、IO多路复用的原理 将多个阻塞任务的文件描述符&#xff0c;统一放到一个检测容器中&#xff0c;然后用一个阻塞函数进行管理&#xff0c;如果检测容器有一个或多个文件描述符对应的事件产生&#xff0c;就会解除阻塞&#xff0c;进而去执行相应的函数。 二、实现IO多路复用…

数据表练习

思维导图 面试题答问1、IO多路复用的引入目的和原理 目的&#xff1a;在有操作系统时&#xff0c;可以用多线程和进程完成任务并发执行&#xff0c;没有操作系统的情况下可以使用IO多路复用技术来进行任务并发。 原理&#xff1a;将多个阻塞任务的文件描述符统一放到一个检查容…

大屏动效合集更更更之实现百分比环形

实现效果 参考链接&#xff1a; https://pslkzs.com/demo/pie/demo1.php 写在最后&#x1f352; 源码&#xff0c;关注&#x1f365;苏苏的bug&#xff0c;&#x1f361;苏苏的github&#xff0c;&#x1f36a;苏苏的码云

MySQL索引的创建与基本用法

MySQL索引 MySQL索引是一种数据结构&#xff0c;用于提高查询数据的效率。MySQL索引可以被看作是数据库表的“目录”。就像书籍的目录帮助我们快速找到特定章节的位置一样&#xff0c;数据库索引帮助数据库快速找到特定数据记录的位置。 MySQL索引的类型与创建方法 MySQL索引…

如何优化前端项目的 SEO

在当今数字化时代&#xff0c;网站对于企业的重要性不言而喻。然而&#xff0c;一个优秀的网站如果在搜索引擎中排名靠后&#xff0c;将无法吸引到足够的流量和用户。因此&#xff0c;优化前端项目的SEO已经成为了网站拓展业务、提升品牌知名度的必经之路。 响应式设计与移动优…

Android14 - AMS之Activity启动过程(1)

Android14 - AMS之Activity启动过程&#xff08;2&#xff09;-CSDN博客 ​​​​​​​ Android14 - AMS之Activity启动过程&#xff08;3&#xff09;-CSDN博客 我们以Context的startActivity场景&#xff08;option null&#xff0c; FLAG_ACTIVITY_NEW_TASK&#xff09;来…