探花

出品｜虎嗅科技组

作家｜余杨

裁剪｜苗正卿

头图｜视觉中国

北京时辰3 月 19 日凌晨 ，NVIDIA CEO 黄仁勋GTC（GPU技能大会）上发表了主题演讲，数千名 AI 时尚、开发者和策略带领者线上相聚，共享 AI 与加速计较等领域的最新龙套，以及对于机器东说念主、代理式 AI、物理 AI 等热点话题的专题征询。

演讲全球同步直播，登场时，黄仁勋依旧身着记号性皮衣，向不雅众展示了5090，回想着英伟达的故事，并先容了英伟达在东说念主工智能领域的最新龙套和将来发展目的。

黄仁勋指出， AI 从生成式迈向代理式（Agentic AI）和物理（Physical AI）时间，强调 AI 是终极坐褥力器具。英伟达凭借全栈技能（芯片、网罗、软件）构建执意生态壁垒，将数据中心变为"Token 工场"，通过液冷机柜和硅光子技能种植算力与能效，重塑计较本体，鼓励 AI 从数字全国向物理全国浸透，开启智能新时间。

演讲摘要如下：

1. AI技能的演进与中枢龙套

生成式AI与推理模子：AI从感知（计较机视觉、语音识别）发展为生成式AI，能够跨模态迁徙（文本到图像、视频、卵白质结构等），并通过"推理模子"逐渐领会问题，生成更智能的响应。其中枢是通过链式推理（Chain of Thought）生成多半令牌（tokens），种植停止准确性，但需更高算力营救（如生成8000个令牌科罚复杂问题）。

数据与教师挑战：AI依赖海量数据，强化学习（Reinforcement Learning）通过可考证停止（如数学公式、物理定律）生成合成数据，科罚了东说念主类标注的局限性，鼓励模子教师遵循。

2. NVIDIA中枢技能与家具

Blackwell架构：新一代GPU架构，性能较前代种植30%，体积缩小30%，营救更高能效与计较密度，适用于推理任务。通过NVLink 72技能扫尾多GPU高速互联，构建超大领域AI工场（每秒处理百万级令牌）。

Dynamo操作系统：专为AI工场遐想的操作系统，谐和计较资源，优化预填充（Prefill）与解码（Decode）阶段，营救动态负载分派（如内行并行、活水线并行），种植推理遵循40倍。

Omniverse与物理AI：通过数字孪生技能模拟物理全国，加速机器东说念主教师与测试。联结生成式AI（如Project GR00T），开发通用东说念主形机器东说念主模子，扫尾复杂环境下的自主决策与谐和。

3. 行业应用与合作伙伴

自动驾驶与汽车安全：NVIDIA与通用汽车（GM）合作开发自动驾驶系统，涵盖教师、模拟与车载AI。安全技能（HALOS）通过第三方评估确保代码安全性，已应用于700万行代码。

通讯与边际计较：与想科、T-Mobile合作构建5G智能网罗，利用AI优化信号顺应动态环境，种植通讯遵循。

企业AI转型：推出DGX系列AI工作器（如DGX Station），斡旋戴尔、惠普等企业，提供从数据中心到边际的完整AI基础设施，营救金融、医疗、制造等行业的智能化升级。

4. 将来技能道路图

计较架构升级：2024年推出Blackwell Ultra（性能种植1.5倍），2025年发布Vera Rubin架构（CPU性能翻倍，营救NVLink 144），2027年缱绻Rubin Ultra（算力种植15倍）。

硅光子学与量子计较：接收微环谐振器（MRM）技能贬低光模块能耗，营救超大领域数据中心（百万GPU互联）；布局量子计较，鼓励化学、材料科学等领域的模拟加速。

AI工场与能源遵循：数据中心向"生成式计较"转型，通过液体冷却、同构架构优化能效，目的将AI工场的算力密度种植至每机架600千瓦，扶助万亿好意思元级基础设施建设。

5. 社会影响与愿景

劳能源变革：AI代理（Agents）将重塑企业IT，将来10年或出现百亿数字职责者，协助东说念主类完成遐想、优化等任务。

机器东说念主普及：科罚全球劳能源极重（预计缺5000万工东说念主），鼓励仓储、制造等领域的自动化，东说念主形机器东说念主（如Isaac Lab）通过合成数据与强化学习扫尾快速妙技迭代。

以下是演讲全文实录：

让咱们启动吧。

源头，我要感谢整个赞助商，感谢整个参与这次会议的了不得的东说念主，简直每一个行业皆有代表。医疗保健行业也在场，交通运载业，零卖业。天哪，计较机行业。计较机行业的每个东说念主皆来了。看到诸君果真太好了，感谢你们的赞助。

GTC始于GeForce。一切皆始于GeForce。今天，我这里有一块GeForce 5090。令东说念主难以置信的是，25年后，在咱们启动研发GeForce的25年后，GeForce 5090在全辞全国各地皆卖光了。

这是5090，Blackwell架构。与4090比较，你看，其体积缩小了30%，它在消耗能量和令东说念主难以置信的性能方面提高了30%，致使很难与之比较。

原因在于东说念主工智能。GeForce将CUDA技能带给了全国。CUDA技能促进了东说念主工智能的发展，而东说念主工智能如今又反过来透澈转变了计较机图形学。您所看到的这是及时的计较机图形渲染，100%基于旅途跟踪。对于每个渲染的像素，东说念主工智能皆会预测另外15个像素。想一想，对于咱们通过数学措施渲染的每一个像素，东说念主工智能皆会推断出其他15个像素，而且它必须以极高的精度进行推断，才能使图像看起来正确，它是暂时准确的，这意味着从一帧到另一帧上前或向后意味着它是计较机图形。它必须暂时保持踏实，确凿。东说念主工智能取得了超卓的逾越，这只是用了十年时辰。

天然，咱们征询东说念主工智能的时辰比这更长一些，但东说念主工智能确凿进入全球公众视线节略是在十年前。起始是从感知东说念主工智能、计较机视觉、语音识别启动，然后是生成式东说念主工智能。

在往时的五年里，咱们主要可贵生成式东说念主工智能，素养东说念主工智能怎么从一种模态迁徙到另一种模态，例如文本到图像、图像到文本、文本到视频、氨基酸到卵白质、特色到化学物资。咱们不错利用东说念主工智能生成内容的各样不同措施。

生成式东说念主工智能从根柢上改变了计较的方式，咱们从检索式计较模子转变为生成式计较模子。往时，咱们简直所作念的一切皆是事前创建内容、存储多个版块，并在使用时索要咱们认为相宜的版块。

现在，东说念主工智能领略潦倒文，领略咱们的请求，领略咱们请求的含义，并生成它已知的内容。淌若需要，它会检索信息，增强其领略，并为咱们生成谜底。它不再检索数据，而是生成谜底，从根柢上改变了计较的方式，计较的每一层皆发生了转变。

在往时的几年里，至极是最近两三年，发生了要害的龙套，东说念主工智能领域的基础性龙套。咱们称之为自主智能AI。自主智能AI，从根柢上说，是指具备自主性的AI，它能够感知和领略环境的潦倒文，能够进行推理，能够推理怎么回答问题或怎么科罚问题，而况能够策动行动。它能够策动并选择行动，能够使用器具。因为它现在能够领略多模态信息，它不错捕快网站，稽察网站的格式、笔墨和视频，致使不错播放视频。从网站获取的信息中学习，领略这些信息，然后复返并使用这些信息，利用这些新得回的知识来完成它的任务，具有自主代理身手的东说念主工智能。

自主代理东说念主工智能的基础是某种相等新颖的东西——推理身手。

下一波波澜仍是到来，今天咱们要好好谈谈这个问题，即物理东说念主工智能赋能的机器东说念主技能，能够领略物理全国的东说念主工智能。它领略摩擦、惯性、因果联系和物体恒存性等见识。有些猜忌并不料味着它仍是从这个六合中消失了。它还在那里，只是看不见。因此，这种领略物理全国（三维全国）的身手将开启一个咱们称之为物理东说念主工智能的新时间，并将鼓励机器东说念主技能的发展。

每一个阶段，每一波波澜，皆为咱们整个东说念主开启了新的商场机遇，它为GTC诱骗了更多的新合作伙伴。因此，GTC现在相等拥堵。为了容纳更多GTC的参与者，咱们必须扩大圣何塞的领域，咱们正在致力于进行中。咱们有许多地皮不错利用，咱们必须发展圣何塞。这么咱们才能让GTC看到这一丝。

我站在这里，但愿你们皆能看到我看到的景色。咱们身处一个知道场馆的中央。旧年是这项行径还原线下举办的第一年，那嗅觉就像一场摇滚音乐会。GTC被态状为东说念主工智能的伍德斯托克音乐节。而本年，它被态状为东说念主工智能的超等碗。唯一的区别是，在这个超等碗中，东说念主东说念主皆是赢家。因此，每年皆有越来越多的东说念主参与其中，因为东说念主工智能能够为更多行业和公司科罚更有趣的问题。

本年，咱们将褒贬更多对于自主型东说念主工智能和物理东说念主工智能。

其中枢在于，每一波、每一阶段的东说念主工智能发展，皆触及三个基本要素。源头是怎么科罚数据问题？这之是以伏击，是因为东说念主工智能是一种数据驱动的计较机科学措施。它需要数据来学习，需要数字体验来学习，学习知识并得回数字体验。

第二个问题是，在莫得东说念主参与的情况下，怎么科罚教师问题？东说念主工侵扰之是以从根柢上具有挑战性，是因为咱们的时辰有限，而咱们但愿东说念主工智能能够以超东说念主的速率学习，以超及时速率学习，并能够以东说念主类无法企及的领域进行学习。

第三点是怎么扫尾领域化？怎么找到一种算法，使得非论提供何种资源，参加的资源越多，AI 就越智能？领域化定律。旧年，简直全全国皆错了。AI 的计较需求，其领域化定律具有更强的韧性，事实上是超加速的。由于自主智能（Agentic AI）和推理身手的启事，咱们面前所需的计较量，比旧年这个时候咱们预期的要多至少100倍。

让咱们来分析一下为什么这是真的。源头，让咱们从AI的身手出手，让我倒过来解释。如我在所述，自主智能（Agentic AI）就是推理。咱们现在领有能够进行推理的AI。这从根柢上来说是对于将问题一步一步领会的过程。它可能会尝试几种不同的措施来科罚问题，并聘请最好谜底。也许它会用多种措施科罚兼并个问题，并确保得到通常的谜底，即进行一致性查验。或者，在得出谜底之后，它可能会将谜底代回方程（例如二次方程）中，以阐明谜底的正确性。而不是只是径直给出谜底。

还难忘两年前，当咱们启动使用ChatGPT时，尽管它是一个遗迹，但许多复杂的问题和许多浮浅的问题，它皆无法正确解答。这是不错领略的。它接收了一种"一击即中"的方式，利用其从预教师数据中学习到的知识，以及从其他教训中得回的信息（预教师数据），然后径直给出谜底，就像一条鲑鱼一样（直截了当）。

现在咱们领有能够逐渐推理的东说念主工智能。使用称为"想维链"（chain of thought）、"最好N"（best of N）、"一致性查验"（consistency checking）、多种不同旅途缱绻以及各样不同技能，咱们现在领有能够进行推理的东说念主工智能，将问题领会，然后进行推理，逐渐进行。

那么，您不错遐想，停止就是咱们生成的象征数目增多了，而东说念主工智能的基本技能仍然通常，生成下一个象征，预测下一个象征。只不外下一个象征现在组成了格式1。然后，在生成格式1之后，下一个象征会将格式1再次输入东说念主工智能，从而生成格式2、格式3和格式4。因此，它不是只是生成一个接一个的象征或单词，而是生成代表推理格式的单词序列。停止生成的象征数目大幅增多，我稍后会向您展示，缩小地达到之前的百倍。

那么，百倍意味着什么？嗯，它不错生成百倍数目的象征，正如我之前解释的那样，您不错看到这种情况正在发生。或者，模子愈加复杂。它生成的象征数目是之前的十倍，为了保持模子的响应速率和交互性，幸免咱们因恭候其想考而失去耐烦，咱们现在需要计较速率提高十倍。因此，象征数目十倍，速率十倍，咱们必须进行的计较量缩小地就达到了百倍。因此，您将在演示的其余部分看到，咱们进行推理所需的计较量比以往大幅增多。

那么，问题就变成了，咱们怎么教育东说念主工智能实行我刚才态状的操作？怎么实行这种想维链？嗯，一种措施是，你必须教育东说念主工智能怎么推理。正如我之前提到的，在教师过程中，咱们必须科罚两个根人性问题。数据从何而来？数据从何而来？以及怎么幸免其受到东说念主工侵扰的舍弃？咱们所能提供的数据和东说念主工演示是有限的。

因此，往时几年取得的要害龙套是强化学习偏激可考证的停止。从根柢上说，强化学习是指东说念主工智能在逐渐尝试科罚问题或进行抨击的过程中进行学习。

东说念主类历史上仍是科罚了许多问题，咱们知说念这些问题的谜底。咱们知说念求解二次方程的公式。咱们知说念怎么期骗勾股定理，也就是直角三角形的王法。咱们掌持着多半数学、几何、逻辑和科学王法。咱们不错提供各样益智游戏看成教师素材。例如数独之类的受限型问题。这类问题罪状昭彰，咱们领稀有百种问题空间，能够生成数百万个不同的示例。并给东说念主工智能成百上千次契机来一步一步地科罚它，因为咱们使用强化学习来奖励它作念得越来越好。

因此，咱们使用了数百个不同的主题、数百万个不同的示例和数百次的尝试。每次尝试皆会生成数万个象征。将整个这些加起来，咱们褒贬的是数万亿个象征，用于教师该模子。现在，借助强化学习，咱们能够生成海量象征。这基本上是利用一种机器东说念主式的措施来教师AI，即合成数据生成。这两者的联结给业界带来了巨大的计较挑战。

而且您不错看到，业界正在作念出回报。我接下来将向您展示的是四大云工作提供商的Hopper工作器出货量。四大云工作提供商，领有公有云的那些提供商：亚马逊、Azure、GCP 和 OCI。四大云工作提供商，不包括东说念主工智能公司，不包括整个初创企业，不包括企业里面部署。许多其他方面均未包含在内，唯独那四个。

只是为了让您了解一下霍珀的巅峰年份和布莱克威尔的肇始年份的对比。霍珀的巅峰年份和布莱克威尔的肇始年份，这么您就能看出，事实上，东说念主工智能正在阅历一个拐点。它变得更有效，因为它更明智了，它能够进行推理，它被更多地使用了。

你不错看出它被更多地使用了，因为现在非论何时你使用ChatGPT，似乎皆需要恭候越来越久。这是一件善事，这标明许多东说念主皆在使用它，而况效果权贵。教师这些模子和进行模子推理所需的计较量已大幅增长。

因此，只是一年时辰，而Blackwell才刚刚启动发货，就能看到东说念主工智能基础设施的惊东说念主增长。

这响应了通盘行业的计较身手种植。咱们现在看到的是——紫色部分是分析师对将来全球数据中心本钱支拨的预测，包括云工作提供商（CSP）、企业等等。全球数据中心在将来十年内的发展，也就是到2030年。

我之前说过，我预计数据中心建设投资将达到一万亿好意思元，而且我相等细目咱们很快就会达到这个数字。两种动态同期发生。

第一种动态是，绝大部分增长可能会加速。这意味着咱们仍是知说念一段时辰了，通用计较仍是走到特地，咱们需要一种新的计较措施。全全国正在阅历一场平台转变，从运行在通用计较机上的手工编码软件转向运行在加速器和GPU上的机器学习软件。这种计较方式面前仍是过了临界点。

咱们现在正看到拐点正在出现，全球数据中心建设中正在发生拐点。

因此，源头是计较方式的转变。其次是东说念主们越来越意志到，软件的将来需要本钱参加。这是一个相等伏击的见识。在往时，咱们编写软件并在计较机上运行它，而在将来，计较机将为软件生成Token。因此，计较机已成为Token的生成器，而非文献的检索器具。从基于检索的计较转变为基于生成的计较，从老式数据中心构建方式转变为构建新式基础设施的新方式，我称之为"AI工场"。

因为它唯唯一个任务，那就是生成这些令东说念主难以置信的Token，然后咱们将这些Token重构为音乐、笔墨、视频、谋划效果、化学物资或卵白质。咱们将其重构为各样类型的信息。因此，全国正在阅历一场转型，这不仅体现在将要建设的数据中心数目上，也体现在其建设方式上。

数据中心中的整个内容皆将被加速，但并非整个内容皆与东说念主工智能有关。

这张幻灯片是我最可爱的。多年来参加GTC的诸君，一直在听我褒贬这些库。这张幻灯片恰是GTC的中枢所在。事实上，很久以前，20年前，这就是咱们唯一领有的幻灯片。

一个又一个的库，重重叠叠。咱们不可只是加速软件，正如咱们需要一个AI框架来创建AI，并加速AI框架一样。你需要物理学、生物学、多物理场以及各样量子物理学的框架。

你需要各样库和框架。咱们称它们为CUDAx库，针对这些科学领域的加速框架。

第一个就令东说念主难以置信。这就是cuPy数值计较库。NumPy是全球下载量和使用量最大的Python库。旧年下载量达4亿次。

cuLitho和cuPy数值计较库是对NumPy的零调动加速替代决议。因此，淌若您正在使用NumPy，请尝试使用cuPy数值计较库，您一定会可爱它。

cuLitho是一个计较光刻库。在四年时辰里，咱们仍是完成了通盘计较光刻处理经过，这相等于晶圆厂中的第二个工场。

一个工场制造晶圆，另一个工场制造制造晶圆所需的信息。

将来，每个行业、每家领有工场的公司皆将领有两个工场，一个工场用于制造家具，另一个工场用于处理数学计较，另一个工场用于东说念主工智能。

汽车工场，以及用于汽车的东说念主工智能工场。智能音箱的制造工场，以及用于智能音箱的AI工场。

咱们的计较光刻技能cuLitho，台积电(TSMC)、三星(Samsung)、ASML，以及咱们的合作伙伴Synopsys、Mentor，皆赐与了令东说念主难以置信的营救。我认为这仍是达到了临界点。

再过五年，每一张掩模版，每一项光刻工艺皆将在NVIDIA CUDA上进行处理。

Arial是咱们的5G库，它将GPU转变为5G无线电。为什么不呢？信号处理是咱们相等擅长的事情。

一朝咱们作念到这一丝，咱们就不错在其上重复AI。用于无线接中计的AI，或者咱们称之为AI-RAN。下一代无线网罗将深度镶嵌AI。 

为什么咱们会受到信息论舍弃的拘谨？因为咱们所能获取的信息频谱是有限的，即使加入东说念主工智能也无法改变这一事实。

CuOpt，数值或数学优化，简直每个行业在缱绻座位和航班时皆会用到它，库存和客户，工东说念主和工场，司机和乘客，等等。

咱们濒临多个拘谨条款，以及多半的变量。而况你正在针对时辰、利润、工作质地、资源利用率等等进行优化。英伟达将其用于供应链管制。

CuOpt是一个令东说念主难以置信的库。它将蓝本需要数小时才能完成的任务裁减至几秒钟， 这之是以有趣有趣要害，是因为咱们现在不错探索更大的空间。 

咱们告示将开源CuOpt， 简直每个东说念主皆在使用Gurobi、IBM CPLEX或FICO。咱们正在与这三家公司合作。行业对此相等欢快。咱们行将极地面加速该行业的发展。

Parabricks用于基因测序和基因分析。MONI是全国源头的医学影像库。Earth2，用于预测超高分辨率局部天气的多物理场模拟软件。

量子计较（Q-Quantum）和量子到量子（Q2Q）技能。咱们将在GTC举办首届量子计较日。咱们正与生态系统中的简直整个参与者合作。

咱们协助他们进行量子架构、量子算法的谋划，或构建经典加速的量子异构架构。因此，那里的职责令东说念主欢快。

量子等变性（Q-equivariance）和量子张量（Q-tensor）用于张量收缩和量子化学计较。

天然，这个软件栈享誉全球。东说念主们认为唯唯一种名为CUDA的软件，但事实上，在CUDA之上还有许多库，这些库集成到生态系统、软件和基础设施的整个不同部分，以扫尾东说念主工智能。

我今天要告示一个新的效果， CUDSS，咱们的阑珊求解器，对于计较机辅助工程（CAE）至关伏击。 

这是往时一年中最伏击的龙套之一。通过与Cadence、Synopsys、Ansys和达索系统等整个系统公司合作，咱们现在仍是扫尾了简直整个伏击的EDA和CAE库的加速。

令东说念主感概的是，直到最近，英伟达仍在使用通用计较机运行软件，速率相等慢，来为其他东说念主遐想加速计较机。原因是直到最近，咱们才领有针对CUDA优化的软件，即那套软件。因此，跟着咱们转向加速计较，通盘行业皆将得到极大的种植。

CUDF，一个用于结构化数据的DataFrame，咱们现在领有对Spark和Pandas的即插即用式加速功能。

咱们还有Warp，一个在Python中运行的用于物理学的CUDA库。咱们对此有一个要害告示，我稍后再翔实说明。这只是能够扫尾加速计较的库的示例。

这不单是是CUDA，咱们为CUDA感到高慢，但淌若莫得CUDA以及咱们巨大的装配基础，这些库对任何使用它们的开发者来说皆将毫毋庸处。

对于整个使用这些库的开发者而言，你们之是以使用它们，源头是因为它能够极地面提高速率，它能够极地面提高领域。

其次，因为CUDA的装配基础现在已遍布全球。它存在于每一个云平台、每一个数据中心，全球每一家计较机公司皆提供它，它简直无处不在。因此，通过使用这些库中的一个，你们的软件，你们令东说念主咋舌的软件，能够触及每个东说念主。

是以咱们现在仍是达到了加速计较的临界点。CUDA 使这一切成为可能。诸君，这就是GTC的有趣有趣所在，生态系统，是你们整个东说念主成就了这一切。因此，咱们为您制作了一段节略的视频。

谢谢，致将来的创造者、前驱者和建设者，CUDA 是为你们而生的。自2006年以来，超过200个国度的600万开发者使用了CUDA，并透澈改变了计较方式。

借助900多个CUDAx库和东说念主工智能模子，您正在加速科学发展，重塑产业口头，并赋予机器感知、学习和推理的身手。现在，NVIDIA Blackwell的速率比第一代CUDA GPU快50，000倍。

这些数目级的速率和领域种植正在缩小仿真与及时数字孪生之间的差距。对您而言，这只是是一个启动。咱们迫不足待地想看到你们的下一个成就。

我疼爱咱们所作念的一切。我更抚玩你们对它的期骗。在我从事这项职责33年里，最令我感动的一件事是一位科学家对我说："詹森，因为你的职责，我不错在豆蔻年华完成我终生的职责。"淌若这皆不可颠簸你，那你一定是个莫得情谊的东说念主。是以这一切皆是为了你们。谢谢。

好吧，接下来咱们谈谈东说念主工智能。

可是，你们知说念，东说念主工智能发源于云表。它发源于云表是有原因的，因为事实解释东说念主工智能需要基础设施。它是机器学习。淌若科学解释是机器学习，那么就需要一台机器来进行科学谋划。

因此，机器学习需要基础设施，而云数据中心领有这种基础设施。它们还领有超卓的计较机科学实力和特出的谋划身手，组成了东说念主工智能在云表和云工作提供商（CSP）中富贵发展的期望环境。

但东说念主工智能并非仅限于此。东说念主工智能将无处不在。咱们将从许多不同的角度探讨东说念主工智能。天然，云工作提供商青睐咱们的源头技能。

他们抚玩咱们领有完整的技能栈，因为正如我之前解释的那样，加速计较不单是关乎芯片自身，致使不单是是芯片和库，以及编程模子。它包括芯片、编程模子以及在其之上运行的浩荡软件。通盘技能栈皆极其复杂，每一层，每一个库，本体上皆访佛于SQL探花。

SQL，正如您所知，被称为存储内计较，是IBM引颈的计较领域的一次要害改进。SQL只是一个库，试想一下。我刚刚向您展示了多半的库，而且在东说念主工智能领域，还有更多库。是以，这个技能栈相等复杂。

他们也可爱这么一个事实：云工作提供商（CSP）可爱英伟达CUDA开发者亦然他们的客户。因为最终，他们正在构建供全全国使用的基础设施。因此，丰富的开发者生态系统受到了高度选藏，并得到了深深的讴颂。

既然咱们要将东说念主工智能扩充到全国其他地区，那么全国其他地区就会存在不同的系统配置、运行环境互异、特定领域的库互异以及使用互异。

因此，东说念主工智能在应用于企业 IT、制造业、机器东说念主技能或自动驾驶汽车，致使是在构建 GPU 云的公司中，皆会有所不同。

节略有20家公司是在英伟达时期成就的，他们只作念一件事：他们托管 GPU。他们称我方为 GPU 云。咱们的一位伏击合作伙伴 CoreWeave 正在上市过程中，咱们为此感到相等高慢。因此，GPU 云有其自身的要求。

但令我相等欢快的一个领域是边际计较。

今天，咱们告示想科、英伟达、T-Mobile（全球最大的电信公司）和 Cerberus ODC 将在好意思国建立一个用于无线网罗的完整技能栈，这就是第二个技能栈。

因此，咱们今天告示的这个现时技能栈将把东说念主工智能部署到边际。请记取，全球每年有1000亿好意思元的本钱投资用于无线网罗，以及整个为通讯提供工作的数据中心。

将来，在我看来，毫无疑问，这将是交融了东说念主工智能的加速计较。

东说念主工智能将在顺应无线电信号、大领域MIMO（多输入多输出）系统变化的环境和交通现象方面作念得更好得多。天然不错。天然咱们会使用强化学习来作念到这一丝。天然，MIMO 本体上就是一个巨大的无线电机器东说念主。天然是的。因此，咱们天然会提供这些功能。

天然，东说念主工智能不错透澈改变通讯方式。你知说念，当我打电话回家时，不需要说许多话，因为我浑家知说念我在那儿职责，职责环境怎么。语言不错从昨天连续进行。她若干难无私可爱什么，不可爱什么。许多时候，只需要几句话，就能换取许多信息。原因在于潦倒文和东说念主类先验知识。联结这些功能，不错透澈改变通讯方式。看一下它对视频处理的影响。看一下我之前态状的3D图形技能。

因此，咱们天然也会对Edge选择同样的作念法。是以我对咱们今天告示的音书感到相等欢快。T-Mobile、想科、英伟达、Cerberus和ODC将构建一个完整的技能栈。嗯，东说念主工智能将浸透到各个行业。

这只是一个例子，东说念主工智能进入最早的行业之一是自动驾驶汽车领域。当咱们看到AlexNet的那一刻，咱们历久以来一直在从事计较机视觉的谋划，看到AlexNet的那一刻是如斯令东说念主饱读吹、如斯令东说念主欢快，这促使咱们决定全力参加自动驾驶汽车的研发。

是以咱们现在仍是在自动驾驶汽车领域职责了十多年。咱们开发的技能简直被每一家自动驾驶汽车公司皆在使用。它不错位于数据中心，例如，特斯拉在其数据中心多半使用英伟达GPU，这可能位于数据中心或车辆中，Waymo和Wave也将其数据中心和车辆中使用英伟达的计较机。它可能只在车辆中，这种情况相等悲凉，但无意它只在车辆中。或者他们还会使用咱们整个的软件。咱们与汽车行业合作，合作方式取决于汽车行业的需求。

咱们制造整个三种计较机：教师计较机、仿真计较机和机器东说念主计较机（自动驾驶汽车计较机）。以及位于其之上的整个软件栈，包括模子和算法，这与咱们为其他整个已展示的行业提供的工作通常。

因此，今天，我相等欢笑地告示，通用汽车公司已聘请英伟达看成其将来自动驾驶汽车车队的合作伙伴，自动驾驶汽车的时间仍是到来。

咱们期待在整个三个领域与通用汽车东说念主工智能公司合作。用于制造业的东说念主工智能，以便透澈改变他们的制造方式。用于企业的东说念主工智能，以便透澈改变他们的职责方式。遐想汽车和模拟汽车。以及车载东说念主工智能。

因此，为通用汽车打造东说念主工智能基础设施，与通用汽车合作，并与他们沿路构建其东说念主工智能。我对此感到相等欢快。我深感高慢的领域之一，而且很少受到可贵，那就是安全。汽车安全。它被称为HALOS。

在咱们公司，它被称为HALOS。安全需要从硅到系统、系统软件、算法、措施论等各个方面的技能，从确保各样性到各样性监控和透明性、可解释性，整个这些皆包括在内，整个这些不同的理念皆必须深深融入到您开发系统和软件的每一个要津中。

我信赖，咱们是全国上第一家对每一溜代码皆进行安全评估的公司。七百万行代码皆经过了安全评估。咱们的芯片、系统、系统软件和算法皆经过了第三方的安全评估，他们会仔细查验每一溜代码，以确保其遐想能够保险各样性、透明度和可解释性。咱们还提交了超过一千项专利央求。

在这次GTC期间，我热烈建议您抽出时辰参加HALOS议论会，以便了解确保将来汽车安全和自主驾驶所需的整个不同方面。我对此感到相等高慢，但它很少受到可贵，是以我认为这次应该花更多时辰来褒贬它。英伟达HALOS。

你们皆见过自动驾驶汽车。Waymo自动驾驶出租车令东说念主难以置信。咱们制作了一个视频，与民众共享咱们用于科罚数据、教师和各样性问题的部分技能，以便利用东说念主工智能的魅力来创造东说念主工智能。

让咱们来看一看。英伟达正在通过Omniverse和Cosmos加速自动驾驶汽车的东说念主工智能开发。Cosmos的预测和推理身手营救基于东说念主工智能的自动驾驶系统，这些系统接收端到端教师措施，包括新的开发措施、模子蒸馏、闭环教师和合成数据生成。

源头，模子蒸馏。Cosmos的驾驶知识，看成策略模子，从较慢、更智能的教师模子迁徙到车载更小、更快的学生模子中。

教师策略模子展示了学生模子通过迭代学习所遵守的最好轨迹，直至其性能简直达到与教师通常的水平。蒸馏过程能够诱导策略模子的建立，但复杂场景需要进一步微调。

闭环教师能够对策略模子进行致密救援。利用Omniverse神经重建技能，将日记数据迁徙为用于物理基础模拟闭环的3D场景。创建这些场景的变体，以测试模子的轨迹生成身手。

Cosmos行动评估器随后不错对生成的驾驶行动进行评分，以估量模子性能。重生成的场景偏激评估创建了一个用于闭环教师的大型数据集，匡助自动驾驶汽车更谨慎地应酬复杂场景。

临了，3D合成数据生成增强了自动驾驶汽车对不同环境的顺应性。Omniverse从日记数据中，通过交融舆图和图像构建翔实的4D驾驶环境，并生成真实全国的数字孪生体，包括语义分割，以通过对每个像素进行分类来指导Cosmos。然后，Cosmos通过生成准确且各样化的场景来推广教师数据，缩小模拟与现实之间的差距。

Omniverse和Cosmos使自动驾驶汽车能够学习、顺应并智能驾驶，从而种植出行安全。英伟达是完成这项职责的期望公司。

这就是咱们的运说念：利用东说念主工智能来重塑东说念主工智能。咱们向您展示的技能与您正在享用的技能相等相似，带您进入数字孪生全国，咱们称之为英伟达。

让咱们谈谈数据中心。布莱克韦尔样貌已全面投产，这就是它的花样。

这令东说念主难以置信，对东说念主们而言，这是一种好意思的景色。这有趣有趣要害，因为咱们在计较机架构方面扫尾了根人性的转变。

节略三年前，我曾向你们展示过这个版块的系统，它被称为Grace·Hooper，系统被称为Ranger。

Ranger系统或者唯独屏幕宽度的一半，它是全球首个NVLink 32系统。三年前，咱们展示了Ranger的运行情况，那时它过于巨大，但其理念鼓胀正确。

咱们那时试图科罚领域推广问题。散播式计较是利用许多不同的计较机协同职责来科罚一个相等大的问题。

但在横向推广之前，纵向推广是不可替代的。两者皆很伏击，但应该优先进行纵向推广，然后再进行横向推广。关联词，纵向推广极其不毛，并莫得浮浅的谜底。你不会像Hadoop那样进行纵向推广或横向推广。Hadoop的作念法是，接收多半商用计较机，将其斡旋到大型网罗中，并使用其进行存储计较。

Hadoop 的理念具有改进性有趣有趣，这一丝咱们皆很明晰。它使得超大领域数据中心能够利用现成的计较机科罚海量数据问题。关联词，咱们试图科罚的问题极其复杂，以这种方式进行推广的成本将高得令东说念主难以承受，非论是电力成本如故能源成本。深度学习根柢不可能出现。

因此，咱们必须源头进行垂直推广。这就是咱们进行垂直推广的方式。这是上一代系统架构，被称为 HGX。这透澈改变了咱们所知的计较技能，也透澈改变了东说念主工智能。

这是八个GPU，每一个皆访佛于这个。这是两个GPU，一个Blackwell封装中包含两个Blackwell GPU。在这底下还有八个这么的单元。然后这斡旋到咱们称之为NVLink 8 的部件。

然后这斡旋到访佛这么的CPU机架。这里有两个CPU，位于顶部。咱们通过PCI Express将其斡旋起来，然后许多这么的开导通过InfiniBand斡旋，最终变成一台东说念主工智能超等计较机。往时就是这么作念的，咱们就是这么启动的。

这就是咱们在推广领域之前所能达到的极限。但咱们但愿进一步推广领域。Ranger样貌将这个系统又推广了四倍。

因此，咱们有了NVLink 32，但系统率域过于巨大。为此，咱们不得不进行一些伏击的再行遐想，包括NVLink的职责方式以及ScaleUp的职责方式。

源头，咱们需要将镶嵌在主板上的NVLink交换机从系统中解耦并移除。这是一个NVLink交换机，是全国上性能最高的交换机，它使得每个GPU皆能以满带宽在鼓胀通常的时辰与其他每个GPU进行通讯。

咱们将NVLink交换机解耦并移除，并将其摈弃在机箱的中心。在九个不同的机架中，共有18个交换机托盘（咱们称之为）容纳这些交换机。交换机解耦后，计较单元现在位于别处。这相等于计较方面的两个部分。

令东说念主称说念的是，它是鼓胀液冷的。通过液冷技能，咱们不错将整个这些计较节点压缩到一个机架中，这对于通盘行业而言是一项要害变革。

感谢诸君，你们促成了从集成NVLink到解耦NVLink，从风冷到液冷，从每台计较机节略60，000个组件到每个机架600，000个组件的根人性转变，以及120千玉碎液冷，从而使咱们能够在一个机架中领有一个百亿亿次计所有这个词较机。

这是计较节点，现在它不错装配到其中一个机架里。咱们领有3000磅的分量，5000根电缆，总长度约3.2公里，难以置信的电子元件，60万个零件，我想这相等于20辆汽车的零件数目，整个这些皆集成到一台超等计较机中。咱们的目的是大领域推广，这就是它现在的花样。

咱们本体上是想制造这个芯片，但莫得任何激进的舍弃能够作念到这一丝，莫得工艺技能能够作念到这一丝。它领有130万亿个晶体管，其中20万亿个用于计较。因此，短期内无法合理地制造它。

科罚这个问题的措施，如我所态状的，是将它领会成Grace Blackwell NVLink 72机架。最终，咱们扫尾了终极领域的种植，这是全国有史以来最极点的领域种植。

这台机器可能的计较量和内存带宽达到了每秒570太字节。这台机器中的所贪图皆达到了万亿级别。它领有每秒一千万亿次浮点运算身手（即艾克斯浮点运算）。

咱们之是以想要作念到这一丝，是为了科罚一个极点的问题。许多东说念主误以为这个问题很容易科罚，但践诺上，这是一个终极的极点计较问题，那就是推理。

推理是工场进行的Token生成过程，而工场自身决定着收益和利润的产生或亏空。因此，必须以极高的遵循和性能来构建这个工场，因为工场的方方面面皆径直影响着工作质地、收入和盈利身手。

现在，我来向您展示怎么解读这张图表，因为我稍后还会屡次回到这张图表上来。基本上，它有两个坐标轴。X 轴表现每秒Token数。每当您聊天，或者将指示输入到 ChatGPT 时，输出的停止皆是Token。这些Token会被再行组合成笔墨。

需要正式的是，这不单是是一个Token对应一个单词。它们会将诸如"THG"之类的词元化，它不错指代"the"、"them"、"theory"、"theatrics"，以偏激他各样词语。"THG"就是一个Token的例子。它们再行构建这些象征，使其升沉为单词。

淌若但愿 AI 更明智，就需要生成多半的象征。这些象征是推理象征、一致性查验象征，它们会想出许多主意，以便从中聘请最好的主意和象征。这些象征可能会仔细琢磨，可能会想考："这是你能作念的最好的职责吗？"是以它就像咱们自言自语一样，与自身对话。因此，你生成的象征越多，你的 AI 就越明智。

可是，淌若回答问题破耗的时辰太长，客户就不会再回归了。这与网页搜索莫得什么不同。在它给出明智谜底之前，所需时辰照实存在舍弃。因此，你需要应酬这两个维度的挑战。你试图生成多半的象征，但又试图尽可能快地完成。因此，您的Token速率至关伏击。是以您但愿针对单个用户的每秒Token数尽可能快。

关联词，在计较机科学和工场坐褥中，蔓延响当令辰和浑沌量之间存在根人性矛盾。淌若你从事大型、高浑沌量的业务，你会进行批量处理。你将多半的客户需求进行批量处理，并坐褥特定版块的家具供整个东说念主稍后使用。

关联词，从他们进行批量处理和坐褥家具的那一刻起，到您使用它为止，可能需要很万古辰。计较机科学领域亦是如斯，生成Token的 AI 工场也同样如斯。

是以，你濒临着这两种根人性的矛盾。一方面，您但愿客户的工作质地尽可能好：快速且智能的 AI。另一方面，您正试图让您的数据中心为尽可能多的东说念主生成Token，以便最大化您的收入。

期望的谜底位于右上方。期望情况下，该弧线的时势是一个正方形，您不错快速地为每个东说念主生成Token，直到工场的极限，但莫得哪个工场能够作念到这一丝。

因此，它可能是一条弧线，而您的目的是最大化弧线下的面积，即X和Y的乘积，而况您推得越远，就越有可能意味着您正在建造一个更好的工场。

事实解释，在每秒Token数（通盘工场的每秒Token数）与响当令辰之间，一个需要多半的计较身手（浮点运算），而另一个维度则需要多半的带宽和浮点运算。是以这是一个相等难以科罚的问题。

好的谜底是，您应该领有多半的浮点运算身手、多半的带宽、多半的内存以偏激他一切资源。这是启动的最好谜底，这亦然为什么这是一台如斯出色的计较机的原因。

你源头要领有尽可能多的浮点运算身手、尽可能大的内存、尽可能高的带宽，天然还要有最好的架构和最高的能效，而况你必须领有一个编程模子，使你能够在整个这些极其复杂的硬件上运行软件才能作念到这一丝。

现在让咱们来看一个演示，让你对我说的是什么有一个切实的感受。请播放它。

传统的LLM捕捉基础知识，而推理模子则利用想维象征来匡助科罚复杂问题。在这里，一个指示要求在婚典餐桌旁安排座位，同期投诚一些舍弃条款，例如传统习俗、像片角度以及家眷成员之间的矛盾。传统的LLM能够快速地给出谜底，使用的象征少于500个。

它在安排客东说念长官位时犯了失实，而推理模子则使用了超过8000个象征进行想考，最终得出了正确的谜底。这需要一位牧师来看护和平。

好吧，正如你们所知，淌若你有一个300东说念主的婚典派对，而况你试图找到完整的，或者说最好的座位安排，这是一个唯独东说念主工智能才能科罚或者唯独岳母才能科罚的问题。

是以，这是协同计较无法科罚的问题之一。

好，您在这里看到的是，咱们给它提供了一个需要推理的问题，您看到R1会就此进行推理，尝试整个不同的场景，然后复返来磨砺我方的谜底。它会自问是否作念对了。

同期，上一代语言模子则接收一次性科罚措施。因此，一次性科罚措施使用了439个象征。它速率很快，遵循很高，但停止是失实的。是以，这是439个被糜费的象征。

另一方面，为了对这个问题进行推理（践诺上这是一个相等浮浅的问题，只需增多几个更难的变量，它就会变得相等难以推理），它使用了8000个，简直9000个象征。而且它需要更多的计较，因为模子愈加复杂。

好，这是一个维度。在我向您展示一些停止之前，请允许我解释其他一些内容。

因此，谜底是，淌若你不雅察Blackwell系统，现在它仍是推广到NVLink 72。咱们源头要作念的是处理这个模子，而这个模子并不小。

以R1为例，东说念主们认为R1很小，但它有6800亿个参数。

下一代模子可能领稀有万亿个参数。科罚这一问题的措施是将这些数万亿个参数和模子，将职责负载散播到通盘GPU系统中。

不错使用张量并行，将模子的一层运行在多个GPU上；也不错取活水线的一部分，称之为活水线并行，并将其放在多个GPU上；还不错将不同的内行模子放在不同的GPU上，咱们称之为内行并行。

活水线并行、张量并行和内行并行的组合方式数目巨大，令东说念主难以置信。而况凭据模子、职责负载和环境的不同，计较机的配置方式必须改变，以便得回最大的浑沌量。无意需要优化极低的蔓延，无意则需优化浑沌量，因此必须进行一些运行时批处理。批处理和团职职责有许多不同的技能。因此，这些AI工场的操作系统和软件极其复杂。

其中一个不雅察停止，亦然领有像NVLink 72这么同构架构的确凿上风在于，每个GPU皆能实行我刚才态状的整个操作。咱们不雅察到这些推理模子正在进行几个计较阶段。

其中一个计较阶段是想考。当你在想考时，不会产生许多象征。你产生的象征可能你我方在使用，你在想考。也许你正在阅读，正在消化信息。这信息可能是PDF文档，也可能是网站，致使不错不雅看视频，以超线性速率采纳整个这些信息，然后将整个这些信息整合起来，变成谜底，制定一个策动性的谜底。

因此，信息消化和潦倒文处理相等依赖于浮点运算。

另一方面，鄙人一阶段，称为解码阶段，其第一部分咱们称为预填充，解码的下一阶段需要浮点运算，但需要巨大的带宽。而且计较起来相等容易。淌若你有一个模子，它稀有万亿个参数，那么每秒需要几TB的数据，正式我之前提到过每秒576TB，只是是从HBM内存中索要模子就需要每秒TB级的数据。而且只是是为了生成一个象征。

它之是以只生成一个象征，是因为记取这些大型语言模子是在预测下一个象征，这就是它们预测下一个象征的原因。它不是预测每一个象征，而只是预测下一个象征。现在咱们有了各样新的技能，例如预计性解码等等，用于更快地完成这项职责，但最终，你是在预测下一个象征。

因此，你采纳、调入通盘模子和潦倒文（咱们称之为KV缓存），然青年景一个象征。然后咱们将这个象征放回咱们的"大脑"，生成下一个象征。每次实行此操作，咱们皆输入数万亿个参数，输出一个象征。

数万亿个参数输入，输出另一个象征。数万亿个参数输入，输出另一个象征。请正式，在演示中，咱们输出了8600个象征。

因此，数万亿字节的信息已被输入到咱们的GPU中，并一次输出一个象征。这从根柢上解释了为什么需要NVLink。NVLink使咱们能够将整个这些GPU组合成一个巨大的GPU，扫尾最终的领域推广。现在整个内容皆在NVLink上，我不错将预填充与解码分离，并不错决定：我想为预填充使用更多GPU，为解码使用更少GPU。

因为我正在进行多半的想考，进行一项自主性的职责，阅读多半信息。我正在进行长远的谋划。之前我一直在听迈克尔讲话，迈克尔也谈到了他正在进行的谋划，而我作念的亦然同样的事情。咱们会开展并撰写这些相等冗长的AI谋划样貌，我相等可爱作念这件事。

我仍是为此付出了代价，我相等享受让咱们的GPU运转起来。莫得什么能给我带来更大的应承。是以我在撰写完了后，它就启动运行，进行整个这些谋划，它捕快了节略94个不同的网站，阅读了整个这些信息，而我也在阅读整个这些信息，然后它会变成一个谜底并撰写证明。这果真令东说念主难以置信。

在那段时辰里，预填充一直相等忙碌。它并莫得确凿生成许多象征。另一方面，当您与聊天机器东说念主进行对话，而况数百万东说念主在作念同样的事情时，它就需要相等多半的象征生成。解码职责量相等大。因此，凭据职责负载，咱们可能会决定将更多GPU分派到解码，或者凭据职责负载，将更多GPU分派到预填充。这种动态操作相等复杂。

我刚刚态状了活水线并行、张量并行、内行并行、飞翔中批处理、解耦推理、职责负载管制，然后我还要处理一个叫作念KV缓存的东西，我必须将其路由到正确的GPU，我必须通过整个内归档次结构来管制它。这段软件极其复杂。

因此，今天咱们告示推出英伟达Dynamo。英伟达Dynamo能够作念到这一切。它本体上是AI工场的操作系统。

在往时，在咱们运行数据中心的方式中，咱们的操作系统访佛于VMware。咱们会（而且现在仍然会），谐和多半不同的企业应用法式在咱们企业IT之上运行，咱们亦然大型用户。

但将来，应用法式并非企业IT，而是智能体。操作系统也不再是VMware之类的软件，而是Dynamo之类的软件。而且这个操作系统运行的并非数据中心之上，而是AI工场之上。咱们将其定名为Dynamo是有充分事理的。如您所知，Dynamo是启动前次工业改进的首个能源机械。

这是能源的工业改进。水流入，电力流出，这委果神奇。水流入，将其烽火，变成蒸汽，随后产生的即是这种无形却极其宝贵的东西。历经八十年发展，才有了交流电，但发电机是这一切的登程点，是开端。

因此，咱们将这个操作系统，这套软件——极其复杂的软件——定名为英伟达发电机（NVIDIA Dynamo）。它是开源的，咱们很欢笑有诸多合作伙伴与咱们共同开发。

我最可爱的合作伙伴之一，我相等可爱他，不仅因为他所作念的改进性职责，还因为阿拉文德是一个相等好的东说念主。Perplexity是咱们合作攻克这一难题的伏击伙伴。总之，相等好，相等好。

现在咱们必须恭候整个这些基础设施推广完了，但与此同期，咱们仍是进行了一系列相等长远的模拟。咱们用超等计较机模拟咱们的超等计较机，这很有有趣。

现在我将向民众展示我刚才所说的一切的刚正。记取工场暗示图。Y轴表现工场的每秒Token浑沌量，X轴表现用户体验的每秒Token浑沌量。你需要超等智能的AI，而况需要坐褥多半的AI。

这是Hopper。它不错为每个用户每秒产生节略100个Token。

这使用了八个GPU，通过InfiniBand互联，我将其法式化为每兆瓦每秒的token数目。是以这是一个兆瓦级的数据中心，并非一个相等大型的AI工场，但非论怎么，它是一兆瓦的。它不错为每个用户每秒产生100个token，而况在这个级别上，非论践诺情况怎么，它不错为该兆瓦级数据中心每秒产生10万个token。或者，淌若进行超等批量处理，而况客户风光恭候很万古辰，那么该AI工场每秒不错产生节略250万个token，明白了吗？

记取，两百五十万，ChatGPT 的成本节略是每百万个词元10好意思元，对吧？每百万个词元10好意思元。

让咱们假定一下，我认为每百万个词元10好意思元的成本可能比较低，但我可能会说它比较低，但让我假定它比较高，因为两百五十万乘以10，那就是每秒2500万好意思元。这么领略有有趣吗？这就是你想考问题的方式。

或者，淌若成本低得多，那么问题在于，假定是10万好意思元，将其除以10。每个工场每秒25000好意思元。然后是3100万，一年节略有3000万秒，这就能升沉为百万级，兆瓦级数据中心的营收。是以这就是您的目的。

一方面，您但愿您的Token速率尽可能快，以便您不错创造确凿智能的AI，淌若领有智能AI，东说念主们就会为此支付更多用度。另一方面，AI越智能，您所能坐褥的数目就越少。这是一个相等合理的量度。这就是咱们试图改变的弧线。

现在，我向您展示的是全国上最快的计较机——Hopper。它透澈改变了一切。那么，咱们该怎么改进它呢？因此，咱们源头忽视使用NVLink 8的Blackwell架构。同样的Blackwell架构，通常的计较单元，以及使用FP8的NVLink 8计较节点。

因此，Blackwell更快了。更快、更大、更多晶体管，一切皆要更多。

但咱们想作念的不啻这些，因此咱们引入了新的精度。这并空虚足像4位浮点数那样浮浅，但使用4位浮点数，咱们不错量化模子，用更少的能量作念同样的事情。因此，当您使用更少的能量作念同样的事情时，您不错作念得更多。

因为请记取，一个伏击的不雅点是，将来每一个数据中心皆将受到电力舍弃。您的收入将受到电力舍弃。您不错凭据可用的电力来计较您的收入。这与许多其他行业莫得什么不同。是以咱们现在是一个受电力舍弃的行业。咱们的收入将与此有关联。基于此，您需要确保领有尽可能高效节能的计较架构。接下来，咱们将使用 NVLink 72 进行推广。

请看 NVLink 72 FP4 的互异，由于咱们的架构高度集成，现在咱们又添加了 Dynamo，Dynamo 不错进一步推广其性能。是以 Dynamo 也能匡助 Hopper，但对 Blackwell 的匡助更大。

现在请正式我标出的这两个闪光点，这或者就是您的最大 Q 值所在。这很可能就是您运行工场运营的所在。您正在尝试在东说念主工智能的最大浑沌量和最大质地之间找到均衡点。最智能的东说念主工智能，以及最大数目的东说念主工智能。这两者的交点，恰是您优化的目的。

这就是在稽察这两个方块下方时呈现的花样。Blackwell 的性能远优于 Hopper。请记取，这并非指 ISO 芯片。而是指 ISO 功率。

这是最终的摩尔定律，永久是往时摩尔定律的中枢所在。现在咱们扫尾了这一目的，在单代家具中扫尾了 25 倍的 ISO 功率种植。这不是ISO芯片，也不是ISO晶体管，更不是任何ISO有关的组件。ISO功耗，是最终的舍弃身分。数据中心所能得回的能量是有限的。因此，在ISO功耗舍弃下，Blackwell决议的遵循种植了25倍。

现在咱们看到了这张彩虹图，令东说念主难以置信。这才是有趣的部分。看，在帕累托前沿之下，有各样不同的配置决议，咱们称之为帕累托前沿。在帕累托前沿之下，存在数百万种咱们本不错用来配置数据中心的措施。

咱们本不错以许多不同的方式将职责并行化、分割和分片。而咱们找到了最优解，也就是帕累托前沿。好的，帕累托领域。而且，由于心绪不同，每一个点皆代表着不同的配置。这张图像相等浮现地说明了为什么咱们需要一个可编程架构，使其尽可能地具有同质可替代性。因为职责负载在通盘领域上变化相等剧烈。

看，在顶部，咱们有内行并行8，批次大小为3000，去聚会关闭，Dynamo关闭。在中间，内行并行64，其中26%用于潦倒文，因此Dynamo开启，潦倒文占用26%，其余74%未使用。批次大小为64，一个使用内行并行64，另一个使用内行并行4。然后在底部，咱们有张量并行16与内行并行4，批次大小为2，潦倒文占用1%。计较机的配置在通盘范围内皆在发生变化。

然后，就会发生这种情况。这是一个输入序列长度的例子，它是一种比较通用的测试用例。这是一种您不错相对缩小地进行基准测试的测试用例。输入为1000个象征，输出为2000个。

请正式，咱们之前向您展示了一个演示，其中输出相等浮浅，为9000，对吧，8000。是以很涌现，这并不可仅代表那一次对话。而这一次更具有代表性。这就是目的所在，即构建面向下一代职责负载的下一代计较机。

这是一个推理模子的示例。在这个推理模子中，Blackwell的性能是Hopper的40倍。径直说吧。相等惊东说念主。

你知说念，我之前说过，有东说念主照实问过，你知说念，我为什么要那样说？但我之前说过，一朝Blackwell公司启动批量发货，你就会发现Hopper家具供过于求，简直无东说念主问津。我说的就是这个有趣。这是合理的。淌若还有东说念主想购买Hopper家具，不消惦记，不要紧。

可是…… 我是首席收入顽固者。我的销售东说念主员会说，哦，不，别那样说。霍珀在某些情况下阐扬细致。这是我所能对霍珀作念的最好评价了。

你在某些情况下也阐扬细致，但情况未几。淌若我必须选择行动，这就是我的不雅点。

当技能发展如斯连忙，职责量如斯巨大，而况你们正在建造这些访佛工场的东西时，咱们真的但愿你们投资于正确的版块。

为了便于领略，这就是一座100兆瓦工场的花样。基于Hoppers公司的决议，您领有45，000个冲压模具、1400个机架，每秒可坐褥3亿个代币。

以下是Blackwell公司的决议。您领有86个……咱们并非试图减少您的购买量。咱们的销售东说念主员说，Jensen，你正在减少他们的购买量，但这是更好的决议。

总之，您购买越多，勤俭越多。事实上，情况比这还要好。现在，你购买得越多，赚取的就越多。

总之，请记取，一切皆在东说念主工智能工场的布景下进行，一切现在皆处于东说念主工智能工场的语境之中。

天然咱们褒贬芯片，但你老是要从领域化启动。全面领域化。你能将什么最大限定地领域化？

我现在想向你展示东说念主工智能工场是什么样的，但东说念主工智能工场相等复杂。我刚才只给你举了一个机架的例子，它领有60万个部件，重达3000磅。现在，你必须把它与许多其他部件斡旋起来。因此，咱们启动构建咱们所说的每个数据中心的数字孪生。在构建数据中心之前，你必须构建一个数字孪生。

让咱们来看一看这个。这简直令东说念主难以置信地瑰丽。

全国列国皆在竞相建设最先进的大领域东说念主工智能工场。建设一座东说念主工智能千兆工场是一项超卓的工程豪举，需要来自供应商、建筑师、承包商和工程师的数万名工东说念主来建造、运载和拼装近50亿个组件和超过20万英里的光纤，简直相等于地球到月球的距离。

英伟达Omniverse东说念主工智能工场数字孪生蓝图使咱们能够在物理建设启动之前遐想和优化这些东说念主工智能工场。

在此，英伟达工程师利用蓝图缱绻一座千兆瓦东说念主工智能工场，整合了最新英伟达DGX超等计较集群的三维和布局数据，以及来自Vertip和施耐德电气的先进电力和冷却系统，并通过英伟达AIR（一个用于模拟网罗逻辑、布局和契约的框架）进行了拓扑优化。

这项职责传统上是在各个安逸的部门进行的。Omniverse蓝图使咱们的工程团队能够并行协同职责，让咱们能够探索各样配置以最大限定地贬低总领有成本（TCO）并提高电力使用遵循。

英伟达利用由CUDA和Omniverse库加速的Cadence Reality数字孪生技能模拟空气和液体冷却系统，并使用施耐德电气的eTap应用法式模拟电力模块的遵循和可靠性。及时模拟使咱们能够在几秒钟内完成迭代并运行大型假定场景，而无需消费数小时。

咱们使用数字孪生技能向浩荡团队和供应商传达指示，从而减少实行失实并加速部署时辰。在缱绻改良或升级时，咱们不错缩小地测试和模拟成本和停机时辰，确保东说念主工智能工场具有将来发展后劲。

这是第一次有东说念主在构建数据中心时会认为："哇，这太漂亮了！"

面前咱们正全面坐褥Blackwell系列家具。全球各地的电脑公司皆在大领域地坐褥这些令东说念主难以置信的机器。我相等欢笑也很谢意民众为过渡到这个新的架构而付出的致力于。

在本年下半年，咱们将缩小过渡到升级版。因此，咱们将推出Blackwell Ultra MB-Link 72。

如您所知，它的处理身手种植了1.5倍。它具有新的正式力指示。其内存种植至原来的1.5倍。

整个这些内存可用于诸如KB缓存之类的用途。网罗带宽也种植至原来的两倍。因此，现在咱们领有通常的架构，将能够平滑过渡。这被称为Blackwell Ultra，将于本年下半年推出。

整个公司皆表现"下一个"是有原因的。事实上，这恰是我但愿得到的回报。原因是咱们正在建设东说念主工智能工场和东说念主工智能基础设施，这需要多年的缱绻。这不像购买一台札记本电脑那样浮浅，也不是可纰漏主管的支拨。

这是咱们必须缱绻的支拨，包括地皮和电力供应，以及本钱支拨，并组建工程团队。咱们必须提前一两年，致使两三年进行缱绻。这就是为什么咱们会提前两三年向您展示咱们的道路图的原因，这么咱们就不错幸免在五月份给您带来不测。

经过多年的缱绻，下一个阶段，也就是一年之后，是以一位天体裁家的名字定名的。她的孙辈们也在场。她的名字是维拉·鲁宾。她发现了暗物资。维拉·鲁宾令东说念主难以置信，因为其CPU是全新的，性能是Grace的两倍，内存更大，带宽更高。

关联词，它只是一个唯独50瓦的微型CPU，这照实令东说念主难以置信。而且，鲁宾系统使用了全新的GPU，CX9，全新的网罗智能网卡（NIC），NVLink 6，全新的NVLink互联技能，以及新式的内存HBM4。总体而言，除了底盘除外，其他一切皆是全新的。

通过这种方式，咱们不错在一个方进取承担很大的风险，而不会危及与基础设施有关的许多其他方面。因此，Vera Rubin，NVLink 144，将于来岁下半年推出。

现在，我犯了一个失实，是以，我只需要你们作念出这个救援：Blackwell践诺上是一个Blackwell芯片中的两个GPU。咱们称单个芯片为GPU是失实的，原因是这会打乱整个NVLink的定名法等等。

因此，瞻望将来，无需复返Blackwell进行建立，当我说NVLink 144时，它只是意味着它斡旋到144个GPU，而况每一个GPU皆是一个GPU芯片，而况它不错拼装在某个封装中，其拼装方式可能会随时变化。是以，每个GPU芯片就是一个GPU。每个NVLink皆斡旋到GPU。

因此，Vera Rubin，NVLink 144，这就为下半年，以及次年咱们称之为Rubin Ultra的家具奠定了基础。是以，Vera Rubin Ultra。这是Vera Rubin，Rubin Ultra，27的後半部分。它接收NVLink 576，扫尾了极大领域的推广。每个机架的功率为600千瓦，由250万个部件组成。

而且，涌现，还有多半的GPU，而况整个的一切皆乘以X因子进行了种植。是以，浮点运算次数增多了14倍，达到15亿亿次浮点运算（15 exaflops）。正如我之前提到的，现在是15亿亿次浮点运算，而非1亿亿次浮点运算，扫尾了领域的扩大。

而况其内存达到了300，或者是4.6PB（拍字节）。是以，带宽领域种植到了每秒4600TB（太字节）。我指的不是团员带宽，我指的是领域种植的带宽。天然，还有全新的NVLink交换机和CX9。

请正式，共有16个站点，每个封装包含4个GPU，接收极高速的NVLink互联。现在，让咱们来了解一下它的领域。这就是它的花样。

现在，这将会很有趣。是以，您现在正在全力种植Grace Blackwell的性能。我并非想把它比作札记本电脑，但这就是它的花样。这就是Grace Blackwell的形态。鲁本的形态亦然如斯。ISO维度。

因此，换句话说，在进行横向推广之前，必须先进行纵向推广。在进行横向推广之前，需要先进行纵向推广。然后，在那之后，咱们将利用令东说念主咋舌的技能进行横向推广。是以，源头进行纵向推广。这让您了解咱们前进的速率，这是纵向推广的浮点运算次数。这是纵向推广的浮点运算次数。Hopper的性能是基准的1倍，Blackwell是68倍，Rubin是900倍。领域化推广Flop。

然后，淌若我将其迁徙为，本体上是您的总领有成本（TCO），即功率在上，每单元功率鄙人，底下是弧线下方的面积，也就是弧线下的正方形，它基本上是浮点运算次数乘以带宽。是以，估量您的AI工场是否取得进展的一个相等浮浅的直观磨砺措施是，用瓦特数除以那些数字。您不错看到，Rubin将大幅贬低成本。这就是英伟达的道路图，相等节略。一年一次，像钟表一样精准。一年一次。

咱们怎么进行领域化推广？咱们引入了，咱们正在准备进行横向推广。那是领域推广，使用了NVLink技能。咱们的领域推广网罗是InfiniBand和Spectrum X。

大多数东说念主皆很诧异咱们进入了以太网领域。咱们决定使用以太网的原因是，淌若咱们能够匡助以太网达到InfiniBand的性能，领有InfiniBand的特色，那么网罗自身将更容易被整个东说念主使用和管制。因此，咱们决定投资Spectrum，咱们称之为Spectrum X，并将拥塞适度、极低蔓延和看成咱们计较结构一部分的小数软件的特色融入其中。停止，咱们使Spectrum X的性能极其出色。

咱们使用Spectrum X构建了有史以来最大的单一GPU集群，看成一个巨大的集群。这就是Colossus（巨型计较机系统）。还有许多其他的例子。Spectrum X无疑对咱们来说是一个巨大的奏效。我相等期待的一个领域是，最大的企业网罗公司将接收Spectrum X并将其集成到其家具线中，以便匡助全球企业成为东说念主工智能公司。

咱们在CX7上领有10万个用户。现在CX8行将推出，CX9也行将推出。在Rubin任职期间，咱们但愿将GPU数目推广到数十万个。现在，将GPU推广到数十万个濒临的挑战在于推广斡旋。推广斡旋使用的是铜缆。咱们应该尽可能地使用铜缆。这节略是一到两米摆布的距离。这提供了令东说念主难以置信的细致斡旋性、相等高的可靠性、相等好的能源遵循以及相等低的成本。

因此，咱们在推广中尽可能多地使用铜缆。关联词，在横向推广场景下，数据中心如今已如同知道场般巨大，咱们需要一种更长距离运行的科罚决议。这就是硅光子学施展作用的所在。硅光子学的挑战在于其收发器功耗巨大。从电信号到光信号的迁徙需要经过串行-并行迁徙器（SerDes）、收发器以及多个串行-并行迁徙器。

好，让咱们把它投影到屏幕上，这么我不错向民众展示我正在征询的内容。好的，源头，咱们告示英伟达首个接收共封装光子系统的决议。它是全球首个1.6太比特每秒的共封装光学器件（CPO）。它基于一种名为微环谐振器调制器（MRM）的技能。而况它鼓胀接收咱们与台积电（TSMC）合作已久，令东说念主难以置信的工艺技能构建而成。咱们与巨大的技能提供商生态系统合作，共同发明了行将向您展示的技能。这真的是一项令东说念主难以置信的技能，极其令东说念主难以置信的技能。

咱们之是以决定投资微环谐振器调制器（MRM），是为了利用MRM令东说念主难以置信的密度和功耗上风，其密度和功耗比用于电信的马赫曾德尔过问仪（Moxander）更好，后者用于电信中数据中心之间的通讯。致使在咱们使用的收发器中，咱们也使用马赫曾德尔过问仪（Moxander），因为到面前为止，密度要求并不高。

是以，淌若您望望这些收发器，这是一个收发器的例子。这是一个插头，功率是30瓦，多半购买价钱是1000好意思元。此侧为电源接口，此侧为光纤接口。光信号通过黄色接口输入。您将此插头插入交换机。其中包含收发器、激光器，并接收名为Moxander的技能。

咱们使用它将数据从GPU传输到交换机，再到下一个交换机。然后是下一个交换机，再下一个交换机，例如斡旋到GPU。因此，淌若咱们有10万个GPU，咱们这边就会有10万个这么的组件，然后是另外10万个组件，用于斡旋交换机与交换机。然后在另一侧，我将其归因于另一个网卡(NIC)。

淌若咱们有25万个GPU，咱们将增多一层交换机。因此，每个GPU，整个25万个GPU，每个GPU将有六个收发器，每个GPU将有六个这么的插头。这六个插头每个GPU将增多180瓦的功耗，每个GPU 180瓦，每个GPU 6000好意思元的成本。是以问题是，咱们怎么将领域扩大到数百万个GPU？因为淌若咱们有100万个GPU乘以6，那就是600万个收发器乘以30瓦，也就是1.8亿瓦的收发器功耗。它们莫得进行任何计较，只是迁徙信号。

问题在于，咱们怎么，咱们能够怎么职守得起，正如我之前提到的，能源是咱们最伏击的商品。最终一切事物皆与能源有关，因此这将通过减少180兆瓦的电力来舍弃咱们的收入和客户的收入。这是咱们所作念的令东说念主感概的事情。咱们发明了全国上第一台微镜MRM，这就是它的花样。

那里有一个小的波导，您不错在波导上看到，它通向一个环，该环产生共振，并适度波导在绕行时的反射率，从而舍弃和调制能量，即通过的光量。它通过采纳光来关闭它，或者让它通过。它将这种径直的连气儿激光束迁徙为1和0。这就是遗迹。

然后，这项技能——光子集成电路——与电子集成电路堆叠在沿路，然后与一堆微透镜堆叠在沿路，再与称为光纤阵列的东西堆叠在沿路。这些部件皆是使用台积电的这项技能（他们称之为COOP）制造的，并使用3D COAS技能进行封装，并与整个这些技能提供商（我之前刚刚展示过它们的名字）合作，最终将其转变为这台令东说念主难以置信的机器。那么让咱们来看一下这段视频。

这简直是一项技能遗迹。它们变成了这些交换机，咱们的 InfiniBand 交换机，硅芯片运奇迹况极佳。本年下半年咱们将录用硅光交换机，来岁下半年咱们将录用 Spectrum X。

收成于 MRM 的聘请，收成于咱们在往时五年中承担的令东说念主难以置信的技能风险，咱们央求了数百项专利，并将技能授权给咱们的合作伙伴，以便咱们皆能制造它们，现在咱们能够将硅光子技能与共封装选项相联结，无需收发器，光纤径直斡旋到咱们的交换机，基数为 512。这就是 512 个端口。任何其他措施皆根柢无法作念到这一丝。

因此，这使咱们能够推广到这些领稀有十万致使数百万个 GPU 的系统。其益处，您不错遐想一下，令东说念主难以置信。在数据中心，咱们不错勤俭数千万瓦的电力。假定是十兆瓦，或者说六十兆瓦。六兆瓦相等于十个Rubin Ultra机架。六十兆瓦的电力相等可不雅。咱们现在不错将一百个Rubin Ultra机架的电力部署到Rubin系统中。

咱们的道路图是：每年进行一次架构更新，每两年进行一次全体架构升级，每年推出一条新的家具线，扫尾X身分的种植。咱们尝试逐渐承担硅片、网罗或系统机箱的风险，以便在追求这些令东说念主难以置信的技能时，能够鼓励行业上前发展。薇拉·鲁宾，我相等感谢她的孙辈们来到这里。这是咱们认同她并为她所作念出的特出职责问候的契机。咱们下一代家具将以费曼定名。

接下来是英伟达的道路图。让我来和您谈谈企业计较，这相等伏击。

为了将东说念主工智能带入全球企业，咱们源头需要转向英伟达的不同部门。高斯散点图的高明之处。

为了将东说念主工智能带入企业，让咱们退一步，提醒我方这一丝。请记取，东说念主工智能和机器学习仍是透澈重塑了通盘计较堆栈。

处理器不同了，操作系统不同了，顶层的应用法式也不同了。应用法式的运行方式不同，编排方式不同，实行方式也均不同。

举一个例子，您捕快数据的方式将与往时 fundamentally 不同。将来，咱们不会再精准地检索所需数据，然后阅读并尝试领略它，而是会像使用Perplexity那样进行操作。咱们不再那样检索信息，而是径直向Perplexity忽视我的问题，发问，然后它会给出谜底。

将来，企业IT也将接收这种方式运作。

咱们将领有看成数字劳能源一部分的AI代理。全球稀有十亿知识型职工，将来可能会有100亿数字职工与咱们并肩职责。将来，全球3000万软件工程师中的100%皆将借助AI辅助器具。

我对此笃信不疑。到本年年底，英伟达100%的软件工程师皆将借助AI辅助器具。因此，东说念主工智能代理将无处不在。它们的运行方式、企业的运行方式以及咱们的运行方式皆将发生根人性的改变。

是以咱们需要新一代的计较机。这才是个东说念主电脑应有的花样：20 petaflops（千万亿次浮点运算），令东说念主难以置信。72个CPU中枢，芯片曲折口，高带宽内存（HBM），此外，还有一些PCI Express插槽用于您的GeForce显卡。这叫作念DGX Station。

DGX Spark和DGX Station将由整个原始开导制造商（OEM）提供，包括惠普、戴尔、空想、华硕。它将面向全球的数据科学家和谋划东说念主员坐褥。这是东说念主工智能时间的计较机，这就是计较机应该的花样，这亦然将来计较机的运行方式。

咱们现在为企业提供了一整套家具线。咱们提供从微型机到职责站、工作器，再到超等计较机的各种家具。这些家具将由咱们整个的合作伙伴提供。咱们还将透澈转变其余的计较架构。

请记取，计较具有三大扶助，其一是计较自身，而你们正在见证它的发展。其二是网罗，正如我之前提到的，Spectrum X 将面向全球企业，构建一个东说念主工智能网罗。第三是存储。存储必须透澈再行遐想，它将不再是基于检索的存储系统，而是一个基于语义的存储系统。因此，该存储系统必须连接握住地将信息镶嵌到后台。它接收原始数据，将其镶嵌到知识中，然后当您捕快它时，您无需检索它，而只需与它进行交互。你不错向它发问，也不错给它忽视问题。

其中一个例子是Box公司的Aaron，他致使将其上传到云表，并与咱们合作将其上传到云表。它基本上是一个超等智能的存储系统。将来，每个企业皆将领有这么的系统。这就是将来的企业存储。

咱们正在与通盘存储行业合作，他们皆黑白常棒的合作伙伴，包括DDN、戴尔、惠普企业、日立、IBM、NetApp、Nutanix、Pure Storage、Vast和Weka。基本上，全球通盘存储行业皆将提供这一技能栈。初度，您的存储系统将扫尾GPU加速。戴尔将提供全系列的英伟达企业级IT东说念主工智能基础设施系统以及在其上运行的整个软件。因此，您不错看到咱们正在透澈变革全球企业。

咱们今天还告示了这款令东说念主难以置信的模子，每个东说念主皆不错运行。此前我向您展示了R1，一个推理模子。我将它与Llama 3（一个非推理模子）进行了比较。很涌现，R1要明智得多。但咱们还不错作念得更好，咱们不错使其成为任何公司皆可用的企业级家具。现在它鼓胀开源，是咱们称之为NIMS的系统的一部分。

您不错下载它，不错在职何所在运行它。您不错在DGX Spark上运行它。您不错在DGX Station上运行它。您不错在原始开导制造商（OEM）坐褥的任何工作器上运行它。您不错在云表运行它。您可将其集成到您的任何自主智能（Agentic AI）框架中。咱们正与全国各地的公司合作。

我将快速浏览这些内容，请仔细不雅看。我想感谢一些在座的优秀合作伙伴。

埃森哲，朱莉·斯威特和她的团队正在构建他们的AI工场和AI框架。Amdocs，全球最大的电信软件公司。AT&T公司，John Stanky偏激团队正在构建一个AT&T东说念主工智能系统，一个具有自主代理身手的系统。Larry Fink和贝莱德团队正在构建他们的系统。将来，Anyrood公司不仅会招聘ASIC遐想东说念主员，还会招聘多半来自Anyrood Cadence的数字ASIC遐想东说念主员来匡助咱们遐想芯片。因此，Cadence公司正在构建其东说念主工智能框架。

正如您所看到的，在每一个系统中，皆集成了NVIDIA模子、NVIDIA NIMS和NVIDIA库。因此，您不错将其在土产货、云表或任何云平台上运行。Capital One，一家在技能应用方面最为先进的金融工作公司，庸俗使用了NVIDIA的技能。德勤公司，Jason偏激团队。ENY公司，Janet偏激团队。纳斯达克公司，Dina偏激团队。将英伟达技能集成到他们的AI框架中。然后是克里斯蒂安和他在SAP的团队。比尔·麦克德莫特和他在ServiceNow的团队。

源头，这是一个主题演讲，其第一张幻灯片就花了30分钟。然后整个其他幻灯片也皆花了30分钟。接下来，咱们换个所在吧。咱们来谈谈机器东说念主技能。

机器东说念主时间仍是到来。机器东说念主能够与物理全国互动并实行数字信息无法完成的任务，这是它们的上风所在。咱们相等明晰地知说念，全国正濒临着严重的劳能源极重。到本十年末，全全国至少将极重5000万名工东说念主。

咱们相等乐意支付每位工东说念主5万好意思元的年薪以诱骗他们来职责。咱们可能不得不每年支付机器东说念主5万好意思元的"薪水"以使其参加职责。因此，这将是一个相等巨大的产业。各种机器东说念主系统层见错出。您的基础设施将扫尾机器东说念主化。仓库和工场中将部署数十亿个录像头。全球约有1000万到2000万家工场。正如我之前提到的，每辆汽车践诺上皆是一台机器东说念主。现在，咱们正在建造通用机器东说念主。让我向您展示咱们是怎么作念到的。

整个迁徙的物体皆将扫尾自主化。物理东说念主工智能将赋能各种机器东说念主，应用于百行万企。三台英伟达制造的计较机营救机器东说念主东说念主工智能的连接轮回模拟、教师、测试和真实全国教训反馈。机器东说念主教师需要海量数据。互联网领域的数据提供了学问和推理身手，但机器东说念主还需要行动和适度数据，而这些数据的获取成本很高。

利用基于英伟达Omniverse和Cosmos构建的蓝图，开发者不错生成海量各样化的合成数据，用于教师机器东说念主的策略。

源头，在Omniverse中，开发者凭据不同的领域、机器东说念主和任务，整合真实全国的传感器数据或演示数据。然后利用Omniverse对Cosmos进行条款处理，将原始汇集数据扩增为海量传神且各样化的数据。开发者使用Isaac Lab利用增强的数据集对机器东说念主策略进行后期教师。并通过师法学习克隆行动，或通过试错法以及强化学习AI反馈，让机器东说念主学习新妙技。实验室熏陶与真实全国有所不同。新策略需要进行现场测试。开发者使用Omniverse进行软件和硬件在环测试，在具有真实全国环境动态、领域立地化、物理反馈和高保真传感器模拟的数字孪生体中模拟策略。

真实全国的操作需要多个机器东说念主协同职责。Mega，一个Omniverse蓝图，允许开发者大领域测试经事后期教师的机器东说念主策略集群。在此，富士康在一个虚构的英伟达Blackwell坐褥工场中测试异构机器东说念主。当机器东说念主大脑实行其任务时，它们通过传感器模拟感知其行动的停止，然后缱绻下一个行动。Mega 允许开发者测试许多机器东说念主策略，使机器东说念主能够看成一个系统职责，非论是空间推理、导航、迁徙性如故智谋性方面。

令东说念主感概的事物出身于模拟之中。今天，咱们推出 NVIDIA Isaac Groot N1。Groot N1 是一个用于东说念主形机器东说念主的通才基础模子。它建立在合成数据生成和模拟学习的基础之上。Groot N1 接收了一种双系统架构，用于快速和慢速想考，其灵感来自于东说念主类领路处理的旨趣。慢速想考系统允许机器东说念主感知和推理其环境和指示，并缱绻正确的行动。快速想考系统将策动升沉为精准且连气儿的机器东说念主动作。Groot N1 的泛化身手使机器东说念主能够缩小地独揽常见物体并协同实行多格式序列。通过完整的合成数据生成和机器东说念主学习经过，东说念主形机器东说念主开发者不错对Groot N1进行跨多种形态、任务和环境的后期教师。

全全国各个行业的开发者皆在使用英伟达的三款计较机来构建下一代具身东说念主工智能。物理东说念主工智能和机器东说念主技能发展连忙。每个东说念主皆应该可贵这一领域。这很可能成为整个行业中领域最大的一个。其中枢在于，咱们濒临着同样的挑战。正如我之前提到的，咱们可贵三个方面。这些问题具有系统性。

源头，怎么科罚数据问题？如缘何及在那儿创建教师东说念主工智能所需的数据？其次，模子架构是什么？第三，缩放损失是什么？咱们怎么推广数据、计较身手或两者兼顾，从而使东说念主工智能越来越智能？咱们该怎么进行推广？这两个基本问题同样存在于机器东说念主领域。在机器东说念主领域，咱们创建了一个名为Omniverse的系统，它是咱们用于物理东说念主工智能的操作系统。历久以来，你们皆听我褒贬过Omniverse。

咱们向其中添加了两项技能。今天，我将向你们展示两件事。其一，是为了让咱们能够推广具有生成身手和能够领略物理全国的生成模子的AI。咱们称之为Cosmos。利用Omniverse来调度Cosmos，并利用Cosmos生成无穷数目的环境，使咱们能够创建塌实可靠的数据。这些数据塌实可靠，受咱们适度，同期又具有系统性的无穷性。正如您所见，在Omniverse中，咱们使用糖果色来例如说明咱们怎么完整地适度场景中的机器东说念主，而Cosmos不错创建整个这些虚构环境。

第二点，正如咱们之前所征询的，现在语言模子令东说念主难以置信的推广身手之一是强化学习，以及可考证的奖励。问题是，机器东说念主技能的可考证奖励是什么？正如咱们相等明晰的那样，那就是物理定律。可考证的物理奖励。因此，咱们需要一个令东说念主难以置信的物理引擎。

嗯，大多数物理引擎的开发皆有各样各样的原因，可能是为了大型机械开导而遐想，也可能是为了虚构全国、电子游戏等等而遐想。但咱们需要一个专为致密、刚性和软体遐想的物理引擎。该引擎的遐想目的是能够教师触觉反馈、致密动作妙技和实行器适度。咱们需要它能够进行GPU加速，以便这些虚构全国能够以超线性时辰、超及时的方式运行，并以极快的速率教师这些AI模子。咱们还需要它与全球机器东说念主内行皆在使用的框架——MuJoCo——和谐地集成。

是以今天咱们要告示一些确凿至极的东西。这是三家公司的合作效果，区分是DeepMind、迪士尼谋划和英伟达，咱们将其定名为Newton。让咱们来望望Newton，谢谢。

你以为新的物理引擎何如样？你可爱它，是吗？是的，我敢打赌。我知说念。触觉反馈、刚体、柔体、仿真、超及时。你能遐想刚才你所看到的一切皆是及时仿真吗？将来咱们将以此方式教师机器东说念主。

趁便说一下，蓝色机器东说念主里面有两台计较机，两台英伟达显卡。看你多明智。是的，你很明智。

嘿，蓝色机器东说念主，听着。咱们把它带回家何如样？咱们扫尾这场主题演讲吧。该吃午饭了。你准备好了吗？咱们把它扫尾掉吧。咱们还有一个公告。你阐扬得很好。

就站在这里。好的，很好。

咱们还有另一个令东说念主慷慨的音书。我告诉过你们，咱们的机器东说念主技能取得了巨猛进展。今天，咱们告示Groot N1将开源。我想感谢诸君的光临。

让咱们总结一下。感谢诸君参加GTC大会。咱们征询了几个方面。

第一，Blackwell已全面投产，而且发展势头令东说念主难以置信。客户需求相等蓬勃。这是有充分事理的。因为东说念主工智能正处于一个拐点，由于推理型东说念主工智能和代理型东说念主工智能系统的教师，咱们需要进行的东说念主工智能计较量大幅增多。

第二，配备Dynamo的Blackwell NVLink 72的AI工场性能是Hopper的40倍。跟着东说念主工智能的推广，推理将在将来十年景为最伏击的职责负载之一。

第三，咱们已为您制定了年度道路图，以便您缱绻您的AI基础设施。然后，咱们正在建设两到三个AI基础设施，区分面向云表的AI基础设施、面向企业的AI基础设施以及面向机器东说念主的AI基础设施。

咱们还有一个惊喜为您准备。

感谢民众。感谢整个使这段视频成为可能的合作伙伴。感谢整个使这段视频成为可能的诸君。祝GTC大会圆满奏效探花。谢谢。