令牌在早期检测疾病、解码生命的复杂性和理解生物功能方面发挥着至关重要的作用，有助于保护珍贵物种。

在GTC上，讨论突出了人工智能和机器人技术对最大化潜能和增强人类能力的转变影响，标志着技术探索新时代的开始。

英伟达突显了人工智能方面的重大进步，展示了人工智能如何改变了计算机图形和计算模型，导致了生成式计算和在各行各业中性能的提升。

最近在代理人人工智能和物理人工智能方面的突破性进展正在改变计算层。这些进步开辟了新的市场机会，并提升了各行各业的问题解决能力。

这段对话讨论了人工智能发展面临的三大基本挑战：解决数据问题、在没有人为干预的情况下训练模型，以及实现可扩展的算法。它强调了因为代理人工智能具有推理能力而导致的计算需求显著增加，它可以逐步解决问题，这与以往的人工智能模型相比生成了更多的令牌。

对话突显了人工智能模型计算需求的显著增加，强调了强化学习和合成数据生成在教授人工智能推理方面的作用。讨论了为训练生成大量数据的挑战，特别是在不过分依赖人类输入的情况下，展示了强化学习在解决各领域复杂问题中的潜力。发言人强调了行业对这些挑战的应对，表明了人工智能训练方法的重大转变。

对话突出了人工智能基础设施的显著增长，特别是在四大云服务提供商（亚马逊、Azure、GCP、Oci）中，指出了人工智能模型的需求和计算需求增加。它预测到本十年末将有数万亿美元的数据中心建设，这是由于从通用计算向人工智能加速计算的转变和对软件未来资本投资的认识所推动的。这种转变的特点是人工智能工厂的兴起，重点是生成计算用于各种应用。

对话突出了NVIDIA在各种加速库的发展和影响，包括cuNumeric、cuLitho和cuOpt，在计算光刻，5G射频处理和数学优化等领域显著提升性能，旨在开源其中一些工具以进一步加快行业进步。

这一公告突显出通过与主要系统公司合作，在加速计算方面取得了重大进展，引入了QDSS稀疏求解器和加速库，用于结构化数据、物理模拟等领域，标志着行业向基于CUDA的解决方案转变的一个转折点。

演讲者讨论了人工智能的演变，强调其起源于云端，源于基础设施和计算需求。他们强调全栈技术的重要性，以及云服务提供商在培育人工智能发展中的作用。演讲者对人工智能进入企业、制造业、机器人和自动驾驶汽车等各个领域表达了兴奋之情，并提到了GPU云的出现。他们特别关注人工智能在无线网络和边缘计算中的转变潜力，并宣布与美国的主要公司合作，构建无线网络的全栈，旨在通过人工智能和强化学习改变通信方式，调整无线信号。

NVIDIA已经深度参与自动驾驶汽车技术的发展超过十年，与特斯拉和通用汽车等主要公司合作。他们的技术，包括GPU和人工智能驱动系统，在数据中心和车辆中被用于培训、模拟和道路操作。NVIDIA尤为自豪的是他们对汽车安全的承诺，为每行代码开发了全面的安全评估流程，并获得了与自动驾驶汽车安全相关的1000多项专利。他们采用先进的人工智能技术，如模型蒸馏、闭环训练和合成数据生成，来增强自动驾驶车辆的适应性和安全性，确保它们能够稳健地应对复杂情况。

英伟达通过Grace Blackwell MvLink 72机架，在计算机架构方面取得了空前的规模扩展，标志着从集成到非集成MvLink的根本转变，以及从空冷到液冷系统的转变，实现了单个机架中的1x flops超级计算机。

对话讨论了AI推理的极端计算挑战，强调了在生成AI响应的令牌时高效和高性能的需求。演讲者解释了令牌生成速度和数量的重要性，强调了AI系统中延迟和吞吐量之间所需的平衡，以确保最佳的服务质量、收入和盈利能力。

讨论的焦点是如何优化人工智能服务，提供高质量的客户体验，同时最大程度地提高数据中心的效率和收入。它探讨了在速度、计算能力、带宽和人工智能模型复杂性之间的权衡，重点展示了一个演示，比较了传统模型和推理模型在解决复杂问题上的表现。

对话讨论通过在GPU之间分配工作负载，利用张量、流水线和专家并行性来优化具有数万亿参数的AI模型。它强调了像NVLink这样的同质体系结构在处理复杂的计算阶段，例如大型语言模型中的上下文处理和解码，的重要性。

英伟达推出了Dynamo，这是一款设计用来在数据中心中管理复杂人工智能工作负载的开源操作系统，类似于组织人工智能工厂，为预填和解码等任务提供动态资源分配。

讨论探讨了利用Hopper和Blackwell系统优化人工智能工厂的产量和能源效率。它强调了人工智能智能和大量生产之间的折衷，强调了在电力有限的数据中心中能源高效计算架构的重要性。介绍了MvLink 8和Dynamo等创新技术，以提高性能和效率。

这次讨论强调了在人工智能操作中，Blackwell比Hopper有显著的性能改进，强调了吞吐量和质量之间的平衡。Blackwell在ISO功率条件下一代比一代提高了25倍的性能，显示了它在处理下一代工作负载方面的优势，特别是在推理模型中，其性能比Hopper提高了40倍。

该讨论强调了投资先进技术的优势，特别是比较使用霍珀和布莱克韦尔芯片的100兆瓦工厂效率，强调了生产能力和成本效益方面的显著改进。

对话突出了建设尖端人工智能工厂的复杂性和规模，强调在实际建设之前使用数字孪生体进行规划和优化。英伟达的Omniverse Blueprint使协同工程团队能够高效模拟和迭代设计，大大减少错误并加快建设过程。演讲者还概述了未来人工智能基础设施的路线图，包括Blackwell Ultra和Vera Rubin系统，展示了这些大型项目所需的战略规划。

这段对话讨论了NVIDIA的GPU进步，澄清每个Blackwell芯片包括两个GPU芯片，并概述了未来计划，包括旨在通过576个MvLink连接实现极端规模扩展的Ruben Ultra项目，以及性能和带宽的显著提升。它还强调了过渡到Spectrum X网络技术，旨在通过类似Infiniband的性能增强以改进以太网网络的管理能力，例如通过创建具有Spectrum X的最大单GPU集群。

该讨论概述了数据中心中扩展GPU使用所涉及的挑战和解决方案，特别关注使用收发器所带来的能源和成本影响。它介绍了世界上第一台MRI微型镜和硅光子学的发明，大幅降低了功耗，使处理大量GPU变得可能。这些进步为更高效、高容量的数据中心架构铺平了道路，旨在节省数十兆瓦的电力，并促进数百万个GPU的部署。

通过AI的企业计算的转型涉及一个新的计算架构，包括处理器、操作系统和数据访问方法的改变。 AI代理将成为数字化劳动力的重要组成部分，这将显著改变企业的运营方式，需要开发一系列新的计算机。

一系列高性能计算机，包括DGX Station和Spark，针对数据科学家和研究人员宣布推出，标志着人工智能计算的时代。这些系统具有20拍峰值每秒的计算能力，配备有72核心CPU、HBM内存和PCI Express插槽，将由惠普、戴尔、联想和华硕等主要OEM厂商制造。该公司还在计算、网络和存储方面进行革新，推出一种可以在不同平台上运行的开源人工智能模型，包括新计算机和云端。此外，突出全球公司之间的合作伙伴关系，整合人工智能框架。讨论转向机器人，强调由于全球劳动力短缺而需要自主机器人。英伟达的技术实现了机器人人工智能模拟、训练、测试和实际经验的连续循环，介绍了Isaac GRO N1，一种用于人形机器人的通用基础模型，展示了融入人工智能和机器人技术的进展。

人工智能(AI)的核心挑战包括数据创建、模型架构和扩展规律。为了解决这些问题，Omniverse作为物理AI的操作系统，通过Cosmos生成无限、稳定的环境。Newton是由DeepMind、迪士尼研究和英伟达(Nvidia)合作开发的，引入了专门为细致模拟设计的物理引擎，加速了机器人人工智能的训练过程。

展示了先进的机器人技术和人工智能技术，包括实时模拟和机器人训练方法后，演讲人宣布N 1团队机器人平台现已开源，突出了人工智能和机器人技术的重要进展。活动还涵盖了Blackwell的生产状况，强调了对人工智能计算和云端、企业和机器人基础设施的不断增长需求。