登录 | 注册
我要路演
AMD Advancing AI 2026 Keynote
文章语言:
EN
分享
纪要
原文
会议摘要
AMD重点展示了其在人工智能领域的多项技术进展,包括开源软件栈、Instinct Mi 350 GPU和Creo AI系统等硬件创新,以及与多家科技领军企业的战略合作伙伴关系。该路线图聚焦性能、效率与安全性,旨在将人工智能全面融入从数据中心到个人终端的各类计算环境。AMD致力于通过创新与协作引领人工智能革命,重点布局算力扩展、AI能力提升以及开源贡献。
会议速览
AMD的愿景:携手高性能GPU与CPU,共赴智能体AI革命
AMD通过同时打造高性能GPU与CPU,彰显其在人工智能领域的领先地位,推动智能体AI从提供答案迈向执行行动。这一突破赋能员工、提升自动驾驶水平,并革新疾病诊断,彰显了公司推动人工智能技术发展的坚定承诺。
AMD的愿景:加速人工智能发展,塑造未来计算需求
AMD强调人工智能需求的指数级增长,并指出其重心正从训练向推理负载转移。在以具身智能为核心的发展战略下,AMD预计到2026年,用于运行AI模型的算力将超过用于训练AI模型的算力,这反映出AI正日益融入日常生活与各行业。
人工智能代理推动算力需求增长,预计到2030年将带动AI加速器市场规模增至1.4万亿美元
人工智能代理凭借其通过多步推理解决复杂问题的能力,正大幅推升算力需求,尤其是对GPU和CPU的需求。这推动了人工智能加速器市场的迅猛增长,预计到2030年市场规模将达到1.4万亿美元,逼近当前半导体市场的体量。向生成式人工智能与持续演进的工作负载转型,进一步凸显了GPU的可编程优势,使其成为AI硬件生态中的主导力量。
AMD的愿景:以人工智能为驱动的服务器CPU与高性能计算增长
AMD预计人工智能将对服务器CPU产生变革性影响,推动相关市场规模增长逾50%,突破2000亿美元;同时强调,必须在各类终端设备及边缘侧全面实现AI集成,并力争到2030年将高性能计算市场的规模提升至2万亿美元,同时高度重视生态系统的协同合作。
AMD的全面战略:引领计算、开放平台与无处不在的人工智能
AMD强调其战略重点在于计算领先、开放平台以及在各行业领域的AI应用。它重点展示了其广泛的合作伙伴关系、在海利俄斯AI机柜等硬件领域的技术突破,以及在软件方面的持续投入。该公司强调其在服务器市场、GPU应用以及人工智能算力复杂性方面的突出成就,致力于实现系统的无缝集成与易用性。
革新人工智能基础设施:海利俄斯机柜、高性能计算与行业合作
本文探讨了Helios系统,重点介绍了其卓越的人工智能加速能力,包括先进的CPU与GPU协同集成、液冷散热以及高速网络互联。强调该系统在算力方面领先15%、内存容量与带宽提升50%,并突出其在大规模人工智能业务中的关键作用。宣布客户需求强劲,并与多家企业建立合作伙伴关系,其中尤为引人注目的是与Anthropic的合作,将部署高达2吉瓦的Helios算力资源,以满足先进人工智能工作负载的需求。
革新硬件与人工智能的协同,提升性能与安全性
对话凸显了硬件与人工智能发展的协同效应,着重强调了模型在新平台上的无缝部署、人工智能在优化工程工作流中的关键作用,以及在各代技术中持续提升性能、能效与安全性的坚定承诺。一个重点是高并发应用的吞吐量提升了34倍,这充分展现了集成式AI与硬件解决方案在推动未来创新方面的巨大潜力。
革新人工智能效率:借助Helios提升算力并实现成本节约
强调了提高AI效率的重要重点,通过Helios等创新降低了每个令牌的成本并提高了性能。这项技术有望使每美元获得的代币数量较竞争对手提升多达18倍,且高出30%,从而推动各大人工智能实验室和云服务提供商的强劲需求。与一家领先的AI基础设施企业建立的战略合作,彰显了面向AI应用的算力优化之路,也折射出行业发展的迅猛态势以及高效计算解决方案的关键作用。
人工智能模型演进与算力扩展:面向未来的一体化战略伙伴关系
人工智能模型正从聊天机器人向高级智能体演进,这推动了对算力的更高需求。与AMD在部署先进基础设施(如Helios机架)方面的合作,对于优化AI模型性能、提升扩展能力至关重要,并力争在2027年底前实现大规模部署。
革新人工智能部署:实现优化自动化并赋能开放生态系统
一项协作性工作致力于利用人工智能实现系统优化的自动化,从而缩短新模型在AMD GPU上的部署周期。该合作旨在通过让创新成果触手可及,全面提升人工智能生态系统,并强调未来人工智能基础设施亟需更强的算力与更高的能效。
面向人工智能的数据中心协同设计:一种集成方法
该对话凸显了面向人工智能的数据中心系统协同设计的重要性,强调必须采取整体性方法,统筹考虑CPU、GPU、内存、网络、存储、配电及冷却等各子系统。演讲者对与团队的通力协作表示赞赏,这些努力促成了产品的成功落地,并使团队得以聚焦于运用人工智能优化未来的设计方案。
AMD第六代霄龙“威尼斯”:引领人工智能与数据中心的计算创新
AMD最新推出的第六代EPYC“威尼斯”系列处理器,旨在满足人工智能、云计算及企业级工作负载不断演进的多样化需求。威尼斯系列产品以性能、能效和总体拥有成本为核心,提供针对人工智能主机节点、代理沙箱以及通用服务器等场景优化的多种型号。基于台积电2纳米制程打造的Venice,每个插槽最多可提供512个线程,内存与I/O带宽翻倍,并在高性能计算领域引入了诸如3D V-Cache堆叠等创新技术。这一全面的CPU产品组合彰显了AMD在数据中心技术领域的领先地位。
革新人工智能工作负载:Epic的Venice CPU在性能与能效方面领跑业界
Epic的Venice CPU在人工智能工作负载上超越竞品,不仅具备更高的令牌处理速度、更高的每瓦能效,还在核心密度与性能方面位居行业前列。它在GPU与CPU服务器领域均表现卓越,兼具无与伦比的能效与软件兼容性,多家主流OEM厂商及云服务提供商已计划于第四季度正式推出相关产品。
数据中心架构与人工智能基础设施的协同创新
对话凸显了对人工智能驱动型服务需求的指数级增长,强调了对一体化数据中心系统的需求。本文探讨了Meta的算力计划,重点聚焦于涵盖硬件、网络、散热与供电在内的端到端系统设计。此次对话凸显了与AMD等合作伙伴开展协同设计、共同打造灵活、开放且异构的系统的重要性。双方建立了长期合作关系,历经多代CPU的更迭,见证了技术的蓬勃发展与持续演进。
先进计算系统中CPU与GPU协同演进
本文探讨了CPU与GPU协同在应对复杂工作负载方面日益凸显的重要性,重点介绍了从Mi 300到Mi 450的技术演进,强调通过协同工程、联合设计及部署策略,实现计算系统的性能与能效全面提升。
面向未来人工智能生态系统的协同设计:破解瓶颈、释放系统潜能
与会专家强调,应及早开展人工智能系统的协同设计,以应对未来挑战;重点聚焦于CPU‑GPU异构融合架构、数据中心与芯片的长周期交付,以及通过协同设计充分释放系统潜能的必要性。
探索面向人工智能工作负载的超低延迟拆分推理技术
一场关于推理市场演进的讨论,强调针对不同工作负载定制算力解决方案的必要性,并着重通过分离式推理实现超低延迟;同时,两家公司携手合作,共同应对市场需求。
Cerebras与AMD携手推出超低延迟人工智能解决方案
高性能芯片技术领域的领军企业Cerebros与AMD携手,共同推出业界领先的超低延迟推理解决方案。将AMD CPU与Cerebros的晶圆级计算引擎相结合,全新系统实现了无与伦比的计算速度和吞吐能力,有望重塑人工智能市场,并为客户提供适用于本地部署与云端部署的灵活、高性能解决方案。
革新GPU编程:AMD的Rocom AI平台助力提升开发者效率
AMD高级副总裁就软件领域的最新进展进行了阐述,重点介绍了Rocom AI这一代理式人工智能平台的发布。该平台旨在简化GPU编程、提升开发者效率,并将AI辅助编码无缝融入AMD生态系统,标志着GPU软件开发与优化方式的重大转变。
革新软件开发:基于人工智能的优化——携手超环线与开放软件基金会
开放软件基金会推出了一款名为“Hyperloop”的人工智能辅助层,旨在提升开发者的效率。Hyperloop能够优化工作负载、调优配置并持续迭代以提升性能,典型案例如此对14个模型进行了优化。一款原生AI界面为开发者提供支持,简化了racom的集成,并使编码智能体能够原生理解核心技术栈。
革新开发者交互:AI智能体助力Mi 455性能提升
该对话展示了像Rockham AI这样的人工智能代理如何通过优化模型与内核来简化开发者的各项任务,从而带来显著的性能提升。Mi 455平台以实战成效为导向,凭借无与伦比的计算与内存性能,并在生态伙伴的有力支持下,为开发者带来streamlined且强大的开发体验。
革新人工智能开发:简化部署、推动协作
该对话凸显了借助先进AI工具实现大规模AI模型的无缝部署,强调了向自动化模型部署的转型,以及协作在推动AI软件开发中所发挥的关键作用。它展示了将人工智能融入开发流程所带来的效率与创新,通过模型部署演示和创意成果加以印证,同时也凸显了合作伙伴关系在推动AI发展中的关键作用。
GPU软件开发:从Triton到Gluon,实现更优的控制与性能
对话探讨了GPU软件开发的演进历程,重点介绍了Triton在性能加速方面的应用以及Gluon在超参数优化上的优势,并强调应根据不同的应用需求定制解决方案。
革新人工智能驱动的GPU编程:协同创新与开源成功
一项合作项目展示了面向AMD GPU的AI辅助内核生成技术的最新进展,凸显了开源协作在提升硬件与软件生态系统的性能与效率方面的显著优势。
以模块化小芯片架构与人工智能辅助开发推动人工智能与高性能计算的变革
对话强调了通过模块化小芯片架构将AI辅助开发与高性能计算 (HPC) 和科学计算相结合,强调了Mi 430x在AI和HPC的FP 64性能方面的领导地位。以及开源软件和抽象接口在支持人工智能对复杂硬件系统进行编程方面的战略重要性。
AMD的愿景:以全面的计算产品组合,赋能无处不在的人工智能
AMD强调其战略,旨在为从数据中心到个人终端的各类人工智能部署模式提供最优的计算解决方案,同时突出其x86处理器在推动人工智能发展、满足企业独特需求方面的重要作用。
AMD的企业级领导力:为多样化工作负载与人工智能集成量身定制的解决方案
AMD凭借覆盖多样化工作负载并深度融合人工智能的定制化解决方案,彰显其在企业级计算领域的领先地位。该公司强调灵活的CPU选项对于满足特定工作负载需求的重要性,并针对人工智能部署面临的挑战,重点聚焦成本可预测性、数据安全以及与现有基础设施的无缝集成。AMD的解决方案支持分布式人工智能模型,同时兼顾功耗、散热、空间以及部署便捷性等约束条件,确保所提方案能够充分满足企业级需求。
隆重推出Instinct Mi 350p:无需全面改造数据中心,即可释放企业级AI算力
Instinct Mi 350 GPU旨在将AI能力无缝融入现有企业数据中心,无需进行基础设施升级,同时兼具高性能与高性价比。它支持多达2600亿个参数,每美元每秒可处理的标记数是竞争对手的四倍,并显著提升各类企业级AI工作负载的生产效率。
革新企业级人工智能:AMD迈向优化AI服务与降本增效的部署之路
探讨了AMD在其自有数据中心中对人工智能技术的部署,重点聚焦于自主威胁检测与个性化AI助手。重点介绍了智能路由的优势,实现了令牌成本降低43%,响应速度提升至原来的3倍。强调构建企业人工智能部署的完整生态系统的重要性,涵盖软件框架、ISV支持以及可信赖的合作伙伴关系。旨在帮助客户在能够实现最大价值的场景中部署人工智能,无论是在云端、本地部署还是在边缘侧。
美国电话电报公司在通信领域的全球领导地位:重返东湾
一场关于美国电话电报公司(AT&T)作为全球领先通信企业地位的讨论,因与东湾地区的深厚渊源而备受瞩目,并借此机会表达了对重返社区的由衷感激。
重塑企业级人工智能:开源模型与工作流的规模化应用
探讨了企业在规模化应用人工智能方面的实践,重点聚焦开源模型、数据主权以及与AMD的战略合作。亮点包括:超过100个已投入生产的AI模型、降低令牌成本,以及推出先进的开源AI模型。强调在各业务流程中全面集成人工智能,并针对更广泛的行业应用训练模型。
拓展人工智能领导力:从数据中心到个人与物理智能
对话强调将人工智能的领先地位从数据中心拓展至个人智能与物理智能领域,凸显了个人智能助手在提升生产效率方面的变革性潜力,同时也指出,要支撑这一演进,亟需构建强大的算力基础设施。
革新个人人工智能:赋能边缘计算以应对高级工作负载
对话探讨了人工智能模型的演进历程,着重指出当前正朝着小型化、高性能的方向发展,这些模型能够在个人设备上本地运行,从而降低基础设施成本并提升数据隐私保护水平。它重点展示了人工智能硬件领域的多项进展,例如支持高达2000亿参数规模模型的AI Halo,并与Hugging Face等平台开展合作,针对实际应用场景优化开源模型,从而打通从研发到部署的全流程。
AMD关于以企业级个人AI系统加速AI创新的愿景
AMD重点展示了其在人工智能技术领域的最新进展,并在最新款Halo主机中实现了更大的统一内存容量与更多的模型参数支持。他们强调,得益于开放的软件栈与多方合作,个人人工智能系统已在各类平台上实现广泛普及。关注点正从单个开发者层面的人工智能应用,转向企业级的全面部署,而思科也对这一愿景给予了支持。
重塑企业人工智能:以安全且经济高效的解决方案实现全域智能部署
探讨了推理模式的转变、桌面计算的兴起,以及在企业级部署智能化过程中网络带宽管理与令牌成本控制的重要性。重点阐述了两家机构在分布式人工智能新时代背景下,为确保治理、管理和安全所开展的协同合作。
构建面向企业的安全、可扩展的AI智能体部署框架
对话探讨了在企业中部署人工智能代理的全面、安全且可扩展的框架的构建与演进。关键组件包括隔离的代理沙箱、智能路由、核心集成、安全策略强制执行以及统一的管理平面。该框架确保端到端的韧性、对智能体行为的可观测性,以及对代币经济规则的严格遵循,从而助力大规模部署的稳步推进。
思科云控制:面向桌面、数据中心与云端的AI推理统一管理
思科云控制为人工智能推理提供全面的管理功能,可实现对跨桌面、数据中心和云环境中的各类设备的可视化监控与统一管控。它能够确保安全的监控、成本控制和可扩展性,并计划于初秋前在美国正式商用。
重塑机器人技术:AMD的Creo AI助力构建自主、实时且安全的物理智能系统
AMD推出Creo AI模块化系统,专为机器人提供实时感知、推理与运动控制,旨在通过保障物理AI应用的安全性、可靠性和效率,提升人类在医疗、农业等各行业的能力。
AMD的愿景:以创新的CPU与GPU产品路线图,引领人工智能驱动的未来
AMD公布了其引领人工智能革命的战略,凭借强大的产品组合,其中包括面向下一代的CPU——弗洛伦萨与拉文纳,以及专为提升性能与扩展性而打造的GPU——Mi 500与Mi 600。该公司强调其对合作伙伴关系与创新的坚定承诺,致力于让人工智能在各行业产生深远影响。
要点回答
Q:下一波人工智能有望实现哪些突破?
A:预计下一波人工智能将不再局限于“思考”,而是迈向“行动”,通过将推理计算规模大幅提升,实现从提供答案到付诸行动的转变。
Q:在人工智能计算领域,AMD的使命是什么?
A:AMD的使命是不断突破高性能人工智能计算的边界,助力解决全球最重大的挑战。
Q:人工智能目前正如何影响各行业?
A:人工智能正助力研究人员更快地发现新药候选分子,破解以往难以攻克的科学难题,并重塑各行业的作业方式;随着人工智能的不断演进,其应用潜能仍在持续拓展。
Q:在短时间内,对人工智能算力的需求是如何增长的?
A:短短两年间,人工智能算力需求增长了近160倍,每月消耗的令牌数量超过35万亿亿个。
Q:人工智能算力的使用预计将发生怎样的变化?
A:预计今年全球用于模型推理的AI算力将首次超过用于模型训练的算力,其中约60%的全球AI算力将被用于推理。
Q:什么是“以智能体为中心的人工智能”?它正如何影响计算产业?
A:“以智能体为中心的人工智能”是指人工智能发展的下一个重要阶段,在这一阶段,智能体能够完整回答问题并持续推动问题解决直至达成目标,由此带来对算力的显著需求增长,因为这些智能体需要进行复杂的推理并访问海量数据。
Q:人工智能加速器市场的增长前景如何?
A:人工智能加速器市场预计将实现显著增长,预计到2028年将达到5000亿美元,到2030年将增至1.4万亿美元,规模已接近整个半导体市场的水平。
Q:由于人工智能的发展,服务器CPU市场的预计增长率是多少?
A:在人工智能的快速普及以及对更多CPU基础设施需求的推动下,服务器CPU市场预计将实现超过50%的强劲增长,市场规模将从250亿美元跃升至逾2000亿美元。
Q:在AMD的战略中,边缘人工智能扮演着怎样的角色?
A:边缘人工智能是AMD战略的重要组成部分,旨在与云端协同,将智能赋予那些能够实时感知并采取行动的终端设备,从而满足AI无处不在的需求。
Q:AMD的产品组合与合作伙伴关系如何为未来的成功奠定基础?
A:凭借最全面的产品组合、最强劲的发展路线图,以及与致力于塑造未来的企业的深度合作,AMD已为未来的成功奠定了坚实基础。这有助于制定一项与算力领先、开放平台以及各产品线的AI集成相协同的多年期战略。
Q:AMD新推出的AI加速器有哪些技术规格?
A:这款采用台积电领先的2纳米和3纳米制程工艺打造的新型AI加速器,集成3200亿个晶体管,由12个计算与I/O小芯片以及432GB内存构成,并通过业界领先的3D小芯片技术实现互联。它是业界性能最高的AI加速器。
Q:海利俄斯计算托盘中的CPU主板包含哪些组件?
A:Helios计算托盘中的CPU板搭载了高性能的第96代EPYC处理器、DDR5内存,以及为GPU提供数据传输所需的所有必要I/O接口;同时配备了Sela DPU,这是用于前端接入与横向扩展带宽交付的网络基础设施中的关键组件。
Q:火山AI节点提供哪些网络功能?
A:火山AI节点支持在单块电路板上配置最多6个火山节点,并采用开放的以太网标准。每个Helios计算托盘均配备两块Volcano板卡,用于实现网络的横向与纵向扩展。此外,还有6块专用的网络加速卡负责横向扩展型网络,通过搭载合作伙伴提供的芯片的以太网和UA链路将75个GPU互联在一起,充分体现了开放的生态系统理念。
Q:在性能方面,Helios与竞争对手相比如何?
A:与竞争对手相比,Helios的计算性能提升15%,HBM形式的显存容量和显存带宽提升50%,并且横向扩展带宽也提升了50%。这意味着,Helios能够为大型模型提供更强的性能、支持更长上下文的更大容量,以及在数千张GPU之间实现高效扩展所需的带宽。
Q:正在部署的生产硬件的物理尺寸和技术容量分别是多少?
A:该量产硬件重量超过160磅,高度不足2英寸。它由超过1,000个CDNA 5 GPU计算单元、逾4,600个Ze 6 CPU核心以及31 TB的HBM4显存组成,全部集成于单个机柜之中。要大规模运行基因人工智能,必须具备如此规模的技术支撑。
Q:Helios预计什么时候开始发货?
A:预计Helios将于第三季度末开始出货,并在第四季度及下半年逐步放量。客户对Helios的需求极为强劲,并且它正被多家顶尖的人工智能实验室所采用。
Q:Anthropic的算力战略是什么?它又将如何演进?
A:Anthropic的算力战略是,随着行业规模的不断扩大,确保其在最佳工作负载上配备最优质的芯片。他们一直在优化各类芯片的使用,并对Helios的性能与易用性感到十分满意,计划部署规模最高可达2吉瓦。
Q:为何部署高达2吉瓦的Helios项目具有重要意义?
A:部署高达2吉瓦的Helios具有重要意义,因为这台卓越的设备表现极为出色——有工程师仅用周末时间便完成了安装,并在其核心模型上实现了性能提升。此次部署也彰显了业界对AMD架构服务市场能力的坚定信心。
Q:AMD与Anthropic在人工智能研发方面有何关系?
A:AMD与Anthropic展开了紧密合作,致力于让业界领先的基座模型适配AMD架构,双方坚信此举将有助于提升面向整个市场的服务水平。他们对开展高度工程化的特定工作负载、推动人工智能技术的进一步发展尤为兴奋。
Q:AMD与Anthropic在哪些关键领域存在令人振奋的机遇,并有望开展合作?
A:AMD与Anthropic在多个备受关注的领域存在合作潜力,其中包括携手推进规模扩展,以实现更优的计算性能,并打造能够为下游用户提供更大价值的模型。另一个领域是安全,双方企业可携手在芯片层面、服务器层面以及整个网络中筑牢安全防线,不仅惠及自身,也将推动整个行业的发展。
Q:根据系统结果,Helios提供哪些性能和成本优势?
A:Helios带来了显著的性能提升,在高并发场景下,其吞吐量最高可达上一代产品的34倍。与上一代产品相比,它还将每令牌的成本降低多达18倍。在系统性能与成本方面,Helios相较于竞品可提供高达10% 至15% 的性能提升,并且每美元可获得的代币数量最多高出30%,从而形成极具竞争力的整体价值主张。
Q:AMD与该演讲者所在公司的合作历程是怎样的?
A:与AMD的合作始于小米300系列,并已扩展至355系列。团队对软件栈和网络进行了优化,并在AMD基础设施上部署了模型。近期,他们开始与Helios机架展开合作,双方工程师并肩协作,共同优化软件栈,并运行GPT级别的工作负载。他们预计将于今年年底开始大规模部署Helios,并在2027年全年持续加速推进。
Q:人工智能预计将如何改变计算的未来?AMD又在其中扮演了怎样的角色?
A:预计人工智能将对其所运行的系统进行递归式改进,并最终实现自我科研,从而缩短专业工程师在模型优化与高效部署方面所需的时间。AMD正与研究人员合作,开发能够将面向AMD GPU的编程流程中相当大一部分实现自动化的AI解决方案,从而加速从新模型研发到生产部署的转化进程。
Q:由人工智能催生的新一代基础设施有何重要意义?
A:人工智能的兴起正在催生一类新型基础设施,这类基础设施更加重视算力,这一点在专为满足这一新兴需求而打造的“威尼斯”项目的发展中得到了充分体现。它涵盖了多种不同工作负载的服务器计算类型——GPU服务器、AI专用服务器以及传统的通用服务器。为每种工作负载配备合适的CPU至关重要,而威尼斯在三大类工作负载中均处于领先地位。
Q:第六代Epic CPU在性能和能效方面有哪些提升?
A:第六代Epic CPU,包括具备更高IPC和主频的Z6核心,性能较上一代提升高达1.8倍。这些CPU采用台积电最新的2纳米制程打造,每插槽最高可支持512个线程,在实现最高计算密度的同时,将内存与I/O带宽提升至两倍。威尼斯的芯粒架构支持构建一个完整的产品家族,可满足不同需求,从面向人工智能主机节点的高频核心到更通用的设计一应俱全。正是这种多功能性和卓越性能,使第六代Epic CPU成为数据中心领域的首选。
Q:对于不同类型的工作负载,采用一致的CPU架构有哪些优势?
A:采用统一的CPU架构,能够开发出一系列面向不同工作负载的芯片,正如Epic CPU家族所展现的那样。这种方法能够在人工智能、通用服务器和高性能计算等不同工作负载上实现优化。其卓越的通用性以及在性能与能效方面的可扩展能力,使该架构在业界独树一帜,并为第六代Epic CPU的领先地位奠定了坚实基础。
Q:优化数据中心和机架对基因人工智能有何重要意义?
A:针对基因人工智能优化数据中心和机架布局具有重要意义,因为它能够在每个机架上部署更多计算节点,从而为客户提供灵活的选择,使其能够根据自身数据中心的实际需求,合理配置散热方案、空间需求以及整体系统架构。
Q:威尼斯的生产状况和客户需求的具体情况如何?
A:威尼斯项目已全面投产,客户需求十分强劲,创下EPIC历代新品中的最高纪录。
Q:哪些公司预计将在第四季度推出“威尼斯”?
A:所有主要的服务器原始设备制造商和各大云服务提供商均有望在第四季度启动威尼斯的部署。
Q:为何需要将数据中心视为一个集成系统?
A:有必要将数据中心视为一个整体性系统,因为对推理训练与推荐系统的需求正呈指数级增长,同时我们也怀揣着为数十亿人提供个性化超级智能的愿景。统筹整个系统,包括服务器、硬件、网络、散热与供电在内,至关重要,因为这些组件缺一不可。
Q:工作负载与需求的变化为协作带来了哪些机遇?
A:工作量与需求的变化为行业协作带来了机遇,因为当前亟需灵活性与多元化。没有任何一家企业或合作伙伴能够满足所有需求,因此协作至关重要,尤其是与AMD等伙伴携手,共同打造并设计系统。
Q:Meta与AMD的合作如何推动CPU基础设施领域的创新?
A:Meta与AMD的合作伙伴关系通过长期协作、多代CPU和GPU的部署,以及双方共同开发Rescale OCP系统,推动了CPU基础设施领域的创新。该合作涵盖包括CPU和GPU在内的多款产品,并以持续的联合设计与协同创新为显著特征。
Q:不同推理工作负载有哪些特征?解聚式推理又是如何应对这些特征的?
A:不同推理工作负载的特征表现为对吞吐量、延迟和计算能力的不同需求。有些工作负载需要极致的吞吐量或极低的成本,另一些则要求均衡的吞吐性能,而还有一类新兴的工作负载则对极快的响应速度提出了严苛的要求。分离式推理通过允许对计算与内存带宽需求进行独立调优,同时提供卓越的计算能力和强大的内存带宽,从而有效应对这些工作负载。
Q:Cerebras在提供超低延迟推理解决方案方面发挥着怎样的作用?
A:Cerebras通过研发全球规模最大、速度最快的芯片,并将其封装成系统、机柜和集群,从而提供超低延迟的推理解决方案。该解决方案旨在满足那些亟需快速产出的客户需求,并可与AMD CPU以及Cerebras的Helios和晶圆级引擎协同工作,从而构建一套解耦式架构的系统。
Q:演讲中提到的新方案有哪些特点?
A:新的解决方案将性能和内存容量 (Helios机架) 方面的行业领导者与最高的SRAM和内存带宽功能相结合,从而实现了业界无与伦比的性能和容量。
Q:新解决方案将于何时何地上线?
A:该全新解决方案将率先通过Cerebros平台在云端上线,随后将在客户附近的门店正式推出。
Q:新解决方案为客户提供了哪些独特功能?
A:该全新解决方案为客户提供了按需定制的灵活选项,为超低延迟领域带来了显著的能力提升。
Q:演讲者所在公司与Cerebrals的合作为客户带来了哪些益处?
A:演讲者所在公司与Cerebrals的携手合作,推出了一款在保持卓越速度的同时,吞吐量提升至五倍的解决方案,深受客户青睐。
Q:人工智能在推动面向GPU的软件开发变革方面有何重要意义?
A:人工智能正在通过缩短工作负载的启动时间、实现优化自动化以及消除广泛普及的障碍,推动GPU软件开发的变革。预计人工智能将大幅缩短GPU编程所需时间,并使这一过程更加高效。
Q:Racom AI人工智能辅助GPU编程平台的用途是什么?
A:Racom AI是一款由人工智能辅助的GPU编程平台,旨在通过让开发者使用AI编码智能体来优化其工作负载,从而简化GPU编程、提升性能并降低复杂度。
Q:演讲者所在公司开发的软件栈与此前版本相比有何不同?
A:演讲者所在公司目前开发的软件栈,其中包含诸如“超回路”等特性,相比以往版本已大幅提升。它能够分析工作负载、调优配置、选择并优化内核、调整并行化策略,并通过迭代逐步达成性能目标。
Q:新的AI辅助工具带来了哪些性能提升?
A:全新AI辅助工具Racom AI已使搭载BLM的MiniMax M等特定机型的性能提升高达38%。这些工具还通过诸如融合式闪注意力、更高效的检查点机制以及先进的并行化策略等创新,在训练性能方面实现了最高2.4倍的加速。
Q:OpenAI团队在推动人工智能发展与软件创新方面发挥着怎样的作用?
A:OpenAI团队在推动人工智能基础设施的边界方面发挥了关键作用。他们已开发出Triton和Gluon等解决方案,这些方案不断演进以满足不同工作流的需求,并针对AMD等平台进行了优化。他们与演讲者所在公司的合作,在推动软件开发与人工智能前沿发展方面发挥了关键作用。
Q:近期有哪些涉及人工智能与AMD显卡的合作项目受到了关注?
A:此次重点合作由多个团队紧密协作,共同利用人工智能为AMD GPU进行编程。
Q:在生成高质量GPU内核方面,人工智能的能力取得了哪些提升?
A:在过去六个月里,人工智能在生成高质量的GPU内核方面取得了显著进步。
Q:关于人工智能软件与合作的未来,主要讨论了哪两个要点?
A:两大要点分别是:AI智能体的能力正在快速提升,以及AMD开放的软件生态在推动人工智能发展方面的优势。
Q:AMD的开源编译器栈为人工智能代理带来了哪些性能优势?
A:AMD的开源编译器栈使人工智能代理能够执行极底层的代码生成,包括汇编指令调度,从而带来了极为显著的性能提升。
Q:演讲者如何阐述人工智能在AMD产品中的能力与价值主张?
A:演讲者指出,人工智能正在基于AMD所开放的代码库开展创新,从而形成巨大的价值主张,尤其是在通过更优的抽象与AI辅助开发相结合,并辅以软硬件协同设计,来构建强大的系统能力。
Q:为什么Mi 430x特别适合科学计算和AI?
A:Mi 430x采用AMD的模块化小芯片架构,原生支持FP64硬件,这对于科学计算至关重要,并在人工智能与高性能计算工作负载上均展现出领先性能。
Q:据演讲者所言,行业正经历的这一拐点具有何种重要意义?
A:业界正迎来人工智能在复杂硬件系统编程能力上的转折点,这使得AI系统的开发与部署变得空前简便。
Q:AMD正在采取何种战略,以在各类计算形态中赋能人工智能?
A:AMD的战略是为各类工作负载提供恰当的算力,持续提升其产品组合的整体优化水平,并在数据中心、企业级、个人计算以及边缘端等场景中全面支持人工智能。
Q:据AMD称,不同计算环境有哪些多样化的需求?
A:不同的计算环境有着各自独特的需求:企业级场景往往受到供电与散热的限制,个人AI应用需要有限的计算资源与内存占用,而物理AI则必须在真实环境中保持可靠的运行。AMD通过覆盖所有开发模式的完整产品组合来应对这些挑战。
Q:Epic的产品组合如何满足企业级工作负载的多样化需求?
A:Epic产品组合覆盖8至256个核心,具备多样化的功耗、频率与I/O特性,为客户针对不同工作负载灵活选型并优化成本提供了极大便利。
Q:企业在采用人工智能时有哪些顾虑和需求?
A:企业关注基础设施成本的可预测性、数据安全,以及如何将人工智能融入其现有基础设施。它们需要一种分布式部署模式,涵盖多种人工智能部署环境。
Q:Instinct Mi 350p是如何设计以满足企业需求的?
A:Instinct Mi 350p在设计上充分考虑了企业级服务器的功耗与散热限制,无需进行硬件升级即可适配,最高可支持2600亿个参数,并在性能与经济性方面均优于竞品。
Q:Instinct Mi 350p为企业带来了怎样的实际性能表现?
A:Instinct Mi 350p支持高达2600亿个参数,与竞品相比,每美元可处理的标记数最高可达其四倍;同时,其每秒处理的标记数也高出2至5倍,从而实现更高的生产效率。
Q:AMD的IT团队在哪些应用场景中开展了AI测试,并取得了怎样的成效?
A:AMD的IT团队已在自主威胁检测和个性化AI助手等场景中应用并测试了人工智能技术,使令牌成本降低了43%,同时将本地工作负载的响应速度提升至原来的3倍。
Q:AMD如何支持其客户在各类环境中部署和应用人工智能?
A:AMD凭借完善的软件与解决方案生态体系,为客户提供全方位支持,涵盖众多人工智能独立软件开发商、对主流开源模型的零日级技术支持、强大的深度学习框架,以及可信的平台软件与广泛的OEM合作伙伴关系。
Q:AMD战略的首要目标是什么?
A:AMD战略的总体目标是帮助客户在最具价值的场景中部署人工智能,无论是在云端、本地还是在边缘。
Q:演讲者提到的AI在企业中的主要应用场景有哪些?
A:人工智能在企业中的主要应用场景包括欺诈检测、客户服务,以及优化基站或无线接入网的部署位置,从而实现其在网络内的最高效利用。
Q:通话数据的转录如何助力企业洞察?
A:每日接听的30多万通电话的转写工作带来了巨大的工作量,而这些转写数据所提炼出的洞察又反哺至业务运营中。
Q:人工智能在各业务领域中的应用具有怎样的重要意义?
A:当前在人工智能领域的布局已覆盖人力资源、财务管理、现金预测以及员工入职等各类业务职能,这标志着公司正更广泛地运用AI重构全链条业务流程。
Q:在将人工智能推向企业级规模时,为什么拥有世界一流的专业团队和具备流程化思维的人才至关重要?
A:拥有一流的团队和具备流程化思维的人才至关重要,因为这一过程涉及在工作流中频繁地从一个环节流转到另一个环节,而这需要各环节之间高度协同配合。
Q:与AMD的合作在人工智能领域为公司带来了哪些益处?
A:与AMD的合作使公司受益,通过利用开源模式、多样化的芯片组合,以及模型的构建与训练来实现这一目标。该公司通过在AMD平台上对模型进行后训练,成功降低了算力代币的成本,并实现了与价格更高的芯片方案相当的性能和精度。
Q:作为首家在AMD平台上训练模型的电信公司,这一举措有何重要意义?
A:作为首家在AMD平台上训练模型的电信企业,这标志着我们在开源模型应用方面迈出了开创性的一步,并彰显了我们在电信行业充分释放AMD技术潜能的坚定承诺。
Q:Oel 1.0和Oel 2.0的用途是什么?它们为何如此重要?
A:Oel 1.0和Oel 2.0的目的在于为业界提供一套开放的模型。Oel 1.0于一年前发布,累计下载量已超过1800万次;而功能更强大、并在AMD上进行训练的Oel 2.0正通过开源方式对外提供,旨在展示大模型训练的意义及其在企业环境中的运行机制。
Q:该公司如何将其在企业计算领域的领先地位拓展至人工智能领域?
A:公司正通过倾听客户需求、为其工作负载提供解决方案,并着力帮助客户加速其人工智能转型进程,将自身在企业计算领域的领先地位拓展至人工智能领域。
Q:个人人工智能在重塑计算格局中扮演着怎样的角色?
A:个人人工智能通过将人工智能的覆盖范围拓展至数据中心之外,在重塑计算格局方面发挥着重要作用。它涉及能够在物理世界中提升生产效率与认知水平的智能体,而这需要一个能够协同扩展的计算生态系统。
Q:个人人工智能对数据中心及整体计算经济有何影响?
A:个人人工智能通过将部分工作负载从云端迁移至个人电脑,降低了数据中心的基础设施成本,并使其能够专注于处理规模更大、要求更高的任务。它还带来了一些优势,例如数据保留在用户身上,应用程序保持响应速度,以及系统即使在没有网络的情况下也能正常工作。
Q:新一代小型人工智能模型如何影响计算格局?
A:新一代小型人工智能模型通过大幅降低实现高级智能所需的算力,改变了计算格局,使原本仅限于云端的各类工作负载得以在终端设备上运行,从而显著提升AI开发的效率与优化水平。
Q:发言人就与Hugging Face的合作及其对开发者的益处作了哪些说明?
A:演讲者透露,与Hugging Face的合作将把OpenAI生态直接引入Radeon AI Halo,为开发者提供针对开源模型和GPT工作流的优化性能。这一合作通过为开发者提供合适的模型、针对平台的优化,以及将其快速转化为实际应用的能力,使他们受益匪浅。
Q:演讲者认为,人工智能的下一阶段是什么?企业在大规模部署人工智能时又面临哪些挑战?
A:人工智能发展的下一阶段在于实现规模化部署,其推理模式将发生根本性转变:从以人类为主导的、呈脉冲式的需求模式,转向对基础设施更为持续稳定的需求信号。企业面临的挑战包括安全风险、成本管控,以及如何在确保适当的安全性、治理与管控的前提下运维大量人工智能系统。
Q:在企业中部署人工智能时,需要重点考虑哪些关键因素?
A:在企业中部署人工智能时,需要重点考虑的几个关键因素包括:确保具备充足的网络带宽以满足本地智能体的运行需求、合理控制令牌使用成本、对智能体的行为进行安全与合规监控,以及建立健全的治理与管理体系。
Q:人工智能部署的全栈由哪些组件构成?
A:用于人工智能部署的全栈解决方案包括:隔离的安全代理沙箱、智能路由、MCP(很可能指核心集成套件)、安全策略的强制执行、基础设施层的高可用性与韧性、对设备及基础设施的可观测性、对代理行为与代币经济的监控,以及用于统一管控的管理平面。
Q:企业如何规模化地管理其人工智能部署?
A:企业可通过部署像思科云控制平台这样的管理平面,对AI应用进行规模化运维,统一监管分布在桌面端、数据中心以及云端的各类AI设备。这实现了对整个部署的全面可见性和可控性。
Q:新款AMD产品在人工智能与机器人领域有哪些优势?
A:面向人工智能与机器人领域的全新AMD产品,如AMD Creo AI模块化系统及c AI机器人开发者平台,可实现更迅捷的响应、更强的复杂任务处理能力,并确保安全与可靠控制。它们将CPU、GPU、NPU与统一内存融为一体,实现同步实时处理,并提供从概念设计到实际应用的完整开发路径。
Q:AMD的AI与计算产品未来路线图是什么?
A:AMD在人工智能与计算产品领域的未来路线图包括推出弗洛伦萨、拉文纳等全新CPU系列,同时持续迭代其Instinct GPU产品线,每年推出新一代架构,保持性能的稳步提升。AMD还计划每年推出新一代Helios系统,以支持更大规模的模型并降低总体拥有成本。
play
English
English
进入会议
1.0
0.5
0.75
1.0
1.5
2.0