登錄 | 註冊
我要路演
AMD Advancing AI 2026 Keynote
文章語言:
EN
分享
紀要
原文
會議摘要
AMD重點展示了其在人工智能領域的多項技術進展,包括開源軟件棧、Instinct Mi 350 GPU和Creo AI系統等硬件創新,以及與多家科技領軍企業的戰略合作夥伴關系。該路綫圖聚焦性能、效率與安全性,旨在將人工智能全面融入從數據中心到個人終端的各類計算環境。AMD致力於通過創新與協作引領人工智能革命,重點佈局算力擴展、AI能力提升以及開源貢獻。
會議速覽
AMD的願景:攜手高性能GPU與CPU,共赴智能體AI革命
AMD通過同時打造高性能GPU與CPU,彰顯其在人工智能領域的領先地位,推動智能體AI從提供答案邁向執行行動。這一突破賦能員工、提升自動駕駛水平,並革新疾病診斷,彰顯了公司推動人工智能技術發展的堅定承諾。
AMD的願景:加速人工智能發展,塑造未來計算需求
AMD強調人工智能需求的指數級增長,並指出其重心正從訓練向推理負載轉移。在以具身智能為核心的發展戰略下,AMD預計到2026年,用於運行AI模型的算力將超過用於訓練AI模型的算力,這反映出AI正日益融入日常生活與各行業。
人工智能代理推動算力需求增長,預計到2030年將帶動AI加速器市場規模增至1.4萬億美元
人工智能代理憑借其通過多步推理解決複雜問題的能力,正大幅推升算力需求,尤其是對GPU和CPU的需求。這推動了人工智能加速器市場的迅猛增長,預計到2030年市場規模將達到1.4萬億美元,逼近當前半導體市場的體量。向生成式人工智能與持續演進的工作負載轉型,進一步凸顯了GPU的可編程優勢,使其成為AI硬件生態中的主導力量。
AMD的願景:以人工智能為驅動的服務器CPU與高性能計算增長
AMD預計人工智能將對服務器CPU産生變革性影響,推動相關市場規模增長逾50%,突破2000億美元;同時強調,必須在各類終端設備及邊緣側全面實現AI集成,並力爭到2030年將高性能計算市場的規模提升至2萬億美元,同時高度重視生態系統的協同合作。
AMD的全面戰略:引領計算、開放平台與無處不在的人工智能
AMD強調其戰略重點在於計算領先、開放平台以及在各行業領域的AI應用。它重點展示了其廣泛的合作夥伴關系、在海利俄斯AI機櫃等硬件領域的技術突破,以及在軟件方面的持續投入。該公司強調其在服務器市場、GPU應用以及人工智能算力複雜性方面的突出成就,致力於實現系統的無縫集成與易用性。
革新人工智能基礎設施:海利俄斯機櫃、高性能計算與行業合作
本文探討了Helios系統,重點介紹了其卓越的人工智能加速能力,包括先進的CPU與GPU協同集成、液冷散熱以及高速網絡互聯。強調該系統在算力方面領先15%、內存容量與帶寬提升50%,並突出其在大規模人工智能業務中的關鍵作用。宣佈客戶需求強勁,並與多家企業建立合作夥伴關系,其中尤為引人注目的是與Anthropic的合作,將部署高達2吉瓦的Helios算力資源,以滿足先進人工智能工作負載的需求。
革新硬件與人工智能的協同,提升性能與安全性
對話凸顯了硬件與人工智能發展的協同效應,着重強調了模型在新平台上的無縫部署、人工智能在優化工程工作流中的關鍵作用,以及在各代技術中持續提升性能、能效與安全性的堅定承諾。一個重點是高並發應用的吞吐量提升了34倍,這充分展現了集成式AI與硬件解決方案在推動未來創新方面的巨大潛力。
革新人工智能效率:借助Helios提升算力並實現成本節約
強調了提高AI效率的重要重點,通過Helios等創新降低了每個令牌的成本並提高了性能。這項技術有望使每美元獲得的代幣數量較競爭對手提升多達18倍,且高出30%,從而推動各大人工智能實驗室和雲服務提供商的強勁需求。與一家領先的AI基礎設施企業建立的戰略合作,彰顯了面向AI應用的算力優化之路,也折射出行業發展的迅猛態勢以及高效計算解決方案的關鍵作用。
人工智能模型演進與算力擴展:面向未來的一體化戰略夥伴關系
人工智能模型正從聊天機器人向高級智能體演進,這推動了對算力的更高需求。與AMD在部署先進基礎設施(如Helios機架)方面的合作,對於優化AI模型性能、提升擴展能力至關重要,並力爭在2027年底前實現大規模部署。
革新人工智能部署:實現優化自動化並賦能開放生態系統
一項協作性工作致力於利用人工智能實現系統優化的自動化,從而縮短新模型在AMD GPU上的部署周期。該合作旨在通過讓創新成果觸手可及,全面提升人工智能生態系統,並強調未來人工智能基礎設施亟需更強的算力與更高的能效。
面向人工智能的數據中心協同設計:一種集成方法
該對話凸顯了面向人工智能的數據中心系統協同設計的重要性,強調必須采取整體性方法,統籌考慮CPU、GPU、內存、網絡、存儲、配電及冷卻等各子系統。演講者對與團隊的通力協作表示贊賞,這些努力促成了産品的成功落地,並使團隊得以聚焦於運用人工智能優化未來的設計方案。
AMD第六代霄龍“威尼斯”:引領人工智能與數據中心的計算創新
AMD最新推出的第六代EPYC“威尼斯”系列處理器,旨在滿足人工智能、雲計算及企業級工作負載不斷演進的多樣化需求。威尼斯系列産品以性能、能效和總體擁有成本為核心,提供針對人工智能主機節點、代理沙箱以及通用服務器等場景優化的多種型號。基於台積電2納米制程打造的Venice,每個插槽最多可提供512個綫程,內存與I/O帶寬翻倍,並在高性能計算領域引入了諸如3D V-Cache堆疊等創新技術。這一全面的CPU産品組合彰顯了AMD在數據中心技術領域的領先地位。
革新人工智能工作負載:Epic的Venice CPU在性能與能效方面領跑業界
Epic的Venice CPU在人工智能工作負載上超越競品,不僅具備更高的令牌處理速度、更高的每瓦能效,還在核心密度與性能方面位居行業前列。它在GPU與CPU服務器領域均表現卓越,兼具無與倫比的能效與軟件兼容性,多家主流OEM廠商及雲服務提供商已計劃於第四季度正式推出相關産品。
數據中心架構與人工智能基礎設施的協同創新
對話凸顯了對人工智能驅動型服務需求的指數級增長,強調了對一體化數據中心系統的需求。本文探討了Meta的算力計劃,重點聚焦於涵蓋硬件、網絡、散熱與供電在內的端到端系統設計。此次對話凸顯了與AMD等合作夥伴開展協同設計、共同打造靈活、開放且異構的系統的重要性。雙方建立了長期合作關系,曆經多代CPU的更迭,見證了技術的蓬勃發展與持續演進。
先進計算系統中CPU與GPU協同演進
本文探討了CPU與GPU協同在應對複雜工作負載方面日益凸顯的重要性,重點介紹了從Mi 300到Mi 450的技術演進,強調通過協同工程、聯合設計及部署策略,實現計算系統的性能與能效全面提升。
面向未來人工智能生態系統的協同設計:破解瓶頸、釋放系統潛能
與會專家強調,應及早開展人工智能系統的協同設計,以應對未來挑戰;重點聚焦於CPU‑GPU異構融合架構、數據中心與芯片的長周期交付,以及通過協同設計充分釋放系統潛能的必要性。
探索面向人工智能工作負載的超低延遲拆分推理技術
一場關於推理市場演進的討論,強調針對不同工作負載定制算力解決方案的必要性,並着重通過分離式推理實現超低延遲;同時,兩家公司攜手合作,共同應對市場需求。
Cerebras與AMD攜手推出超低延遲人工智能解決方案
高性能芯片技術領域的領軍企業Cerebros與AMD攜手,共同推出業界領先的超低延遲推理解決方案。將AMD CPU與Cerebros的晶圓級計算引擎相結合,全新系統實現了無與倫比的計算速度和吞吐能力,有望重塑人工智能市場,並為客戶提供適用於本地部署與雲端部署的靈活、高性能解決方案。
革新GPU編程:AMD的Rocom AI平台助力提升開發者效率
AMD高級副總裁就軟件領域的最新進展進行了闡述,重點介紹了Rocom AI這一代理式人工智能平台的發佈。該平台旨在簡化GPU編程、提升開發者效率,並將AI輔助編碼無縫融入AMD生態系統,標志着GPU軟件開發與優化方式的重大轉變。
革新軟件開發:基於人工智能的優化——攜手超環綫與開放軟件基金會
開放軟件基金會推出了一款名為“Hyperloop”的人工智能輔助層,旨在提升開發者的效率。Hyperloop能夠優化工作負載、調優配置並持續迭代以提升性能,典型案例如此對14個模型進行了優化。一款原生AI界面為開發者提供支持,簡化了racom的集成,並使編碼智能體能夠原生理解核心技術棧。
革新開發者交互:AI智能體助力Mi 455性能提升
該對話展示了像Rockham AI這樣的人工智能代理如何通過優化模型與內核來簡化開發者的各項任務,從而帶來顯著的性能提升。Mi 455平台以實戰成效為導向,憑借無與倫比的計算與內存性能,並在生態夥伴的有力支持下,為開發者帶來streamlined且強大的開發體驗。
革新人工智能開發:簡化部署、推動協作
該對話凸顯了借助先進AI工具實現大規模AI模型的無縫部署,強調了向自動化模型部署的轉型,以及協作在推動AI軟件開發中所發揮的關鍵作用。它展示了將人工智能融入開發流程所帶來的效率與創新,通過模型部署演示和創意成果加以印證,同時也凸顯了合作夥伴關系在推動AI發展中的關鍵作用。
GPU軟件開發:從Triton到Gluon,實現更優的控制與性能
對話探討了GPU軟件開發的演進曆程,重點介紹了Triton在性能加速方面的應用以及Gluon在超參數優化上的優勢,並強調應根據不同的應用需求定制解決方案。
革新人工智能驅動的GPU編程:協同創新與開源成功
一項合作項目展示了面向AMD GPU的AI輔助內核生成技術的最新進展,凸顯了開源協作在提升硬件與軟件生態系統的性能與效率方面的顯著優勢。
以模塊化小芯片架構與人工智能輔助開發推動人工智能與高性能計算的變革
對話強調了通過模塊化小芯片架構將AI輔助開發與高性能計算 (HPC) 和科學計算相結合,強調了Mi 430x在AI和HPC的FP 64性能方面的領導地位。以及開源軟件和抽象接口在支持人工智能對複雜硬件系統進行編程方面的戰略重要性。
AMD的願景:以全面的計算産品組合,賦能無處不在的人工智能
AMD強調其戰略,旨在為從數據中心到個人終端的各類人工智能部署模式提供最優的計算解決方案,同時突出其x86處理器在推動人工智能發展、滿足企業獨特需求方面的重要作用。
AMD的企業級領導力:為多樣化工作負載與人工智能集成量身定制的解決方案
AMD憑借覆蓋多樣化工作負載並深度融合人工智能的定制化解決方案,彰顯其在企業級計算領域的領先地位。該公司強調靈活的CPU選項對於滿足特定工作負載需求的重要性,並針對人工智能部署面臨的挑戰,重點聚焦成本可預測性、數據安全以及與現有基礎設施的無縫集成。AMD的解決方案支持分佈式人工智能模型,同時兼顧功耗、散熱、空間以及部署便捷性等約束條件,確保所提方案能夠充分滿足企業級需求。
隆重推出Instinct Mi 350p:無需全面改造數據中心,即可釋放企業級AI算力
Instinct Mi 350 GPU旨在將AI能力無縫融入現有企業數據中心,無需進行基礎設施升級,同時兼具高性能與高性價比。它支持多達2600億個參數,每美元每秒可處理的標記數是競爭對手的四倍,並顯著提升各類企業級AI工作負載的生産效率。
革新企業級人工智能:AMD邁向優化AI服務與降本增效的部署之路
探討了AMD在其自有數據中心中對人工智能技術的部署,重點聚焦於自主威脅檢測與個性化AI助手。重點介紹了智能路由的優勢,實現了令牌成本降低43%,響應速度提升至原來的3倍。強調構建企業人工智能部署的完整生態系統的重要性,涵蓋軟件框架、ISV支持以及可信賴的合作夥伴關系。旨在幫助客戶在能夠實現最大價值的場景中部署人工智能,無論是在雲端、本地部署還是在邊緣側。
美國電話電報公司在通信領域的全球領導地位:重返東灣
一場關於美國電話電報公司(AT&T)作為全球領先通信企業地位的討論,因與東灣地區的深厚淵源而備受矚目,並借此機會表達了對重返社區的由衷感激。
重塑企業級人工智能:開源模型與工作流的規模化應用
探討了企業在規模化應用人工智能方面的實踐,重點聚焦開源模型、數據主權以及與AMD的戰略合作。亮點包括:超過100個已投入生産的AI模型、降低令牌成本,以及推出先進的開源AI模型。強調在各業務流程中全面集成人工智能,並針對更廣泛的行業應用訓練模型。
拓展人工智能領導力:從數據中心到個人與物理智能
對話強調將人工智能的領先地位從數據中心拓展至個人智能與物理智能領域,凸顯了個人智能助手在提升生産效率方面的變革性潛力,同時也指出,要支撐這一演進,亟需構建強大的算力基礎設施。
革新個人人工智能:賦能邊緣計算以應對高級工作負載
對話探討了人工智能模型的演進曆程,着重指出當前正朝着小型化、高性能的方向發展,這些模型能夠在個人設備上本地運行,從而降低基礎設施成本並提升數據隱私保護水平。它重點展示了人工智能硬件領域的多項進展,例如支持高達2000億參數規模模型的AI Halo,並與Hugging Face等平台開展合作,針對實際應用場景優化開源模型,從而打通從研發到部署的全流程。
AMD關於以企業級個人AI系統加速AI創新的願景
AMD重點展示了其在人工智能技術領域的最新進展,並在最新款Halo主機中實現了更大的統一內存容量與更多的模型參數支持。他們強調,得益於開放的軟件棧與多方合作,個人人工智能系統已在各類平台上實現廣泛普及。關注點正從單個開發者層面的人工智能應用,轉向企業級的全面部署,而思科也對這一願景給予了支持。
重塑企業人工智能:以安全且經濟高效的解決方案實現全域智能部署
探討了推理模式的轉變、桌面計算的興起,以及在企業級部署智能化過程中網絡帶寬管理與令牌成本控制的重要性。重點闡述了兩家機構在分佈式人工智能新時代背景下,為確保治理、管理和安全所開展的協同合作。
構建面向企業的安全、可擴展的AI智能體部署框架
對話探討了在企業中部署人工智能代理的全面、安全且可擴展的框架的構建與演進。關鍵組件包括隔離的代理沙箱、智能路由、核心集成、安全策略強制執行以及統一的管理平面。該框架確保端到端的韌性、對智能體行為的可觀測性,以及對代幣經濟規則的嚴格遵循,從而助力大規模部署的穩步推進。
思科雲控制:面向桌面、數據中心與雲端的AI推理統一管理
思科雲控制為人工智能推理提供全面的管理功能,可實現對跨桌面、數據中心和雲環境中的各類設備的可視化監控與統一管控。它能夠確保安全的監控、成本控制和可擴展性,並計劃於初秋前在美國正式商用。
重塑機器人技術:AMD的Creo AI助力構建自主、實時且安全的物理智能系統
AMD推出Creo AI模塊化系統,專為機器人提供實時感知、推理與運動控制,旨在通過保障物理AI應用的安全性、可靠性和效率,提升人類在醫療、農業等各行業的能力。
AMD的願景:以創新的CPU與GPU産品路綫圖,引領人工智能驅動的未來
AMD公佈了其引領人工智能革命的戰略,憑借強大的産品組合,其中包括面向下一代的CPU——弗洛倫薩與拉文納,以及專為提升性能與擴展性而打造的GPU——Mi 500與Mi 600。該公司強調其對合作夥伴關系與創新的堅定承諾,致力於讓人工智能在各行業産生深遠影響。
要點回答
Q:下一波人工智能有望實現哪些突破?
A:預計下一波人工智能將不再局限於“思考”,而是邁向“行動”,通過將推理計算規模大幅提升,實現從提供答案到付諸行動的轉變。
Q:在人工智能計算領域,AMD的使命是什麽?
A:AMD的使命是不斷突破高性能人工智能計算的邊界,助力解決全球最重大的挑戰。
Q:人工智能目前正如何影響各行業?
A:人工智能正助力研究人員更快地發現新藥候選分子,破解以往難以攻克的科學難題,並重塑各行業的作業方式;隨着人工智能的不斷演進,其應用潛能仍在持續拓展。
Q:在短時間內,對人工智能算力的需求是如何增長的?
A:短短兩年間,人工智能算力需求增長了近160倍,每月消耗的令牌數量超過35萬億億個。
Q:人工智能算力的使用預計將發生怎樣的變化?
A:預計今年全球用於模型推理的AI算力將首次超過用於模型訓練的算力,其中約60%的全球AI算力將被用於推理。
Q:什麽是“以智能體為中心的人工智能”?它正如何影響計算産業?
A:“以智能體為中心的人工智能”是指人工智能發展的下一個重要階段,在這一階段,智能體能夠完整回答問題並持續推動問題解決直至達成目標,由此帶來對算力的顯著需求增長,因為這些智能體需要進行複雜的推理並訪問海量數據。
Q:人工智能加速器市場的增長前景如何?
A:人工智能加速器市場預計將實現顯著增長,預計到2028年將達到5000億美元,到2030年將增至1.4萬億美元,規模已接近整個半導體市場的水平。
Q:由於人工智能的發展,服務器CPU市場的預計增長率是多少?
A:在人工智能的快速普及以及對更多CPU基礎設施需求的推動下,服務器CPU市場預計將實現超過50%的強勁增長,市場規模將從250億美元躍升至逾2000億美元。
Q:在AMD的戰略中,邊緣人工智能扮演着怎樣的角色?
A:邊緣人工智能是AMD戰略的重要組成部分,旨在與雲端協同,將智能賦予那些能夠實時感知並采取行動的終端設備,從而滿足AI無處不在的需求。
Q:AMD的産品組合與合作夥伴關系如何為未來的成功奠定基礎?
A:憑借最全面的産品組合、最強勁的發展路綫圖,以及與致力於塑造未來的企業的深度合作,AMD已為未來的成功奠定了堅實基礎。這有助於制定一項與算力領先、開放平台以及各産品綫的AI集成相協同的多年期戰略。
Q:AMD新推出的AI加速器有哪些技術規格?
A:這款采用台積電領先的2納米和3納米制程工藝打造的新型AI加速器,集成3200億個晶體管,由12個計算與I/O小芯片以及432GB內存構成,並通過業界領先的3D小芯片技術實現互聯。它是業界性能最高的AI加速器。
Q:海利俄斯計算托盤中的CPU主板包含哪些組件?
A:Helios計算托盤中的CPU板搭載了高性能的第96代EPYC處理器、DDR5內存,以及為GPU提供數據傳輸所需的所有必要I/O接口;同時配備了Sela DPU,這是用於前端接入與橫向擴展帶寬交付的網絡基礎設施中的關鍵組件。
Q:火山AI節點提供哪些網絡功能?
A:火山AI節點支持在單塊電路板上配置最多6個火山節點,並采用開放的以太網標准。每個Helios計算托盤均配備兩塊Volcano板卡,用於實現網絡的橫向與縱向擴展。此外,還有6塊專用的網絡加速卡負責橫向擴展型網絡,通過搭載合作夥伴提供的芯片的以太網和UA鏈路將75個GPU互聯在一起,充分體現了開放的生態系統理念。
Q:在性能方面,Helios與競爭對手相比如何?
A:與競爭對手相比,Helios的計算性能提升15%,HBM形式的顯存容量和顯存帶寬提升50%,並且橫向擴展帶寬也提升了50%。這意味着,Helios能夠為大型模型提供更強的性能、支持更長上下文的更大容量,以及在數千張GPU之間實現高效擴展所需的帶寬。
Q:正在部署的生産硬件的物理尺寸和技術容量分別是多少?
A:該量産硬件重量超過160磅,高度不足2英寸。它由超過1,000個CDNA 5 GPU計算單元、逾4,600個Ze 6 CPU核心以及31 TB的HBM4顯存組成,全部集成於單個機櫃之中。要大規模運行基因人工智能,必須具備如此規模的技術支撐。
Q:Helios預計什麽時候開始發貨?
A:預計Helios將於第三季度末開始出貨,並在第四季度及下半年逐步放量。客戶對Helios的需求極為強勁,並且它正被多家頂尖的人工智能實驗室所采用。
Q:Anthropic的算力戰略是什麽?它又將如何演進?
A:Anthropic的算力戰略是,隨着行業規模的不斷擴大,確保其在最佳工作負載上配備最優質的芯片。他們一直在優化各類芯片的使用,並對Helios的性能與易用性感到十分滿意,計劃部署規模最高可達2吉瓦。
Q:為何部署高達2吉瓦的Helios項目具有重要意義?
A:部署高達2吉瓦的Helios具有重要意義,因為這台卓越的設備表現極為出色——有工程師僅用周末時間便完成了安裝,並在其核心模型上實現了性能提升。此次部署也彰顯了業界對AMD架構服務市場能力的堅定信心。
Q:AMD與Anthropic在人工智能研發方面有何關系?
A:AMD與Anthropic展開了緊密合作,致力於讓業界領先的基座模型適配AMD架構,雙方堅信此舉將有助於提升面向整個市場的服務水平。他們對開展高度工程化的特定工作負載、推動人工智能技術的進一步發展尤為興奮。
Q:AMD與Anthropic在哪些關鍵領域存在令人振奮的機遇,並有望開展合作?
A:AMD與Anthropic在多個備受關注的領域存在合作潛力,其中包括攜手推進規模擴展,以實現更優的計算性能,並打造能夠為下遊用戶提供更大價值的模型。另一個領域是安全,雙方企業可攜手在芯片層面、服務器層面以及整個網絡中築牢安全防綫,不僅惠及自身,也將推動整個行業的發展。
Q:根據系統結果,Helios提供哪些性能和成本優勢?
A:Helios帶來了顯著的性能提升,在高並發場景下,其吞吐量最高可達上一代産品的34倍。與上一代産品相比,它還將每令牌的成本降低多達18倍。在系統性能與成本方面,Helios相較於競品可提供高達10% 至15% 的性能提升,並且每美元可獲得的代幣數量最多高出30%,從而形成極具競爭力的整體價值主張。
Q:AMD與該演講者所在公司的合作曆程是怎樣的?
A:與AMD的合作始於小米300系列,並已擴展至355系列。團隊對軟件棧和網絡進行了優化,並在AMD基礎設施上部署了模型。近期,他們開始與Helios機架展開合作,雙方工程師並肩協作,共同優化軟件棧,並運行GPT級別的工作負載。他們預計將於今年年底開始大規模部署Helios,並在2027年全年持續加速推進。
Q:人工智能預計將如何改變計算的未來?AMD又在其中扮演了怎樣的角色?
A:預計人工智能將對其所運行的系統進行遞歸式改進,並最終實現自我科研,從而縮短專業工程師在模型優化與高效部署方面所需的時間。AMD正與研究人員合作,開發能夠將面向AMD GPU的編程流程中相當大一部分實現自動化的AI解決方案,從而加速從新模型研發到生産部署的轉化進程。
Q:由人工智能催生的新一代基礎設施有何重要意義?
A:人工智能的興起正在催生一類新型基礎設施,這類基礎設施更加重視算力,這一點在專為滿足這一新興需求而打造的“威尼斯”項目的發展中得到了充分體現。它涵蓋了多種不同工作負載的服務器計算類型——GPU服務器、AI專用服務器以及傳統的通用服務器。為每種工作負載配備合適的CPU至關重要,而威尼斯在三大類工作負載中均處於領先地位。
Q:第六代Epic CPU在性能和能效方面有哪些提升?
A:第六代Epic CPU,包括具備更高IPC和主頻的Z6核心,性能較上一代提升高達1.8倍。這些CPU采用台積電最新的2納米制程打造,每插槽最高可支持512個綫程,在實現最高計算密度的同時,將內存與I/O帶寬提升至兩倍。威尼斯的芯粒架構支持構建一個完整的産品家族,可滿足不同需求,從面向人工智能主機節點的高頻核心到更通用的設計一應俱全。正是這種多功能性和卓越性能,使第六代Epic CPU成為數據中心領域的首選。
Q:對於不同類型的工作負載,采用一致的CPU架構有哪些優勢?
A:采用統一的CPU架構,能夠開發出一系列面向不同工作負載的芯片,正如Epic CPU家族所展現的那樣。這種方法能夠在人工智能、通用服務器和高性能計算等不同工作負載上實現優化。其卓越的通用性以及在性能與能效方面的可擴展能力,使該架構在業界獨樹一幟,並為第六代Epic CPU的領先地位奠定了堅實基礎。
Q:優化數據中心和機架對基因人工智能有何重要意義?
A:針對基因人工智能優化數據中心和機架佈局具有重要意義,因為它能夠在每個機架上部署更多計算節點,從而為客戶提供靈活的選擇,使其能夠根據自身數據中心的實際需求,合理配置散熱方案、空間需求以及整體系統架構。
Q:威尼斯的生産狀況和客戶需求的具體情況如何?
A:威尼斯項目已全面投産,客戶需求十分強勁,創下EPIC曆代新品中的最高紀錄。
Q:哪些公司預計將在第四季度推出“威尼斯”?
A:所有主要的服務器原始設備制造商和各大雲服務提供商均有望在第四季度啓動威尼斯的部署。
Q:為何需要將數據中心視為一個集成系統?
A:有必要將數據中心視為一個整體性系統,因為對推理訓練與推薦系統的需求正呈指數級增長,同時我們也懷揣着為數十億人提供個性化超級智能的願景。統籌整個系統,包括服務器、硬件、網絡、散熱與供電在內,至關重要,因為這些組件缺一不可。
Q:工作負載與需求的變化為協作帶來了哪些機遇?
A:工作量與需求的變化為行業協作帶來了機遇,因為當前亟需靈活性與多元化。沒有任何一家企業或合作夥伴能夠滿足所有需求,因此協作至關重要,尤其是與AMD等夥伴攜手,共同打造並設計系統。
Q:Meta與AMD的合作如何推動CPU基礎設施領域的創新?
A:Meta與AMD的合作夥伴關系通過長期協作、多代CPU和GPU的部署,以及雙方共同開發Rescale OCP系統,推動了CPU基礎設施領域的創新。該合作涵蓋包括CPU和GPU在內的多款産品,並以持續的聯合設計與協同創新為顯著特征。
Q:不同推理工作負載有哪些特征?解聚式推理又是如何應對這些特征的?
A:不同推理工作負載的特征表現為對吞吐量、延遲和計算能力的不同需求。有些工作負載需要極致的吞吐量或極低的成本,另一些則要求均衡的吞吐性能,而還有一類新興的工作負載則對極快的響應速度提出了嚴苛的要求。分離式推理通過允許對計算與內存帶寬需求進行獨立調優,同時提供卓越的計算能力和強大的內存帶寬,從而有效應對這些工作負載。
Q:Cerebras在提供超低延遲推理解決方案方面發揮着怎樣的作用?
A:Cerebras通過研發全球規模最大、速度最快的芯片,並將其封裝成系統、機櫃和集群,從而提供超低延遲的推理解決方案。該解決方案旨在滿足那些亟需快速産出的客戶需求,並可與AMD CPU以及Cerebras的Helios和晶圓級引擎協同工作,從而構建一套解耦式架構的系統。
Q:演講中提到的新方案有哪些特點?
A:新的解決方案將性能和內存容量 (Helios機架) 方面的行業領導者與最高的SRAM和內存帶寬功能相結合,從而實現了業界無與倫比的性能和容量。
Q:新解決方案將於何時何地上綫?
A:該全新解決方案將率先通過Cerebros平台在雲端上綫,隨後將在客戶附近的門店正式推出。
Q:新解決方案為客戶提供了哪些獨特功能?
A:該全新解決方案為客戶提供了按需定制的靈活選項,為超低延遲領域帶來了顯著的能力提升。
Q:演講者所在公司與Cerebrals的合作為客戶帶來了哪些益處?
A:演講者所在公司與Cerebrals的攜手合作,推出了一款在保持卓越速度的同時,吞吐量提升至五倍的解決方案,深受客戶青睐。
Q:人工智能在推動面向GPU的軟件開發變革方面有何重要意義?
A:人工智能正在通過縮短工作負載的啓動時間、實現優化自動化以及消除廣泛普及的障礙,推動GPU軟件開發的變革。預計人工智能將大幅縮短GPU編程所需時間,並使這一過程更加高效。
Q:Racom AI人工智能輔助GPU編程平台的用途是什麽?
A:Racom AI是一款由人工智能輔助的GPU編程平台,旨在通過讓開發者使用AI編碼智能體來優化其工作負載,從而簡化GPU編程、提升性能並降低複雜度。
Q:演講者所在公司開發的軟件棧與此前版本相比有何不同?
A:演講者所在公司目前開發的軟件棧,其中包含諸如“超回路”等特性,相比以往版本已大幅提升。它能夠分析工作負載、調優配置、選擇並優化內核、調整並行化策略,並通過迭代逐步達成性能目標。
Q:新的AI輔助工具帶來了哪些性能提升?
A:全新AI輔助工具Racom AI已使搭載BLM的MiniMax M等特定機型的性能提升高達38%。這些工具還通過諸如融合式閃注意力、更高效的檢查點機制以及先進的並行化策略等創新,在訓練性能方面實現了最高2.4倍的加速。
Q:OpenAI團隊在推動人工智能發展與軟件創新方面發揮着怎樣的作用?
A:OpenAI團隊在推動人工智能基礎設施的邊界方面發揮了關鍵作用。他們已開發出Triton和Gluon等解決方案,這些方案不斷演進以滿足不同工作流的需求,並針對AMD等平台進行了優化。他們與演講者所在公司的合作,在推動軟件開發與人工智能前沿發展方面發揮了關鍵作用。
Q:近期有哪些涉及人工智能與AMD顯卡的合作項目受到了關注?
A:此次重點合作由多個團隊緊密協作,共同利用人工智能為AMD GPU進行編程。
Q:在生成高質量GPU內核方面,人工智能的能力取得了哪些提升?
A:在過去六個月裏,人工智能在生成高質量的GPU內核方面取得了顯著進步。
Q:關於人工智能軟件與合作的未來,主要討論了哪兩個要點?
A:兩大要點分別是:AI智能體的能力正在快速提升,以及AMD開放的軟件生態在推動人工智能發展方面的優勢。
Q:AMD的開源編譯器棧為人工智能代理帶來了哪些性能優勢?
A:AMD的開源編譯器棧使人工智能代理能夠執行極底層的代碼生成,包括彙編指令調度,從而帶來了極為顯著的性能提升。
Q:演講者如何闡述人工智能在AMD産品中的能力與價值主張?
A:演講者指出,人工智能正在基於AMD所開放的代碼庫開展創新,從而形成巨大的價值主張,尤其是在通過更優的抽象與AI輔助開發相結合,並輔以軟硬件協同設計,來構建強大的系統能力。
Q:為什麽Mi 430x特別適合科學計算和AI?
A:Mi 430x采用AMD的模塊化小芯片架構,原生支持FP64硬件,這對於科學計算至關重要,並在人工智能與高性能計算工作負載上均展現出領先性能。
Q:據演講者所言,行業正經曆的這一拐點具有何種重要意義?
A:業界正迎來人工智能在複雜硬件系統編程能力上的轉折點,這使得AI系統的開發與部署變得空前簡便。
Q:AMD正在采取何種戰略,以在各類計算形態中賦能人工智能?
A:AMD的戰略是為各類工作負載提供恰當的算力,持續提升其産品組合的整體優化水平,並在數據中心、企業級、個人計算以及邊緣端等場景中全面支持人工智能。
Q:據AMD稱,不同計算環境有哪些多樣化的需求?
A:不同的計算環境有着各自獨特的需求:企業級場景往往受到供電與散熱的限制,個人AI應用需要有限的計算資源與內存占用,而物理AI則必須在真實環境中保持可靠的運行。AMD通過覆蓋所有開發模式的完整産品組合來應對這些挑戰。
Q:Epic的産品組合如何滿足企業級工作負載的多樣化需求?
A:Epic産品組合覆蓋8至256個核心,具備多樣化的功耗、頻率與I/O特性,為客戶針對不同工作負載靈活選型並優化成本提供了極大便利。
Q:企業在采用人工智能時有哪些顧慮和需求?
A:企業關注基礎設施成本的可預測性、數據安全,以及如何將人工智能融入其現有基礎設施。它們需要一種分佈式部署模式,涵蓋多種人工智能部署環境。
Q:Instinct Mi 350p是如何設計以滿足企業需求的?
A:Instinct Mi 350p在設計上充分考慮了企業級服務器的功耗與散熱限制,無需進行硬件升級即可適配,最高可支持2600億個參數,並在性能與經濟性方面均優於競品。
Q:Instinct Mi 350p為企業帶來了怎樣的實際性能表現?
A:Instinct Mi 350p支持高達2600億個參數,與競品相比,每美元可處理的標記數最高可達其四倍;同時,其每秒處理的標記數也高出2至5倍,從而實現更高的生産效率。
Q:AMD的IT團隊在哪些應用場景中開展了AI測試,並取得了怎樣的成效?
A:AMD的IT團隊已在自主威脅檢測和個性化AI助手等場景中應用並測試了人工智能技術,使令牌成本降低了43%,同時將本地工作負載的響應速度提升至原來的3倍。
Q:AMD如何支持其客戶在各類環境中部署和應用人工智能?
A:AMD憑借完善的軟件與解決方案生態體系,為客戶提供全方位支持,涵蓋衆多人工智能獨立軟件開發商、對主流開源模型的零日級技術支持、強大的深度學習框架,以及可信的平台軟件與廣泛的OEM合作夥伴關系。
Q:AMD戰略的首要目標是什麽?
A:AMD戰略的總體目標是幫助客戶在最具價值的場景中部署人工智能,無論是在雲端、本地還是在邊緣。
Q:演講者提到的AI在企業中的主要應用場景有哪些?
A:人工智能在企業中的主要應用場景包括欺詐檢測、客戶服務,以及優化基站或無綫接入網的部署位置,從而實現其在網絡內的最高效利用。
Q:通話數據的轉錄如何助力企業洞察?
A:每日接聽的30多萬通電話的轉寫工作帶來了巨大的工作量,而這些轉寫數據所提煉出的洞察又反哺至業務運營中。
Q:人工智能在各業務領域中的應用具有怎樣的重要意義?
A:當前在人工智能領域的佈局已覆蓋人力資源、財務管理、現金預測以及員工入職等各類業務職能,這標志着公司正更廣泛地運用AI重構全鏈條業務流程。
Q:在將人工智能推向企業級規模時,為什麽擁有世界一流的專業團隊和具備流程化思維的人才至關重要?
A:擁有一流的團隊和具備流程化思維的人才至關重要,因為這一過程涉及在工作流中頻繁地從一個環節流轉到另一個環節,而這需要各環節之間高度協同配合。
Q:與AMD的合作在人工智能領域為公司帶來了哪些益處?
A:與AMD的合作使公司受益,通過利用開源模式、多樣化的芯片組合,以及模型的構建與訓練來實現這一目標。該公司通過在AMD平台上對模型進行後訓練,成功降低了算力代幣的成本,並實現了與價格更高的芯片方案相當的性能和精度。
Q:作為首家在AMD平台上訓練模型的電信公司,這一舉措有何重要意義?
A:作為首家在AMD平台上訓練模型的電信企業,這標志着我們在開源模型應用方面邁出了開創性的一步,並彰顯了我們在電信行業充分釋放AMD技術潛能的堅定承諾。
Q:Oel 1.0和Oel 2.0的用途是什麽?它們為何如此重要?
A:Oel 1.0和Oel 2.0的目的在於為業界提供一套開放的模型。Oel 1.0於一年前發佈,累計下載量已超過1800萬次;而功能更強大、並在AMD上進行訓練的Oel 2.0正通過開源方式對外提供,旨在展示大模型訓練的意義及其在企業環境中的運行機制。
Q:該公司如何將其在企業計算領域的領先地位拓展至人工智能領域?
A:公司正通過傾聽客戶需求、為其工作負載提供解決方案,並着力幫助客戶加速其人工智能轉型進程,將自身在企業計算領域的領先地位拓展至人工智能領域。
Q:個人人工智能在重塑計算格局中扮演着怎樣的角色?
A:個人人工智能通過將人工智能的覆蓋範圍拓展至數據中心之外,在重塑計算格局方面發揮着重要作用。它涉及能夠在物理世界中提升生産效率與認知水平的智能體,而這需要一個能夠協同擴展的計算生態系統。
Q:個人人工智能對數據中心及整體計算經濟有何影響?
A:個人人工智能通過將部分工作負載從雲端遷移至個人電腦,降低了數據中心的基礎設施成本,並使其能夠專注於處理規模更大、要求更高的任務。它還帶來了一些優勢,例如數據保留在用戶身上,應用程序保持響應速度,以及系統即使在沒有網絡的情況下也能正常工作。
Q:新一代小型人工智能模型如何影響計算格局?
A:新一代小型人工智能模型通過大幅降低實現高級智能所需的算力,改變了計算格局,使原本僅限於雲端的各類工作負載得以在終端設備上運行,從而顯著提升AI開發的效率與優化水平。
Q:發言人就與Hugging Face的合作及其對開發者的益處作了哪些說明?
A:演講者透露,與Hugging Face的合作將把OpenAI生態直接引入Radeon AI Halo,為開發者提供針對開源模型和GPT工作流的優化性能。這一合作通過為開發者提供合適的模型、針對平台的優化,以及將其快速轉化為實際應用的能力,使他們受益匪淺。
Q:演講者認為,人工智能的下一階段是什麽?企業在大規模部署人工智能時又面臨哪些挑戰?
A:人工智能發展的下一階段在於實現規模化部署,其推理模式將發生根本性轉變:從以人類為主導的、呈脈沖式的需求模式,轉向對基礎設施更為持續穩定的需求信號。企業面臨的挑戰包括安全風險、成本管控,以及如何在確保適當的安全性、治理與管控的前提下運維大量人工智能系統。
Q:在企業中部署人工智能時,需要重點考慮哪些關鍵因素?
A:在企業中部署人工智能時,需要重點考慮的幾個關鍵因素包括:確保具備充足的網絡帶寬以滿足本地智能體的運行需求、合理控制令牌使用成本、對智能體的行為進行安全與合規監控,以及建立健全的治理與管理體系。
Q:人工智能部署的全棧由哪些組件構成?
A:用於人工智能部署的全棧解決方案包括:隔離的安全代理沙箱、智能路由、MCP(很可能指核心集成套件)、安全策略的強制執行、基礎設施層的高可用性與韌性、對設備及基礎設施的可觀測性、對代理行為與代幣經濟的監控,以及用於統一管控的管理平面。
Q:企業如何規模化地管理其人工智能部署?
A:企業可通過部署像思科雲控制平台這樣的管理平面,對AI應用進行規模化運維,統一監管分佈在桌面端、數據中心以及雲端的各類AI設備。這實現了對整個部署的全面可見性和可控性。
Q:新款AMD産品在人工智能與機器人領域有哪些優勢?
A:面向人工智能與機器人領域的全新AMD産品,如AMD Creo AI模塊化系統及c AI機器人開發者平台,可實現更迅捷的響應、更強的複雜任務處理能力,並確保安全與可靠控制。它們將CPU、GPU、NPU與統一內存融為一體,實現同步實時處理,並提供從概念設計到實際應用的完整開發路徑。
Q:AMD的AI與計算産品未來路綫圖是什麽?
A:AMD在人工智能與計算産品領域的未來路綫圖包括推出弗洛倫薩、拉文納等全新CPU系列,同時持續迭代其Instinct GPU産品綫,每年推出新一代架構,保持性能的穩步提升。AMD還計劃每年推出新一代Helios系統,以支持更大規模的模型並降低總體擁有成本。
play
English
English
進入會議
1.0
0.5
0.75
1.0
1.5
2.0