英特爾全新Gaudi2處理器面世中國市場,加速大規模深度學習訓練與推理
2023-07-11 18:07:26來源:中關村在線
中關村在線消息,2023年7月11日,英特爾AI產品戰略暨Gaudi2新品發布會在京舉行。會上,英特爾正式于中國市場推出第二代Gaudi深度學習加速器——Habana Gaudi2。作為英特爾從云到端產品組合的重要組成,Gaudi2致力于以領先的性價比優勢,加速AI訓練及推理,為中國用戶提供更高的深度學習性能和效率,從而成為大規模部署AI的更優解。
【資料圖】
英特爾于中國市場推出Gaudi2深度學習加速器
英特爾執行副總裁兼數據中心與人工智能事業部總經理Sandra Rivera指出,“英特爾致力于通過為客戶提供廣泛的硬件選擇,并支持開放的軟件環境,加速人工智能技術的發展。憑借包括至強可擴展處理器和Gaudi2深度學習加速器在內的產品組合,英特爾正在降低人工智能的準入門檻,并強化客戶在云端通過網絡和智能邊緣部署這一關鍵業務技術的能力,從而幫助構建中國人工智能的未來?!?/p>
為深度學習而生的全新Gaudi2訓練加速器
該Gaudi2深度學習加速器暨Gaudi2夾層卡HL-225B,以第一代Gaudi高性能架構為基礎,以多方位性能與能效比提升,加速高性能大語言模型運行。該加速器具備:
●24個可編程Tensor處理器核心(TPCs)
●21個Gbps(RoCEv2)以太網接口
●96GB HBM2E內存容量
●2.4TB/秒的總內存帶寬
●48MB片上SRAM
●集成多媒體處理引擎
Habana Gaudi 2深度學習加速器
Gaudi2加速器的出色性能在6月公布的MLCommons MLPerf基準測試中得到了充分認證,其在GPT-3模型、計算機視覺模型ResNet-50(使用8個加速器)、Unet3D(使用8個加速器),以及自然語言處理模型BERT(使用8個和64個加速器)上均取得了優異的訓練結果。與市場上其他面向大規模生成式AI和大語言模型的產品相比,Gaudi2擁有卓越的性能與領先的性價比優勢,能夠幫助用戶提升運營效率的同時,降低運營成本。
此外,Gaudi2可為大規模的多模態和語言模型提供出色的推理性能。在最近的Hugging Face評估中,其在大規模推理方面的表現,包括在運行Stable Diffusion(另一個用于從文本生成圖像的最先進生成式AI模型之一)、70億以及1760億參數BLOOMz模型時,在行業內保持領先。
滿足大語言和多模態模型的需求
Gaudi2深度學習加速器的架構旨在高效擴展,以滿足大規模語言模型及生成式AI模型的需求。其每張芯片集成了21個專用于內部互聯的100Gbps(RoCEv2 RDMA)以太網接口,從而實現低延遲服務器內擴展。
在Stable Diffusion訓練上,Gaudi2展示了從1張卡至64張卡近線性99%的擴展性。此外,MLCommons剛剛公布的MLPerf訓練3.0結果,亦驗證了Gaudi2處理器在1750億參數的GPT-3模型上,從256個加速器到384個加速器可實現令人印象深刻的接近線性的95%擴展效果。
具備成熟的軟件支持,Gaudi2產品在中國市場正式上市
伴隨日益增長的生成式AI及大語言模型需求,英特爾亦致力于打造領先、成熟的軟件支持,充分釋放Gaudi2深度學習加速器性能。
為支持客戶輕松構建模型,或將當前基于GPU的模型業務和系統遷移到基于全新Gaudi2服務器,并幫助保護軟件開發投入,SynapseAI軟件套件針對Gaudi平臺深度學習業務進行了優化,旨在與廣泛的軟件生態系統一起,幫助簡化模型的開發和遷移。SynapseAI集成了對TensorFlow和PyTorch框架的支持,并提供眾多流行的計算機視覺和自然語言參考模型,能夠滿足深度學習開發者的多樣化需求。
目前,英特爾正與浪潮信息合作,打造并發售基于Gaudi2深度學習加速器的浪潮信息AI服務器NF5698G7。該服務器集成了8顆Gaudi2加速卡HL-225B,還包含雙路第四代英特爾至強可擴展處理器。
基于Gaudi2加速器的浪潮NF5698G7服務器
攜手中國產業生態,共啟人工智能新篇
多年來,借助強大的AI軟硬件基礎,英特爾一直致力于為AI領域的各類工作負載提供業界領先的卓越性能,并通過開放的生態、豐富多樣的產品選擇不斷降低AI部署的門檻,并為中國的AI發展提供堅定支持。
本次發布會上,美團、百度與浪潮信息等生態伙伴分別分享了其基于英特爾軟硬件產品組合的多樣化智能業務進展。百度智能云服務器高級經理何永占表示,集成英特爾AMX加速引擎的第四代英特爾至強可擴展處理器為ERNIE-Tiny模型帶來了多倍的性能優化,百度將持續構建領先的AI全棧能力和全面的開放生態,并期待與英特爾在未來的AI領域展開更為廣泛、深入的合作。浪潮信息高級產品經理王磊強調,NF5698G7是專為面向生成式AI市場創新開發的新一代AI服務器,支持8顆OAM高速互聯的Gaudi2加速器,具備高性能、高擴展、高能效和開放生態等優點,將為AI客戶提供強大的大模型訓練和推理能力。未來,浪潮信息將繼續攜手英特爾,為行業打造創新、領先的產品方案。
此外,多家本土生態伙伴亦表明了與英特爾在當下及未來產品合作上的堅定立場與長遠展望。新華三集團計算存儲產品線副總裁劉宏程指出,新華三智慧計算秉持內生智能的技術理念,基于硬件使能、前瞻技術、綠色低碳等全方位能力,助力AI產業的高速發展?;谟⑻貭朑audi2AI加速器,新華三正與英特爾緊密合作,開發適合大模型訓練和推理的高性能AI服務器,推動智能算力的普惠創新。與此同時,超聚變數字技術有限公司算力基礎設施領域總裁唐啟明表示,非常榮幸見證英特爾Gaudi2的發布。作為英特爾的長期戰略合作伙伴,超聚變將一如既往地攜手英特爾,共同推出基于Gaudi2的全新產品與解決方案,助力企業的AI場景成熟商用和規模落地。
未來,英特爾將持續引領產品技術發展,進一步加速大規模深度學習部署,助力中國本地AI市場發展。
英特爾(Intel) i5-13600KF 13代 酷睿 處理器 14核20線程 睿頻至高可達5.1Ghz 24M三級緩存 臺式機CPU
進入購買
標簽:
相關閱讀
-
亞太地區 70% 的企業高管正探索生成式 AI 應用或已經進行投資
在最近的IDC報告《ApplicationsofGenerativeAIinCustomerExperience》中,I
2023-07-11
精彩推薦
閱讀排行
相關詞
- 沃爾沃XC90
- 拼多多開車是開搜索還是開場景?如何開車?
- 天津人注意啦!7月13日多個區域將停水、降壓,請提前做好準備
- 羅馬諾:布萊頓為凱塞多標價9000萬-1億鎊
- 胡錫進炒股記第11集:又賺1126元,炒股帶來流量是意外,沒想好如果股市下跌該怎么辦
- 新疆兵團護林員馬曉華植樹造林28年守護生態
- 歐盟食品和飼料類快速預警系統(RASFF)通報(2023年第27周)
- 中國充電聯盟:6月公共充電樁同比增長40.6%
- 東鵬控股:上半年凈利潤預增202.65%-248.30%
- 在未來8天,愛已入命,舊愛歸來,與前任重歸于好的四大星座
- 聯發科最新旗艦芯即將登場,全大核天璣9300游戲體驗更上一層樓
- 《中國礦業金融發展研究報告2023》:全球博弈中能源資源金融屬性日益增強
- 旅韓大熊貓“愛寶”產下雙胞胎寶寶 外交部:暖心的好消息
- 特斯拉發布Cyberquad兒童玩具電動車 售價可達11990元
- 東鵬控股:上半年凈利潤預增202.65%–248.30%
- 【孝昌網評大賽⑧】東湖評論:三十而立,追光前行
- 手游開發商藍港互動累計購入44.2個比特幣 稱將進軍 Web3 產業
- 火車上哪里能充電?這份指南請收好
- 俄駐美大使館:向烏克蘭提供集束彈藥是“犯下戰爭罪”
- 財神爺電腦桌面壁紙高清 財神爺電腦桌面壁紙
- 長八遙三二級氫氧發動機校準試車成功
- 《偷偷藏不住》帶火廈門旅游 阿里大文娛啟動“文旅地圖”計劃
- 扎波羅熱核電站冷卻池水位略有下降
- 泰興交警開展道路交通安全夏季整治行動
- 港股異動 | 華住集團-S(01179)漲超5% 暑假旅游出行旺季將催化酒店相關標的業績持續提升
- 旅游高峰將至 北京開展暑期旅游市場秩序集中整治
- 美國銀行:將2023年鋅價預測從2905美元/噸下調至2603美元/噸
- 寶馬電車銷量超小鵬、極氪 下半年還有iX1要國產
- 水滴籌籌款頁面升級,新增銀行打款對賬單明細,籌款人和捐款人都能看
- 曝英特爾14代酷睿核心代號 Raptor Lake HX/S 跑分曝光
- 靠賣藤椒油年入逾4億!幺麻子擬上市,絕味食品是第二大股東
- 華碩最新款小屏旗艦Zenfone 10拆解:攝像頭、主板、無線充電
- 重制《生化危機:代號維羅妮卡》曝光 官方稱正討論系列擴展
- 上半年汽車出口達175.8萬輛 上汽集團獲頭名
- 飛利浦剃須刀hq852拆機視頻(飛利浦剃須刀hq801)
- 《四庫全書》這部巨著有著怎樣的遷徙之旅?一起尋訪藏書閣
- 浙江兩家新材料公司啟動IPO輔導
- 中聯重科分拆中聯高機重組上市 擬作價94億置入路暢科技
- 中汽協:6月汽車產銷環比同比雙增長
- 三峽電站累計發電超16000億千瓦時 減少二氧化碳排放量約13.2億多噸
- 升級農機 提質糧倉——“雙搶”時節訪“雙庫”
- 工商銀行筑夢中華金條50克價格今天多少一克(2023年07月11日)
- 南方精工實控人父女被警示:“夸大事實”股價拉漲,未澄清
- 公交司機家屬堅持七年寫“親情寄語”,時刻提醒駕駛員安全行車
- 鹽城建湖高新區:突出“四化” 扎實做好黨員檔案管理
- 仙壇股份上半年業績預計暴增11倍
- 成都大運會加大“蓉寶”宣傳力度 推動“蓉寶”IP破圈
- 饑餓把淤塞的時間吞噬(外一首)
- 喜鵲聲聲:智能客服云呼叫中心IVR導航方案,請查收
- 凱迪拉克LYRIQ銳歌銷量堪憂,全系降價6萬元
- 2023湖南省司法廳面向湖南司法警官職業學院司法行政警察類專業應屆畢業生考錄人民警察擬錄用人員名單
- 銳龍5 7500F參數曝光:沒有核顯 性能大幅領先7600X
- 一群蒙面男縱火燒毀墨西哥第二大市場,造成9人死亡
- 動物園推出釣鱷魚項目?網友直呼太危險!園方:不允許,已開展排查
- “1000萬尋狗”事件背后疑有推手 疑似相關公司在搞抽獎吸粉活動
- 內存變硬盤,運行軟件秒開,超級爽
- 全新榮威D7 DMH混動版公布:取消分體式大燈設計
- 曝EA新游戲《黑豹》開發中,與漫威聯合開發
- AI for 金融,華為首屆大模型金融行業創新研討會成功舉辦
- 死侍和金剛狼同框!《死侍3》首批劇照發布
- 真人演員出演《Dying Breed》復古實時戰略游戲上架
- 激活鄉村數字化人才“引擎”
- 堅持以系統觀念推動能源革命(評論員觀察)
- 新華全媒+|爭分奪秒忙恢復——強降雨后安徽快速推進搶險減災
- 勝業電氣擬沖刺北交所,輔導券商為申萬宏源證券承銷保薦
- 嘗高美集團(08371)將于8月24日派末期股息每股0.052港元
- 上海第二批集中供地:招商蛇口18.479億元競得松江住宅地塊
- 中字頭個股開盤走弱,中國核建跳水跌超8%
- 貴州輪胎(000589)7月11日13點11分觸及漲停板
- 花都中軸線將有新地標,打造大型體育公園和生態社區
- 七個人攻略法師(七個人攻略)
- 蘋果5scheckra1n越獄教程(iphone5c完美越獄 iphone5c越獄教程)
- 矜怎么讀組詞 矜怎么讀
- 1999元或更低買嗎?RTX 4060/4060 Ti遇冷 商家醞釀更大降價
- 二芐叉丙酮實驗中可能產生的反應 芐叉丙酮的制備副反應
- 傳承小米13!小米14設計圖出爐:超窄直屏+直邊
- 哪吒汽車CEO表示剪刀門實用與否看個人需求
- 寶駿云朵內飾曝光:雙拼色+木紋元素點綴,4295mm長五座車
- 游戲總監:發條革命靈感來源《奧秘:蒸汽與魔法》和《吸血鬼:避世之血族》
- 上半年全國期貨市場成交量增長29.71%
- 小米MIX Fold 3下月發布 外觀設計曝光
- 火鍋底料品牌“草原紅太陽”重啟A股IPO輔導
- 中國足協:中乙兩俱樂部官員違規違紀被罰禁入賽場+罰款
- 斯巴魯CROSSTREK車型中文定名為旭豹
- 新能源越野SUV等 深藍發布4款新車預告
- 高質量發展調研行丨在北京創新研發,在津冀驗證轉化
- 2023重慶佛影峽漂流門票價格(附最新優惠信息)
- 大發地產:馮義晶獲委任為獨立非執行董事
- 溫網:尤班克斯晉級八強
- 全國基本醫療保險參保人數達13.4億
- 發放補貼、住房保障、延長產假……各地出臺各類生育支持政策
- 首份上市券商半年報預喜!財通證券預計中期凈利同比增加55%至70%
- 【奮斗耀青春】寶雞青工王波:努力做好生產線上的“內科醫生”
- 特供顯卡再次被禁售 國內溢價2萬元
- 《夏東評車》蔚來 ET5 旅行車:線性進化和價格平權
- 小米14設計公布 窄直屏+直邊
- 藏羚羊的遷徙之路展現人與自然和諧共生 勾勒生態系統輪廓
- 日本上半年企業破產數量同比大幅增加
- 三星Galaxy Z Flip5機模照片上手視頻曝光 有保護套
- 勞資協議講解|范喬丹合同中有15%交易保證金!什么是交易保證金?
- 中國國際進口博覽局領導到訪兄弟工業株式會社
- 午評:下午關注成交量是否放大
- 哈蘭德成《EA Sports FC 24》終極版封面人物 提前7天進入游戲
- vivo云服務聯系人怎么導入其他手機
- 錫安:我是一個純粹的籃球手 坐場邊看隊友輸球很不爽
- 昂科燒錄器支持Cmsemicon中微半導體的微控制器BAT32G137GH48FA
- 從“治水”到“智水”,破解二次供水行業痛點,舜禹股份啟動詢價推介
- 衡陽紅網百姓呼聲衡東(衡陽紅網百姓呼聲)
- 臺灣老伯怒喊:臺灣人別再當“井底之蛙”要多看《新聞聯播》
- 完美醫療:香港醫療旅游旗艦店6月銷售合同環比增長26.6%
- 汽車整車板塊持續走高 中通客車漲停
- 行政公益訴訟之內涵有哪些
- 《國家標準實施指南(2023版)》發布
- 奮力打造現代化產業發展示范引領區——東疆片區推動高質量發展述評
- 堅持以系統觀念推動能源革命
- 鎮平柳泉鋪鎮:“三再三強”推進反詐騙工作
- (高質量發展調研行)走進“中國戲樓活化石”正乙祠:感受傳統文化“煥新”與“回歸”
- 夏收開鐮 粒粒歸倉
- 巨能裝,還舒適,UNI-K智電iDD“大平層”后排圈粉李妹妹
- 葉羅麗第20集:曼多拉的絕招并非無懈可擊,連陳思思都有辦法破解
- 成都博物館:解碼漢字承載的中華文化基因
- 練兵備戰忙!直擊火箭軍某部野外實兵演練
- 刑事訴訟原告是誰
- 2023《英雄聯盟》LPL夏季賽季后賽將于7月20日在西安拉開帷幕
- 跳水救人的少校,記二等功
- 洛江區政府主要領導帶隊調研洛陽江數字孿生流域平臺
- 速搶!紅米 K60 手機免息史低價來了:16GB 版 2249 元
- 雄安新區三所“交鑰匙”學校進入新階段
- 欠錢到期不還找什么途徑
- 華為部分老機型推送 HarmonyOS 3 更新:優化系統,純凈模式全新升級
- 大威脅!Windows 更新被惡意軟件偽裝成更新
- 數字人民幣解鎖新能力,“SIM卡硬錢包”來了,“碰一碰”即可支付
- 三峽電站累計發電超16000億千瓦時 減少二氧化碳排放量約13.2億多噸
- 上半年國家鐵路發送電煤7.77億噸 同比增長13.1%
- 退市整理期首日跌超70% “藍盾轉退”上演過山車行情
- 燒烤攤上如何烤茄子(燒烤攤上如何烤茄子)
- 一問“醫”答丨今年三伏持續40天!防暑養生這樣做
- 江西南昌城市濕地美如畫 荷花綻放、鷺鳥蹁躚
- 湖南漣源:湘中煤海斗笠山 穿越時光迎蝶變
- 國乒亞運身兼四項球員考驗非體能 王藝迪單打坐二望一迎翻身?
- 七旬老人因救17歲女孩遇害 村民為其申請見義勇為獲通過
- 匯川技術:五、六月份通用自動化業務訂單有一定好轉
- 河源男籃四連勝 目前排名小組第一
- 肇源縣“三個著力”扎實推進鄉風文明建設
- 歡喜傳媒發布盈喜:預計上半年營收暴增百倍 凈利潤4億港元同比實現扭虧轉盈
- 東軟載波:目前無法判斷管制對MCU價格帶來的影響
- 港股電影概念股活躍 IMAX中國漲近15%
- 人民網昨日報道 沁伊高速孟州黃河特大橋項目建設如火如荼
- 燕麥科技:7月10日融資買入100.14萬元,融資融券余額5223.92萬元
- 上半年私募新備案產品超萬只,股票策略成“主力軍”
- 一市民入選二季度全國見義勇為勇士榜