男女一边摸一边做爽爽的i视频_亚洲欧美在线一区二区_a一级毛片久久久久久精品_美女扒开腿让男人桶爽的图片_欧美性猛交xxxx乱大交蜜桃

中國企業(yè)報集團主管主辦

中國企業(yè)信息交流平臺

微博 微信

攜英特爾?至強?CPU Max系列,寶德服務(wù)器為大模型推理提供澎湃算力

2023-12-26 18:58 來源:中國周刊網(wǎng) 次閱讀
 
攜英特爾?至強?CPU Max系列,寶德服務(wù)器為大模型推理提供澎湃算力

  AI大模型空前火爆,應(yīng)用服務(wù)加速,正在走進人們的工作和生活。其中,大語言模型(LLM)以其在圖像、語音、自然語言處理等方面表現(xiàn)出的卓越能力,使其成為最重要的AI技術(shù)之一。 作為中國AI服務(wù)器市場的TOP3和中國領(lǐng)先的計算產(chǎn)品方案提供商,寶德堅持技術(shù)創(chuàng)新,基于英特爾AI軟硬件技術(shù)基礎(chǔ)等打造多樣性的AI算力和解決方案,為AI產(chǎn)業(yè)快速發(fā)展和AI大模型落地應(yīng)用做出積極的貢獻。

  英特爾?至強?CPU Max系列,大語言模型工作負載的實力擔(dān)當(dāng)

  一直以來,英特爾以廣泛的AI硬件和軟件組合助力大語言模型的普及,推動AI發(fā)展惠及各行各業(yè)。其中,第四代英特爾?至強?可擴展處理器以其原生AI加速能力和全面提升的整體性能,充分滿足大模型工作負載以及復(fù)雜AI計算場景的需求。

  第四代英特爾?至強?可擴展處理器具有英特爾高級矩陣擴展(AMX)的AI加速功能,有全新的指令集與電路設(shè)計,可幫助諸如圖像識別、對象探測等任務(wù)中的張量處理獲得多倍效率提升,并可用于INT8、BF16等不同數(shù)據(jù)格式以加速深度學(xué)習(xí)訓(xùn)練和推理工作負載等多種類型的AI模型,性能高達上一代10倍。


英特爾?至強?CPU Max系列

  在此基礎(chǔ)上,英特爾?至強?CPU Max系列更是大模型的算力擔(dān)當(dāng),它每顆CPU提供64GB的高帶寬內(nèi)存(HBM2E),兩顆共128GB,有效解決大語言模型工作負載經(jīng)常受到內(nèi)存帶寬限制的窘境。數(shù)據(jù)顯示,其針對建模、人工智能、深度學(xué)習(xí)、高性能計算 (HPC) 和數(shù)據(jù)分析等實際工作負載的性能提升了 4.8 倍。

  基于英特爾?至強?CPU Max系列的寶德服務(wù)器,為大模型推理應(yīng)用提供澎湃算力


寶德自研雙路服務(wù)器PR2715E

  寶德自研雙路服務(wù)器PR2715E,支持兩顆英特爾?至強?CPU Max系列,以比較基礎(chǔ)的32核心+64GB HBM緩存的Max 9462為例,該產(chǎn)品就可輕松支持60B參數(shù)下8路推理需求。它采用CPU+GPU異構(gòu)計算設(shè)計,有8個標(biāo)準(zhǔn)PCIe5.0插槽,可以支持8張單寬或3張雙寬包括英特爾?GPU Flex系列的GPU計算卡,強大的AI算力和安全技術(shù),能夠為大模型AI推理工作負載加速和護航。另外,該機型有32個DDR5內(nèi)存插槽,最大可支持8TB,支持400Gb/s高速網(wǎng)絡(luò),優(yōu)化低延遲應(yīng)用體驗;它最大支持12個2.5”( 3.5”)和4個后置2.5 ” SATA/SAS/NVMe熱插拔硬盤,或24個2.5”SATA/SAS/NVMe和2個后置2.5 ”SATA/SAS熱插拔硬盤,支持內(nèi)置1個M.2(NVMe/SATA),保障了整機性能的強勁可靠。此外,PR2715E支持液冷散熱方案,通過選用冷板液冷方案,可以有效減少AI大模型算力集群和數(shù)據(jù)中心的整體碳排放和顯著降低客戶TCO(總體擁有成本)。


寶德四子星服務(wù)器PR2745TE

  尤其值得一提的是,寶德四子星服務(wù)器PR2745TE,在2U 機架中提供多達 4個雙路節(jié)點和高容量存儲,使得它1臺服務(wù)器就可以支持多達八顆英特爾?至強?CPU Max系列,從而完美支持60B參數(shù)下32路推理需求。而且,它在2U規(guī)格內(nèi)提供超常的吞吐量、存儲、網(wǎng)絡(luò)、I / O、內(nèi)存和處理能力,形成一個靈活的平臺,為要求苛刻的AI、高性能和橫向擴展等工作負載提供強勁動力。PR2745TE為簡化部署和維護而設(shè)計,并以最高質(zhì)量組裝,以確保最大容量的連續(xù)操作。客戶可以通過它提供的解決方案滿足最具挑戰(zhàn)性的IT 需求,并受益于特殊的總擁有成本(TCO)。 作為業(yè)界雙子星/多子星服務(wù)器的首創(chuàng),寶德四子星服務(wù)器久經(jīng)市場考驗,已經(jīng)幫助AI用戶、數(shù)據(jù)中心、 高性能計算和云計算環(huán)境的客戶獲得了來自數(shù)據(jù)中心資源的強大競爭優(yōu)勢,也將是大模型推理應(yīng)用堅實的算力基礎(chǔ)之一。


點贊()
上一條:基于第五代英特爾?至強?平臺,寶德液冷服務(wù)器PR2715EL煥“芯”升級2023-12-25
下一條:基于英特爾?至強?處理器,寶德AIGC解決方案加速釋放AI動能2023-12-28

相關(guān)稿件

基于第五代英特爾®至強®平臺,寶德液冷服務(wù)器PR2715EL煥“芯”升級 2023-12-25
寧暢G50系列全新升級,支持最新一代英特爾至強處理器 2023-12-16
拿“百億補貼” 英特爾建廠德國 2023-06-22
英特爾亮相進博會,展示數(shù)實融合"芯"成果 2023-11-08
英特爾擴大在德投資 有望獲百億補貼 2023-06-21
國務(wù)院國有資產(chǎn)管理委員會 中國企業(yè)聯(lián)合會 中國企業(yè)報 中國社會經(jīng)濟網(wǎng) 中國國際電子商務(wù)網(wǎng) 新浪財經(jīng) 鳳凰財經(jīng) 中國報告基地 企業(yè)社會責(zé)任中國網(wǎng) 杭州網(wǎng) 中國產(chǎn)經(jīng)新聞網(wǎng) 環(huán)球企業(yè)家 華北新聞網(wǎng) 和諧中國網(wǎng) 天機網(wǎng) 中貿(mào)網(wǎng) 湖南經(jīng)濟新聞網(wǎng) 翼牛網(wǎng) 東莞二手房 中國經(jīng)濟網(wǎng) 中國企業(yè)網(wǎng)黃金展位頻道 硅谷網(wǎng) 東方經(jīng)濟網(wǎng) 華訊財經(jīng) 網(wǎng)站目錄 全景網(wǎng) 中南網(wǎng) 美通社 大佳網(wǎng) 火爆網(wǎng) 跨考研招網(wǎng) 當(dāng)代金融家雜志 借貸撮合網(wǎng) 大公財經(jīng) 誠搜網(wǎng) 中國鋼鐵現(xiàn)貨網(wǎng) 證券之星 融易在線 2014世界杯 中華魂網(wǎng) 納稅人俱樂部 慧業(yè)網(wǎng) 商界網(wǎng) 品牌家 中國國資報道 金融界 中國農(nóng)業(yè)新聞網(wǎng) 中國招商聯(lián)盟 和訊股票 經(jīng)濟網(wǎng) 中國數(shù)據(jù)分析行業(yè)網(wǎng) 中國報道網(wǎng) 九州新聞網(wǎng) 投資界 北京科技創(chuàng)新企業(yè)誠信聯(lián)盟網(wǎng) 中國白銀網(wǎng) 炣燃科技 中企媒資網(wǎng) 中國石油化工集團 中國保利集團公司 東風(fēng)汽車公司 中國化工集團公司 中國電信集團公司 華為技術(shù)有限公司 廈門銀鷺食品有限公司 中國恒天集團有限公司 濱州東方地毯集團有限公司 大唐電信科技股份有限公司 中國誠通控股集團有限公司 喜來健醫(yī)療器械有限公司 中國能源建設(shè)股份有限公司 內(nèi)蒙古伊利實業(yè)集團股份有限公司 中國移動通信集團公司 中國化工集團公司 貴州茅臺酒股份有限公司