娇小w搡bbbb搡bbb,《第一次の人妻》,中国成熟妇女毛茸茸,边啃奶头边躁狠狠躁视频免费观看

第五代至強AI跑分結果出爐:比第四代強1.42倍

發布者:EEWorld資訊最新更新時間:2024-03-29 來源: EEWORLD作者: 付斌關鍵字:英特爾  至強  AI 手機看文章 掃描二維碼
隨時隨地手機看文章

AI領域永遠都在革新。但隨著大模型對算力需求的高速增長,現階段生產的芯片很難滿足業界需求。


前陣子,英特爾發布了第五代英特爾至強可擴展處理器,這款產品不僅在性能指標上有很大提升,在AI性能上也非常強勁。甚至可以說,能夠勝任部分AI大模型的推理工作。


不過,口說無憑,唯有跑分才能證明真正的實力。近日,MLCommons公布了針對AI推理的MLPerf v4.0基準測試結果


比第四代強1.42倍


第五代至強內置了英特爾?高級矩陣擴展(英特爾? AMX)的第五代英特爾?至強?可擴展處理器(以下簡稱“第五代至強”)在測試中表現優異,進一步彰顯了英特爾致力于通過豐富且具有競爭力的解決方案推動 “AI無處不在”的承諾。截至目前,英特爾仍是唯一一家提交MLPerf測試結果的CPU廠商。與第四代至強在MLPerf推理v3.1基準測試中的結果相比,第五代至強的測試結果平均提升1.42倍。


英特爾公司副總裁兼數據中心人工智能事業部產品管理總經理Zane Ball表示:“我們將持續提升CPU和加速器等廣泛產品組合在行業基準測試中的AI性能。此次全新的MLCommons結果顯示,我們提供的AI解決方案能夠滿足客戶不斷變化、多樣化的AI需求。同時,至強處理器也為客戶提供了可快速實現AI部署,且極具性價比的選擇。”


英特爾產品迄今為止在多輪MLPerf基準測試中均所展示出領先的訓練及推理性能,該測試結果亦為客戶樹立了可用于評估產品AI性能的行業標準。


關于第五代至強的測試結果:


與第四代至強在MLPerf推理v3.1性能基準測試中的表現相比,經由硬件及軟件優化的第五代至強性能平均提升1.42倍。其中,針對具備連續批處理(continuous batching)等軟件優化的GPT-J模型,與v3.1的測試結果相比,第五代至強的性能提升約1.8倍;同樣,得益于MergedEmbeddingBag以及基于英特爾AMX的其他優化,DLRMv2的測試結果顯示出約1.8倍的性能提升和99.9的準確率。

第五代英特爾?至強?可擴展處理器


與此同時,英特爾非常自豪地與包括思科、戴爾、廣達、Supermicro和緯穎科技在內的廣大OEM伙伴們展開合作,助力其提交基于自身產品的MLPerf測試結果。英特爾不僅于2020年開始提交基于第四代至強的測試結果,同時至強可擴展處理器亦是參與MLPerf測試的產品中,眾多加速器的主機CPU。


此外,第五代至強可在英特爾?開發者云平臺上進行評估。該環境中,用戶可以進行小型及大規模AI訓練(譬如大語言模型或生成式AI)、運行大規模的推理工作負載,以及管理AI計算資源等。


跑大模型,也可以用CPU


面對大模型這一新風口,全球科技公司均將目光投向了AI芯片,特別是GPU。但GPU的產量與HBM,或者說2.5D封裝能力直接掛鉤。這讓本就供應吃緊的GPU再遇瓶頸,導致供需嚴重失衡。


與之相悖的是,眼下AI大模型“拼殺”的關鍵在于做大參數量,用“力大磚飛”實現更為強大的智能涌現。可以說,即便是面對AI芯片漲價,多少公司也會選擇購買,畢竟錯過這個風口,或許就會失去競爭力。


對于大型數據中心來說,每顆芯片都在牟足力氣,全功率地運行著,如果能擁有更多AI性能,那么,還需要額外購置一批GPU嗎?


事實上,我們都陷入了一種思維定勢,其實跑AI并非只有GPU一個選擇,CPU也已經具備很強大了AI性能。


亞信科技就在自家OCR-AIRPA方案中采用了CPU作為硬件平臺,實現從FP32到INT8/BF16的量化,從而在可接受的精度損失下,增加吞吐量并加速推理。將人工成本降至原來的五分之一到九分之一,效率還提升5~10倍。


被改變的,不只是互聯網和通信領域,AI制藥被看作是終結藥物研發“雙十定律”的希望,在這個領域中AlphaFold2 這類大型模型被視為最重要的算法。去年開始,至強可擴展平臺就開始使AlphaFold2端到端的通量提升到了原來的23.11倍,而第四代可擴展處理器讓這個數值再次提升3.02倍。


可以說,將CPU用于AI推理正在不斷證實可行。而現在,第五代至強可擴展處理器能夠在無需添加獨立加速器的前提下,運行高達200億參數的模型推理,且延遲低于100毫秒。一款為AI加速而生,且表現更強的處理器誕生了。


CPU,怎么AI跑起來


很多人會奇怪,為什么第五代至強作為一個通用處理器,能夠運行AI負載?事實上,除了本身落在第五代至強的AI負載,其中內置的一系列的加速器是關鍵。


這種設計可以與時下MCU(單片機)的流行做法進行對比,通過內置DSP、NPU,分走一部分部分AI負載,讓AI任務跑得更高效,從而更省電,至強也是類似的原理。


這種設計在早期的至強可擴展處理器中就出現過,只不過,那時候大家沒有過多關注,也沒有那么AI任務需要跑。


具體看第五代至強,其內置的英特爾AVX-512及英特爾? AMX(英特爾?高級矩陣擴展)功能是關鍵,這兩個加速器在第四代至強中就已搭載,而在第五代至強中,AMX支持新的FP16指令,同時混合AI工作負載性能提高2~3倍。


加之第五代至強本身性能的提升,使其本身性能就能更從容應對AI負載:CPU核心數量增加到64個,單核性能更高,每個內核都具備AI加速功能;采用全新I/O技術(CXL、PCIe5),UPI速度提升。


根據行業人士分析,CPU做大模型推理,最大的難點不在計算能力,而在內存帶寬。第五代至強的內存帶寬從4800 MT/s提高至5600 MT/s,三級緩存容量提升至近3倍之多,同時插槽可擴展性,支持從一個插槽擴展至八個插槽,這些都為第五代至強支持大模型提供了堅實的后盾。



從數據上來看,與上一代產品相比,第五代至強相同熱設計功耗下平均性能提升21%;與第三代產品比,平均性能提升87%。相較于前一代產品,第五代至強不僅迭代了性能,還帶來了42%的AI推理性能提升。


此外,在一系列加速器中,英特爾?可信域拓展(英特爾? TDX)提供虛擬機(VM)層面的隔離和保密性,從而增強隱私性和對數據的管理。


不止如此,第五代至強還是迄今為止推出的最“綠色”的至強處理器,它能夠幫助用戶管理能耗,降低碳足跡。可以說,軟件只是一方面,歸功于第五代至強內的多種創新技術和功能,搭配干活,效率更高,最終體現出來的就是更低的功耗。


CPU未來發展趨勢,一定是拼功耗,這需要全方位發力。首先是工藝,隨著工藝逐漸提升到Intel 3、Intel 20A、Intel 18A,功耗會越來越低,每一代都會有兩位數的功耗降低。封裝也一樣,使用先進的封裝技術把不同制程的芯片通過Chiplet架構放在一起,進行一個運算,并不需要把所有地方都用起來,而是只使用對應的區域,這樣功耗自然就降低了。還有,就是針對不同的工作負載做優化。


有時候調整應用程序的架構也可以最大限度地降低功耗。舉例來說,如果要訓練大模型,假設總共有20個大模型,每個模型的訓練周期為3個月,需要1000臺機器來訓練,每臺機器功率為1萬瓦。如果規定只需訓練其中的5個模型,而剩下的15個模型不需要訓練,這樣就能節省75%的電能。因此,有時候通過調整應用程序的架構,可以更有效地降低功耗。


“隨著算力的持續高速發展,如何實現數據中心的節能減碳,改變‘電老虎’的形象,對尋求采用可再生能源和更環保的技術方面有了更高的需求。”英特爾數據中心與人工智能集團副總裁兼中國區總經理陳葆立對AI大模型時代提出了這樣的擔憂,第五代至強就是節能減碳的關鍵。


與此同時,英特爾也有一系列的產品和技術創新,如通過更高效的冷卻技術、智能能源管理系統等推動新型和存量數據中心進行節能減排,并攜手中國合作伙伴推動應用落地。


關鍵字:英特爾  至強  AI 引用地址:第五代至強AI跑分結果出爐:比第四代強1.42倍

上一篇:AMD潘曉明:攜手產業鏈合作伙伴邁入AI PC新時代!
下一篇:自研處理器始終和高通有差距:三星S25放棄全系采用Exynos

推薦閱讀最新更新時間:2025-06-18 20:10

第四代英特爾至強可擴展處理器,為全新AWS EC2 M7i-flex和M7i實例帶來更高性能
今天, 亞馬遜云科技(AWS)宣布推出全新Amazon EC2實例,該實例由定制的第四代英特爾? 至強? 可擴展處理器提供支持 。此次發布的是越來越多搭載第四代英特爾至強可擴展處理器實例中的最新產品,該實例具備領先的總體擁有成本(TCO)和眾多CPU內置加速器,以支持人工智能、數據庫、網絡和企業應用等關鍵工作負載。 英特爾公司副總裁兼至強產品和解決方案事業部總經理Lisa Spelman表示,“英特爾與AWS密切合作,讓更多客戶能夠使用我們功能豐富的第四代英特爾至強可擴展處理器,其中許多客戶在私有和公共預覽中已經受益于其出色的性能和價值。今天,我們很高興能夠將同樣的實踐應用價值帶給全球云客戶。” 得益于AWS廣泛的全球應用
[網絡通信]
英特爾?至強處理器產品家族迎來新成員
英特爾近日宣布英特爾?至強?處理器產品家族迎來兩位新成員:Cascade Lake-AP(預計2019年上半年發布)和面向入門級服務器的英特爾?至強?E-2100處理器(現已正式發布)。這兩個新產品系列建立在英特爾至強平臺長達20年的領導地位之上,讓客戶可以更加靈活地選擇最符合自身需求的解決方案。 “我們一直致力于提供能滿足客戶系統需求的各種工作負載優化解決方案。此次新品Cascade Lake-AP CPU和至強?E-2100處理器的加入,再次展示了我們向廣大客戶提供性能優化解決方案的承諾。”——Lisa Spelman,英特爾副總裁兼英特爾至強產品與數據中心營銷總經理。 Cascade Lake-AP代表了一種全新類型
[嵌入式]
AI PC時代,英特爾和微軟引領PC產業翻開Windows 11 AI+ PC新篇章!
618 PC購機選什么?英特爾酷睿Ultra產品品鑒會給你答案 2025年5月27日,北京——今天, 英特爾聯合微軟和京東舉辦了“Windows 11 AI+ PC創新AI及游戲體驗·618英特爾? 酷睿? Ultra產品品鑒會”,正式宣布Windows 10 PC全面邁向Windows 11 AI+ PC時代。 現場展現了來自聯想、華碩、機械革命、惠普、戴爾、宏碁、微星、七彩虹、雷神、機械師10家OEM的基于酷睿Ultra處理器(第二代)的AI PC,以及五大AI PC應用場景的AI應用,從工作、創作、游戲等方面盡現酷睿Ultra Windows 11 AI+ PC的高效智能體驗。 英特爾中國客戶端消費業務總經理程淼 表
[網絡通信]
<font color='red'>AI</font> PC時代,<font color='red'>英特爾</font>和微軟引領PC產業翻開Windows 11 <font color='red'>AI</font>+ PC新篇章!
英特爾企業AI一體化方案重磅發布, 以端到端解決方案助力行業智能化發展
2024 年 12 月 1 日,北京—— 今日,英特爾發布全新企業AI一體化方案。該方案基于英特爾? 至強? 處理器和英特爾? Gaudi 2D AI加速器在內的全棧硬件,以及OPEA開放軟件平臺而打造,為企業客戶提供了一個開放、可擴展且基于業界卓越實踐的端到端解決方案,將推動AI在不同行業場景中的應用部署 。作為其中首個落地的方案,英特爾也攜手新華三共同發布雙方合作打造的新華三AIGC靈犀一體機。 英特爾數據中心與人工智能集團副總裁兼中國區總經理陳葆立表示,“在日新月異的市場環境中,企業需要借助AI的強大力量,應對變化,推動轉型,實現持續增長。可以說,AI將成為至關重要的業務價值源泉。企業要想充分發揮技術價值,就需要采用兼具
[網絡通信]
<font color='red'>英特爾</font>企業<font color='red'>AI</font>一體化方案重磅發布, 以端到端解決方案助力行業智能化發展
OpenVINO? 再升級:英特爾AI創新插上翅膀
40年前,個人電腦的問世將強大的計算能力壓縮至人們的桌面。20年前,智能手機的誕生拉近了人與人之間的距離。 今天,AI助手悄無聲息地滲透到我們的生活,改變著我們與世界互動的方式。 在上周剛剛落幕的OpenVINO? DevCon 中國系列工作坊北京站活動上,眾多行業先鋒和創新者們展現了AI技術在多個領域的實際應用。一個明顯的趨勢是:無論是行業領軍企業還是獨立開發者,無一不在全力以赴地“All In AI”。這些創新的解決方案,不僅標志著當前各行業對AI的應用正進入爆發式增長階段,也預示著AI將與我們的生活更緊密地聯系在一起——從職場到家庭,從醫療到娛樂,開啟一個充滿可能性的未來。 OpenVINO? 2024.4版上線,支
[網絡通信]
OpenVINO? 再升級:<font color='red'>英特爾</font>為<font color='red'>AI</font>創新插上翅膀
oneAPI & OpenVINO? 聯合開發者大會開啟:英特爾持續開源創新,助力 AI 開發落地
2023 年 11 月 3 日 ,北京 —— 由英特爾舉辦的以“創新加碼,加速開發”為主題的 oneAPI & OpenVINO? 聯合開發者大會正式啟動,眾多行業領先技術大咖與合作伙伴齊聚一堂,分享技術領域的最新成果,解讀前沿開發趨勢。在這場全球性的技術盛筵上,英特爾技術專家帶來了 oneAPI 在全球的發展近況及如何與合伙伙伴共建異構計算新生態,同時針對OpenVINO? 2023.1 新版本進行了技術亮點解析,并詳細講解了新版本如何更好地支持生成式 AI 模型、框架及大語言模型,實現全鏈路賦能開發者,推動英特爾軟件工具與開源生態的深度融合。 本次聯合開發者大會由 OpenVINO? DevCon與 oneAPI De
[網絡通信]
oneAPI & OpenVINO? 聯合開發者大會開啟:<font color='red'>英特爾</font>持續開源創新,助力 <font color='red'>AI</font> 開發落地
英特爾攜手百度飛槳,共創軟硬一體人工智能生態
2022年5月20日,北京 —— 今日, 英特爾出席在線上舉辦的Wave Summit 2022深度學習開發者峰會 ,與眾多人工智能專家、開發者與架構師,及知名學者等行業從業者一道分享英特爾與百度在人工智能各領域應用的創新突破,并深度展現如何通過包括oneAPI 和OpenVINO在內的軟件優化,及豐富的人工智能全棧硬件產品組合,助力最新發布的飛槳v2.3版本實現模型性能的優化升級,及其在多個垂直領域的實踐應用。與此同時,英特爾亦聯合百度發布“飛槳硬件生態伙伴共創計劃”,共創軟硬一體人工智能生態。 英特爾高級首席工程師、物聯網事業部中國區首席技術官張宇表示,英特爾始終致力于以強大的產品組合和開放的軟件生態系統加速推動人工
[工業控制]
<font color='red'>英特爾</font>攜手百度飛槳,共創軟硬一體<font color='red'>人工智能</font>生態
英特爾宋繼強:堅持不懈的科研將推動AI向3.0時代躍遷
最近幾天,新冠疫情在北京再次升級,使總體向好的國內抗疫形勢變得嚴峻。剛剛重啟的生產生活被再次打亂,我們或許在未來較長一段時間內都不得不面對防疫常態化這一現實。本周,我又開始切換到“云辦公、云生活”的狀態。遠程辦公、視頻會議已成習慣,孩子的課業交給了在線教育平臺,消費和娛樂的方式也變成了看網絡直播、聽云演唱會。在疫情這一特殊的場景下,一系列新型AI應用需求被全面激活,AI真正滲透到了我們日常生活的方方面面。 作為一個科技從業者,我深知這些AI新應用的爆發絕非一日之功。從量變到質變的過程,是長期的科研布局與數字化基礎設施建設的結果。瞄準長遠的目標與價值,堅持長期的科技研究,是我們面對“疫情”這樣不確定事件時唯一確定的事情。這不
[物聯網]
<font color='red'>英特爾</font>宋繼強:堅持不懈的科研將推動<font color='red'>AI</font>向3.0時代躍遷
小廣播
最新嵌入式文章
何立民專欄 單片機及嵌入式寶典

北京航空航天大學教授,20余年來致力于單片機與嵌入式系統推廣工作。

 
EEWorld訂閱號

 
EEWorld服務號

 
汽車開發圈

 
機器人開發圈

電子工程世界版權所有 京ICP證060456號 京ICP備10001474號-1 電信業務審批[2006]字第258號函 京公網安備 11010802033920號 Copyright ? 2005-2025 EEWORLD.com.cn, Inc. All rights reserved
主站蜘蛛池模板: 大城县| 秀山| 仁寿县| 沂水县| 宜章县| 江都市| 连山| 星子县| 香港| 黄冈市| 东至县| 金堂县| 玉屏| 军事| 吉林省| 鹤峰县| 石屏县| 循化| 镇宁| 曲周县| 浮山县| 汤原县| 富阳市| 栖霞市| 盐边县| 金乡县| 成都市| 常德市| 双流县| 广饶县| 乌拉特后旗| 姜堰市| 阳原县| 深州市| 亚东县| 贵州省| 苍溪县| 揭东县| 义马市| 商丘市| 广灵县|