娇小w搡bbbb搡bbb,《第一次の人妻》,中国成熟妇女毛茸茸,边啃奶头边躁狠狠躁视频免费观看

重新思考數(shù)據(jù)中心架構(gòu),推進(jìn)AI的規(guī)模化落地

發(fā)布者:EE小廣播最新更新時間:2025-05-19 來源: EEWORLD關(guān)鍵字:數(shù)據(jù)中心  架構(gòu)  AI  是德科技 手機(jī)看文章 掃描二維碼
隨時隨地手機(jī)看文章

image.png

是德科技高級副總裁Marie Hattar


人工智能(AI)對計算資源的貪婪需求推動了基礎(chǔ)設(shè)施的變革,業(yè)界正著力解決如何滿足AI在功率、可擴(kuò)展性以及效率等方面的需求。這促使大量投資涌入,旨在重新配置數(shù)據(jù)中心架構(gòu),以更好應(yīng)對上述及其他技術(shù)要求。問題的核心在于,智能性的構(gòu)建需要巨大的算力支持。隨著AI復(fù)雜度以每年一個數(shù)量級的速度遞增,數(shù)據(jù)中心必須快速擴(kuò)展。一個直觀的參照可以說明這一需求增長的速度:到2027年,AI工作負(fù)載的能源消耗將超過阿根廷的年用電量。

沒有萬能之法


AI正在重新定義各類數(shù)據(jù)中心的架構(gòu),包括超大規(guī)模數(shù)據(jù)中心、現(xiàn)場數(shù)據(jù)中心、主機(jī)托管數(shù)據(jù)中心和邊緣數(shù)據(jù)中心。迄今為止,大家的注意力主要集中在超大規(guī)模數(shù)據(jù)中心的競爭上。指數(shù)級增長的計算資源需求正在催生站點容量超過1GW的AI集群。麥肯錫預(yù)測,到2030年,歐洲和美國60%以上的AI工作負(fù)載將托管在超大規(guī)模基礎(chǔ)設(shè)施上。


從超大規(guī)模數(shù)據(jù)中心到邊緣:架構(gòu)的演進(jìn)


數(shù)據(jù)中心必須能夠支持像大型語言模型(LLM)訓(xùn)練這樣的AI工作負(fù)載。這就需要對設(shè)施的設(shè)計和架構(gòu)進(jìn)行全面升級。每個機(jī)架的功率必須增加到200-300kW,以支持密集型計算,并配備增強(qiáng)冷卻解決方案以滿足這種密集性需求。GPU和TPU等專用硬件必須與擴(kuò)展的存儲系統(tǒng)相集成,以應(yīng)對海量數(shù)據(jù)的管理需求。為實現(xiàn)硬件的獨(dú)立管理和擴(kuò)展,分離架構(gòu)正被廣泛部署,支持不同工作負(fù)載高效利用資源。為了適應(yīng)AI的流量模式,網(wǎng)絡(luò)架構(gòu)也需要進(jìn)行更新,否則AI集群可能會陷入“數(shù)字交通堵塞”——強(qiáng)大的數(shù)據(jù)處理能力因數(shù)據(jù)瓶頸而無法發(fā)揮其應(yīng)有的效能。

 image.png

除了超大規(guī)模設(shè)施外,AI正在推動對去中心化基礎(chǔ)設(shè)施的需求,以支持本地數(shù)據(jù)處理。這需要專為邊緣工作負(fù)載設(shè)計的數(shù)據(jù)中心——在較小的物理空間和較低能耗下實現(xiàn)高性能。到2030年,隨著越來越多的處理任務(wù)向邊緣轉(zhuǎn)移,該市場預(yù)計將超過1600億美元。


該增長源于自動駕駛等應(yīng)用中,對于更加貼近終端用戶的實時處理能力的迫切需求。在這些應(yīng)用中,更快的決策速度至關(guān)重要。該方法可以降低延遲,更好地支持這個由物聯(lián)網(wǎng)和5G技術(shù)驅(qū)動的超連接世界。


隨著AI應(yīng)用的日益成熟,推理工作負(fù)載的增長速度已經(jīng)遠(yuǎn)超模型訓(xùn)練。基礎(chǔ)設(shè)施也需要適應(yīng)這種從訓(xùn)練到推理的轉(zhuǎn)變——DeepSeek R1和OpenAI v3的成功有賴于此。這類推理系統(tǒng)利用經(jīng)過訓(xùn)練的模型來評估實時數(shù)據(jù),從而高效地做出決策或完成任務(wù)。


邊緣連接設(shè)備將產(chǎn)生大量的數(shù)據(jù)。因此,數(shù)據(jù)中心需要達(dá)到一定規(guī)模,以支持低延遲網(wǎng)絡(luò)和靈活的資源分配,從容應(yīng)對突發(fā)推理需求高峰。


以AI擴(kuò)展AI


有趣的是,AI既是問題所在,又是解決問題的關(guān)鍵。智能化對于應(yīng)對擴(kuò)展挑戰(zhàn)和確保高效運(yùn)營至關(guān)重要。AI可以通過多種方式助力數(shù)據(jù)中心現(xiàn)代化,其中包括:


提高能源效率對于可持續(xù)運(yùn)營至關(guān)重要。數(shù)據(jù)中心可以通過部署AI來自動調(diào)節(jié)冷卻系統(tǒng)和服務(wù)器工作負(fù)載,應(yīng)對需求高峰。實施智能節(jié)能技術(shù)有助于最大限度地減少浪費(fèi)和運(yùn)營成本,同時保持性能水平。


預(yù)測性維護(hù)利用機(jī)器學(xué)習(xí)在問題發(fā)生前進(jìn)行預(yù)測。這可以最大限度地減少停機(jī)時間,并有助于延長基礎(chǔ)設(shè)施的使用壽命。考慮到擴(kuò)展所涉及的規(guī)模和成本,主動安排維修和更新以優(yōu)化資源利用率的能力具有重要意義。


數(shù)字孿生與AI相結(jié)合,可創(chuàng)建動態(tài)模型來對組件和系統(tǒng)進(jìn)行測試和驗證。這些解決方案可用于確保復(fù)雜的數(shù)據(jù)中心保持穩(wěn)健、富有彈性,并能支持未來的需求。AI算法會分析有關(guān)性能和環(huán)境條件的歷史數(shù)據(jù),為優(yōu)化運(yùn)營提供洞察。這些解決方案可以使用AI工作負(fù)載來模擬網(wǎng)絡(luò)性能,從而發(fā)現(xiàn)并解決潛在的瓶頸問題。先進(jìn)的測試和仿真工具是創(chuàng)建可擴(kuò)展、高效、可靠的基礎(chǔ)設(shè)施所需的技術(shù)堆棧的重要組成部分。


AI將加速完全自主的智能數(shù)據(jù)中心的實現(xiàn),這些數(shù)據(jù)中心幾乎可以處理所有操作,包括監(jiān)控、維護(hù)、聯(lián)網(wǎng)、能源管理和安全等,并且只需極少的人工投入。


面向未來的AI基礎(chǔ)設(shè)施


隨著AI的不斷發(fā)展,數(shù)據(jù)中心必須適應(yīng)日益復(fù)雜的工作負(fù)載。運(yùn)營商迫切希望能以可持續(xù)的方式擴(kuò)展基礎(chǔ)設(shè)施來滿足需求,而不必犧牲性能或可靠性。由于AI的未來發(fā)展仍存在不確定性,打造靈活、富有彈性且易于適應(yīng)的基礎(chǔ)設(shè)施至關(guān)重要。


通過AI系統(tǒng)編排在超大規(guī)模計算能力和邊緣靈活性之間取得平衡將成為區(qū)分成敗的關(guān)鍵,而那些能夠順應(yīng)這一趨勢的企業(yè)將在AI革命中脫穎而出。

 


關(guān)鍵字:數(shù)據(jù)中心  架構(gòu)  AI  是德科技 引用地址:重新思考數(shù)據(jù)中心架構(gòu),推進(jìn)AI的規(guī)模化落地

上一篇:是德科技推出用于大規(guī)模AI數(shù)據(jù)中心的系列解決方案
下一篇:最后一頁

推薦閱讀最新更新時間:2025-07-01 08:28

Arm推出目前最小的Armv9-A架構(gòu)CPU:面向邊緣AI領(lǐng)域出擊
“當(dāng)下,我們正處于‘百模爭霸’的時代,雖說行業(yè)目前關(guān)注點主要在AI訓(xùn)練端,但事實上,真正可以釋放AI價值的在推理端,AI推理會下沉到我們身邊無處不在。” Arm物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健(Chloe Ma)在Arm Cortex-A320 CPU的發(fā)布會上如是說。 她提出一個設(shè)想,假如我們生活在帶寬無限大,速率無限大的理想環(huán)境中,那么云端AI會帶給我們實時無縫的體驗。但海量數(shù)據(jù)都回傳到云端是不現(xiàn)實的,這種情況下,邊緣AI就勢在必行。邊緣側(cè)豐富的用例,能夠給我們帶來更多的機(jī)會。 Arm是邊緣AI生態(tài)構(gòu)建的引領(lǐng)者,從去年4月推出Ethos-U85,到去年5月推出新的Arm Kleidi軟件和Cortex-X925/A725
[嵌入式]
Arm推出目前最小的Armv9-A<font color='red'>架構(gòu)</font>CPU:面向邊緣<font color='red'>AI</font>領(lǐng)域出擊
人工智能新應(yīng)用 LG將推出內(nèi)建AI架構(gòu)OLED電視
根據(jù)韓國媒體《ETNEWS》的報導(dǎo),韓國電視大廠LG將推出內(nèi)含AI架構(gòu)的OLED電視。該系列內(nèi)建AI架構(gòu)的OLED電視,預(yù)計在2018年內(nèi)推出10種機(jī)款。而由于價格相較之前的OLED電視有所下降,而且具備AI架構(gòu)的情況下,市場預(yù)計推出后將受到重視。 報導(dǎo)指出,該系列內(nèi)含AI架構(gòu)的OLED電視采用LG自行研發(fā)的Alpha 9智能處理器,其CPU及GPU的運(yùn)算能力較以往處理器提高35%,并配備4步驟雜訊抑制、“進(jìn)階映射”(Advanced Mapping)及改進(jìn)顏色校正運(yùn)算法,讓畫面的清晰度、顏色、漸變層次都有較以往更佳的表現(xiàn)。 另外,除了在色彩與畫質(zhì)的控制上,透過Alpha 9智能處理器的處理,有更好的表現(xiàn)之外。在使用者界面上,也
[家用電子]
扛起數(shù)據(jù)中心大旗,邁向更多高性能領(lǐng)域 | 賽昉科技2023年度盤點
盡管已有100億內(nèi)核的出貨量,但幾乎都來自MCU及協(xié)處理器,RISC-V還是時常被冠以“性能不足、生態(tài)薄弱” 的帽子。可喜的是, RISC-V在高性能領(lǐng)域的價值正逐漸被認(rèn)可 。2023年,在AI、服務(wù)器、網(wǎng)絡(luò)通訊、桌面計算等高性能領(lǐng)域,RISC-V不再是“摸著石頭過河”,而是大刀闊斧地前進(jìn)。 作為RISC-V的主要推動者,2023年,賽昉科技一面感受全球RISC-V產(chǎn)業(yè)蓬勃發(fā)展的春風(fēng),一面清晰把脈自身發(fā)展的律動,聚焦產(chǎn)品交付,扛起數(shù)據(jù)中心大旗,邁向更多高性能領(lǐng)域。 賽昉科技自成立起便定位于高性能RISC-V產(chǎn)品的研發(fā)、推廣和應(yīng)用落地,過去的一年,賽昉科技的融資、客戶合作、產(chǎn)品研發(fā)、市場活動等均圍繞這一主線展開。在新年開啟之
[網(wǎng)絡(luò)通信]
PCI Express 6.0:為下一代數(shù)據(jù)中心帶來前所未有的性能
近二十年來,PCI Express?(PCIe?)規(guī)范一直是計算領(lǐng)域的首選互連標(biāo)準(zhǔn)。 從2010年發(fā)布的PCIe 3.0開始,每一代新標(biāo)準(zhǔn)的信號傳輸速率都比上一代增加一倍,而且在滿足各種用例的帶寬需求方面遠(yuǎn)遠(yuǎn)領(lǐng)先于市場。 但近年來,人工智能/機(jī)器學(xué)習(xí)(AI/ML)、高性能計算(HPC)等性能關(guān)鍵型應(yīng)用所產(chǎn)生的數(shù)據(jù)呈現(xiàn)爆發(fā)式增長,企業(yè)也紛紛上云。面對巨大的數(shù)據(jù)流量,數(shù)據(jù)中心在數(shù)據(jù)處理和數(shù)據(jù)存儲上正承受著極限壓力,這也使得服務(wù)器和網(wǎng)絡(luò)設(shè)備上的PCIe互連成為瓶頸。 PCIe 6.0 - 服務(wù)于高帶寬要求的應(yīng)用 為了不斷滿足行業(yè)對高速率、低延遲互連的需求,PCI-SIG發(fā)布了PCIe 6.0規(guī)范。該規(guī)范將數(shù)據(jù)傳輸速率提升至6
[網(wǎng)絡(luò)通信]
PCI Express 6.0:為下一代<font color='red'>數(shù)據(jù)中心</font>帶來前所未有的性能
微軟數(shù)據(jù)中心將用儲能電池反哺愛爾蘭可再生能源電網(wǎng)
現(xiàn)如今,愛爾蘭近 400 個風(fēng)電場為島上供應(yīng)了超 35% 的電力。這些綠色能源會通過電網(wǎng)傳輸至農(nóng)場、企業(yè)和家庭,幫助公共事業(yè)單位減少化石燃料發(fā)電而排放的二氧化碳等溫室氣體。然而此類可再生能源的一大短板,就是波動性過大。好消息是,微軟數(shù)據(jù)中心正努力幫助緩解這方面的顧慮。 據(jù)悉,風(fēng)電的發(fā)電功率會隨風(fēng)力強(qiáng)度而在一天和整個季節(jié)內(nèi)不斷波動,結(jié)果對電網(wǎng)運(yùn)營商構(gòu)成了越來越大的挑戰(zhàn)。 另一方面,微軟在當(dāng)?shù)氐臄?shù)據(jù)中心,已在現(xiàn)場安裝了鋰離子電池,以確保在斷電時繼續(xù)正常運(yùn)行。 更棒的是,這家科技巨頭表示,其數(shù)據(jù)中心將很快過渡到可為綠色電網(wǎng)提供備用能源。 通過部署更多電池來存儲光伏電池或風(fēng)電場產(chǎn)生的電力,該備用系統(tǒng)能夠為電網(wǎng)提供更好的反
[電源管理]
微軟<font color='red'>數(shù)據(jù)中心</font>將用儲能電池反哺愛爾蘭可再生能源電網(wǎng)
特斯拉已在中國建立數(shù)據(jù)中心,以實現(xiàn)國內(nèi)數(shù)據(jù)國內(nèi)存
特斯拉官微宣布,已經(jīng)在中國建立數(shù)據(jù)中心,以實現(xiàn)數(shù)據(jù)存儲本地化,并將陸續(xù)增加更多本地數(shù)據(jù)中心。所有在中國大陸市場銷售車輛所產(chǎn)生的數(shù)據(jù),都將存儲在境內(nèi)。 5月20日,中國網(wǎng)絡(luò)空間安全協(xié)會秘書處聯(lián)合清華大學(xué)互聯(lián)網(wǎng)治理研究中心、伏羲智庫在北京召開《汽車數(shù)據(jù)安全管理若干規(guī)定(征求意見稿)》專家研討會,特斯拉參會。研討會中,就數(shù)據(jù)問題,有意見傳出:從行業(yè)發(fā)展的角度,研討會希望相關(guān)法律越來越完善,也希望能為解決汽車數(shù)據(jù)治理問題、為主管部門決策做出有效支撐。 5月6日,曾有特斯拉內(nèi)部人士透露,特斯拉正在開發(fā)線上信息系統(tǒng)平臺,以供所有車主查詢獲取車機(jī)交互的數(shù)據(jù),預(yù)計在2021年實現(xiàn)上線。 特斯拉研發(fā)該信息系統(tǒng)平臺的或許是為了應(yīng)對車主的日
[嵌入式]
美光發(fā)布企業(yè)級SATA固態(tài)硬盤,推動數(shù)據(jù)中心加速
內(nèi)存和存儲解決方案領(lǐng)先供應(yīng)商 Micron Technology Inc.發(fā)布全新容量和功能的美光? 5210 ION企業(yè)級 SATA 固態(tài)硬盤(SSD),鞏固了其在 QLC 技術(shù)量產(chǎn)領(lǐng)域的領(lǐng)導(dǎo)地位。作為全球首款 QLC SSD, 美光5210基于公司先進(jìn)的 QLC NAND 技術(shù),正迅速取代傳統(tǒng)機(jī)械硬盤 (HDD)。 用 NAND 閃存來替代 HDD 處理性能敏感型工作負(fù)載,如 SQL 和 NoSQL 數(shù)據(jù)庫、大數(shù)據(jù)和分析、對象存儲和 vSAN 容量層級,使我們的客戶獲益匪淺。美光 5210 正在快速取代 10K HDD。與最大的10K RPM HDD 相比,美光5210的隨機(jī)讀取速度快 175 倍,隨機(jī)寫入速度快 30
[嵌入式]
美光發(fā)布企業(yè)級SATA固態(tài)硬盤,推動<font color='red'>數(shù)據(jù)中心</font>加速
國網(wǎng)大數(shù)據(jù)中心成立 支撐“三型兩網(wǎng)”建設(shè)
5月21日,國家電網(wǎng)有限公司舉行國網(wǎng)大數(shù)據(jù)中心成立揭牌儀式暨大數(shù)據(jù)發(fā)布會,同時啟動中國電力大數(shù)據(jù)創(chuàng)新聯(lián)盟籌備工作。國家電網(wǎng)有限公司董事長、黨組書記寇偉為國網(wǎng)大數(shù)據(jù)中心成立揭牌。該公司總經(jīng)理、黨組副書記辛保安出席揭牌儀式并講話,公司副總經(jīng)理、黨組成員韓君主持揭牌儀式。 據(jù)悉,新成立的國家電網(wǎng)有限公司大數(shù)據(jù)中心是該公司數(shù)據(jù)管理的專業(yè)機(jī)構(gòu)和數(shù)據(jù)共享平臺、數(shù)據(jù)服務(wù)平臺、數(shù)字創(chuàng)新平臺,負(fù)責(zé)公司數(shù)據(jù)的專業(yè)管理,實現(xiàn)數(shù)據(jù)資產(chǎn)的統(tǒng)一運(yùn)營,推進(jìn)數(shù)據(jù)資源的高效使用,為國家電網(wǎng)建設(shè)“三型兩網(wǎng)”世界一流能源互聯(lián)網(wǎng)企業(yè)提供數(shù)字化支撐。 辛保安在揭牌儀式上表示,成立國家電網(wǎng)有限公司大數(shù)據(jù)中心,是該公司貫徹國家戰(zhàn)略部署,發(fā)揮央企帶頭作用的實際
[新能源]
小廣播
最新測試測量文章

 
EEWorld訂閱號

 
EEWorld服務(wù)號

 
汽車開發(fā)圈

 
機(jī)器人開發(fā)圈

電子工程世界版權(quán)所有 京ICP證060456號 京ICP備10001474號-1 電信業(yè)務(wù)審批[2006]字第258號函 京公網(wǎng)安備 11010802033920號 Copyright ? 2005-2025 EEWORLD.com.cn, Inc. All rights reserved
主站蜘蛛池模板: 高唐县| 会昌县| 聂荣县| 永顺县| 外汇| 那坡县| 陆丰市| 白河县| 山阴县| 资源县| 伊通| 尚志市| 鲁山县| 高要市| 榆林市| 承德市| 五常市| 沧州市| 乐都县| 顺平县| 兴隆县| 莫力| 通辽市| 海林市| 五大连池市| 柏乡县| 乌拉特中旗| 泰兴市| 金寨县| 茌平县| 北宁市| 万荣县| 佛学| 汉沽区| 六枝特区| 丽江市| 铜梁县| 长葛市| 顺平县| 通山县| 泰来县|