“所有的行業(yè)都值得被AI重做一遍?！边@是最近幾年時(shí)常被提起的一句話。這幾年，沒(méi)有什么比AI更火的概念，隨著AI大模型的到來(lái)，科技的人文關(guān)懷正在滲入每一片云上。

AI的熱度背后，是一個(gè)正在指數(shù)級(jí)擴(kuò)張的商業(yè)藍(lán)海。調(diào)研機(jī)構(gòu)統(tǒng)計(jì)顯示，2022年，全球AI市場(chǎng)規(guī)模約869億美元，而2030年預(yù)計(jì)將達(dá)1.3萬(wàn)億美元，2024年到2030年的年增長(zhǎng)率預(yù)計(jì)達(dá)35.7%。但真正的財(cái)富密碼并非算力或算法，而是AI應(yīng)用與服務(wù)。IDC預(yù)測(cè)，到2030年，AI將貢獻(xiàn)19.9萬(wàn)億美元全球經(jīng)濟(jì)價(jià)值，占全球GDP的3.5%。

想要賺到AI這份錢(qián)，就要做好基礎(chǔ)設(shè)施，就要讓每一張GPU發(fā)揮出最大的功效。隨著AI模型參數(shù)量越來(lái)越大，數(shù)據(jù)中心基礎(chǔ)設(shè)施部署的挑戰(zhàn)就愈發(fā)劇烈。為了幫助客戶(hù)順利在數(shù)據(jù)中心部署AI算力，是德科技日前推出Keysight AI（KAI）系列解決方案，同時(shí)推出針對(duì)AI數(shù)據(jù)中心領(lǐng)域的三款新產(chǎn)品——KAI數(shù)據(jù)中心構(gòu)建器、互連與網(wǎng)絡(luò)性能測(cè)試儀、DCA-M采樣示波器。

算力狂飆下的測(cè)試?yán)Ь?/strong>

“是德科技預(yù)測(cè)，未來(lái)5~10年，算力基礎(chǔ)設(shè)施與應(yīng)用服務(wù)均將迎來(lái)爆發(fā)式增長(zhǎng)。”是德科技大中華區(qū)高速數(shù)字市場(chǎng)部經(jīng)理李堅(jiān)指出，隨著大模型的快速發(fā)展，AI已從早期的“小算力、小模型”演進(jìn)至如今的“大算力、大模型”階段，這對(duì)硬件穩(wěn)定性、功耗控制及散熱能力都提出了更高挑戰(zhàn)。

是德科技大中華區(qū)高速數(shù)字市場(chǎng)部經(jīng)理李堅(jiān)

首先，是大帶寬帶來(lái)的挑戰(zhàn)。從未來(lái)3~5年的趨勢(shì)來(lái)看，以太網(wǎng)的量級(jí)標(biāo)準(zhǔn)將從400/800G上升到1.6/3.2T，有4~8倍的增長(zhǎng)；存儲(chǔ)將會(huì)從8.4GT/s的DDR5上升至12.8GT/s的DDR6或HBM3；從PCIe 5迭代到PCIe 7將會(huì)有4倍的速度提升；無(wú)線速度也將擁有近十倍的提升。

當(dāng)帶寬變大就會(huì)帶來(lái)兩個(gè)問(wèn)題：第一，器件帶寬增大其功耗、溫度一定會(huì)變大，器件可能在接近物理極限的性能下運(yùn)行，器件是否能夠穩(wěn)定地工作成為問(wèn)題；第二，傳統(tǒng)電信號(hào)通過(guò)PCB板傳遞，但帶寬變大，損耗和干擾就會(huì)變大，此時(shí)就要改用線纜傳輸，雖然目前主要使用無(wú)源銅纜，但出于速率考慮未來(lái)有可能使用有源銅纜。

其次，是網(wǎng)絡(luò)架構(gòu)的挑戰(zhàn)。目前，大模型訓(xùn)練需要大規(guī)模集群，逐漸達(dá)到了萬(wàn)卡甚至十萬(wàn)卡級(jí)別。這些GPU卡很貴，所以只有徹底“榨干”它們的性能才能節(jié)省成本。但實(shí)際上，有數(shù)據(jù)顯示，GPU真正在做計(jì)算的時(shí)間是20%，Overlap的時(shí)間是16%。換句話說(shuō)，有大量的時(shí)間GPU沒(méi)有在干活，而是在等別人把數(shù)據(jù)傳遞給它。因此，如果做不好數(shù)據(jù)中心的網(wǎng)絡(luò)架構(gòu)，GPU這個(gè)真正核心的資產(chǎn)的使用效率會(huì)很低。

最后，是互連帶來(lái)的挑戰(zhàn)。大模型訓(xùn)練通常耗時(shí)3~4月甚至更長(zhǎng)時(shí)間，但數(shù)據(jù)中心其實(shí)和我們平時(shí)辦公一樣，它也會(huì)間歇性發(fā)生故障。這是因?yàn)榇笠?guī)模集群的復(fù)雜度極高，比如NVIDIA的72-GPU機(jī)柜就有5000多根線纜，使得系統(tǒng)極其脆弱。所以每幾小時(shí)就要保存進(jìn)度，否則可能前功盡棄。數(shù)據(jù)顯示大型語(yǔ)言模型的訓(xùn)練任務(wù)失敗率達(dá)43%，主要受到網(wǎng)絡(luò)阻塞、硬件故障或系統(tǒng)崩潰的影響。

人工智能算力中心的底層由GPU、CPU和存儲(chǔ)板卡組成，例如可以用NVIDIA的72-GPU組成超級(jí)節(jié)點(diǎn)，實(shí)現(xiàn)無(wú)阻塞的高速交換。這些超級(jí)節(jié)點(diǎn)通過(guò)南北和東西向交換機(jī)互連，最終構(gòu)成萬(wàn)卡級(jí)集群，但復(fù)雜的網(wǎng)絡(luò)設(shè)計(jì)也帶來(lái)了硬件故障和互連可靠性等挑戰(zhàn)。

“坦白說(shuō)，現(xiàn)在的算力中心、數(shù)據(jù)中心里，許多設(shè)備和系統(tǒng)處于‘帶病上崗’的狀態(tài)，它們的穩(wěn)定性并不理想。如果仔細(xì)去觀察和深入數(shù)據(jù)中心，我們會(huì)發(fā)現(xiàn)數(shù)據(jù)中心里存在各種各樣的問(wèn)題。”李堅(jiān)表示，在測(cè)試測(cè)量領(lǐng)域深耕80多年，是德科技與NVIDIA、思科、微軟等合作伙伴長(zhǎng)期合作，從電路設(shè)計(jì)到光模塊測(cè)試積累了完整的產(chǎn)品矩陣，為AI數(shù)據(jù)中心提供全方位支持。

四位一體的AI測(cè)試矩陣KAI

“AI是方興未艾的，可能將來(lái)萬(wàn)物都可以稱(chēng)為AI?！笔堑驴萍即笾腥A區(qū)市場(chǎng)總經(jīng)理鄭紀(jì)峰表示，是德科技在過(guò)往對(duì)骨干網(wǎng)、光網(wǎng)絡(luò)、光器件、高速計(jì)算、高速接口以及高速互連等都有相應(yīng)解決方案，在AI愈發(fā)火熱的如今，是德科技決定將這些產(chǎn)品放在一個(gè)“盒子”里，成為一個(gè)完整的解決方案，KAI（Keysight AI）便應(yīng)運(yùn)而生。

是德科技大中華區(qū)市場(chǎng)總經(jīng)理鄭紀(jì)峰

KAI是一整套的方案，包括四個(gè)板塊，覆蓋芯片硅前、封裝、硅后的驗(yàn)證檢測(cè)。

第一，Compute（高速計(jì)算）：負(fù)責(zé)設(shè)計(jì)和驗(yàn)證高速數(shù)字計(jì)算產(chǎn)品，確保性能和可靠性，加速下一代AI芯片開(kāi)發(fā)進(jìn)程。面向目標(biāo)主要集中在GPU板卡之上，包括PCIe/CXL、DDR/HBM、設(shè)計(jì)軟件，工具主要包括電子設(shè)計(jì)自動(dòng)化套件、誤碼儀、示波器和任意波形發(fā)生器。

第二，Interconnect（互連）：負(fù)責(zé)優(yōu)化高速互連，驗(yàn)證光學(xué)和電氣通道，提高數(shù)據(jù)傳輸效率和可靠性。通過(guò)該方案，能夠確保高達(dá)1.6T的可擴(kuò)展高速連接，工具主要包括采樣示波器、光子功率計(jì)和網(wǎng)絡(luò)測(cè)試儀。

第三，Network（網(wǎng)絡(luò)）：負(fù)責(zé)測(cè)試和驗(yàn)證網(wǎng)絡(luò)性能，對(duì)AI網(wǎng)絡(luò)性能進(jìn)行基準(zhǔn)測(cè)試，確保工作負(fù)載的流暢運(yùn)行。近幾年，通過(guò)收購(gòu)Ixia，是德科技開(kāi)始從物理層向傳輸層、網(wǎng)絡(luò)層乃至應(yīng)用層擴(kuò)張。利用該方案能夠檢測(cè)瓶頸，優(yōu)化AI工作負(fù)載分配，工具主要包括AI工作負(fù)載仿真器、分布式網(wǎng)絡(luò)流量生成器和網(wǎng)絡(luò)流量仿真器。

第四，Power（能效）：負(fù)責(zé)優(yōu)化電源效率和管理工作，降低數(shù)據(jù)中心能耗。據(jù)估算，一個(gè)10萬(wàn)卡集群每年耗電量約為1.59太瓦時(shí)，按照美國(guó)電力的標(biāo)準(zhǔn)費(fèi)率0.78美元/千瓦時(shí)，每年的用電成本就達(dá)到了1.24億美元。通過(guò)該方案優(yōu)化數(shù)據(jù)中心組件的電源效率和能源管理，工具主要包括示波器、電源軌探頭和電子設(shè)計(jì)自動(dòng)化套件。

專(zhuān)為AI數(shù)據(jù)中心打造的三款利器

整體解決方案有了，那其中必然要有產(chǎn)品進(jìn)行支持。今年三、四月，是德科技就陸續(xù)推出了三款新產(chǎn)品：KAI數(shù)據(jù)中心構(gòu)建器、互連與網(wǎng)絡(luò)性能測(cè)試儀、DCA-M采樣示波器。

DCA-M采樣示波器

該產(chǎn)品為光采樣示波器，特點(diǎn)是大帶寬、低噪聲、全集成，面向光芯片和光模塊廠商。具體型號(hào)為N1093A和N1093B，分為單通道、雙通道，最大特征是224G/通道，相比前一代112G產(chǎn)品帶寬翻倍。之所以推出這款產(chǎn)品是因?yàn)榫W(wǎng)絡(luò)正在迅速向1.6T甚至3.2T發(fā)展，所以此時(shí)每個(gè)通道的速率都要提高。

“是德科技的產(chǎn)品在行業(yè)里較為領(lǐng)先，通常需要提前一至兩代進(jìn)行預(yù)研，因此許多核心技術(shù)需自主研發(fā)。我們擁有完整的模擬、數(shù)字電路及封裝技術(shù)，以確保高速信號(hào)的高效耦合與低損耗檢測(cè)。此外，Keysight Lab為產(chǎn)品研發(fā)提供了全面支持，涵蓋芯片設(shè)計(jì)、封裝及系統(tǒng)集成?！崩顖?jiān)如是說(shuō)。

互連與網(wǎng)絡(luò)性能測(cè)試儀

該產(chǎn)品面向電模塊、光模塊、網(wǎng)卡、交換機(jī)、芯片廠商，支持1.6T測(cè)試。這款產(chǎn)品的不同之處在于目前市面大部分1.6T都是做層1（物理層的誤碼率的測(cè)試），而它可以做層2測(cè)試（前向誤碼測(cè)試）和層3測(cè)試（諸如流量控制、流量調(diào)節(jié)）。此外，它整體非常小巧，在高性能和集成度之間進(jìn)行了平衡。

KAI數(shù)據(jù)中心構(gòu)建器（Data Center Builder，DCB）

該產(chǎn)品是一系列端到端解決方案，通過(guò)仿真數(shù)據(jù)中心真實(shí)通訊工作環(huán)境、流量環(huán)境測(cè)試網(wǎng)絡(luò)，主要面向交換機(jī)廠商、云廠商，比如全球的思科、博通、Arista，以及國(guó)內(nèi)的新華三、銳捷。其包含一系列的組件，如集合通訊組件、壓力測(cè)試組件等。軟件方面采用是德科技收購(gòu)的Ixia產(chǎn)品，主要運(yùn)行在已有平臺(tái)AresONE上，硬件方面采用模塊化架構(gòu)，支持2/4/8/16端口，同時(shí)可級(jí)聯(lián)提供數(shù)百個(gè)測(cè)試端口，仿真實(shí)際網(wǎng)絡(luò)。

十年再出發(fā)：測(cè)試技術(shù)的AI革命

AI標(biāo)準(zhǔn)持續(xù)演進(jìn)，與產(chǎn)業(yè)伙伴攜手共進(jìn)一定能推動(dòng)更大發(fā)展。目前，是德科技已與全球數(shù)十個(gè)行業(yè)組織合作，包括AI-RAN聯(lián)盟、以太網(wǎng)聯(lián)盟和PCI-SIG等，通過(guò)開(kāi)放合作共同推進(jìn)產(chǎn)業(yè)進(jìn)步。

此外，針對(duì)目前行業(yè)非?；馃岬墓韫?，是德科技也有所布局。鄭紀(jì)峰表示，關(guān)于CPU和LPO技術(shù)是否會(huì)影響企業(yè)前景，目前這些技術(shù)尚處于發(fā)展階段，真正成熟還需數(shù)年時(shí)間。是德科技正與多家領(lǐng)先公司共同跟進(jìn)這些技術(shù)進(jìn)展，但目前仍處于觀察階段，需等待進(jìn)一步演進(jìn)才能明確未來(lái)方向。

在會(huì)議上，鄭紀(jì)峰還強(qiáng)調(diào)，是德科技從安捷倫獨(dú)立分拆十周年，公司已經(jīng)從傳統(tǒng)硬件廠商，變成了一家軟件驅(qū)動(dòng)的公司。通過(guò)超過(guò)20宗的并購(gòu)重組，讓是德科技從物理層逐漸擴(kuò)展到應(yīng)用層，希望未來(lái)能夠提供一站式的解決方案。他表示，希望在未來(lái)十年繼續(xù)為市場(chǎng)提供最優(yōu)解決方案。