自從AI大模型爆火，讓AI無處不在，用AI徹底改變我們的生活已經(jīng)成為共識(shí)。

7月24日，英特爾便在“2024英特爾網(wǎng)絡(luò)與邊緣計(jì)算行業(yè)大會(huì)”上分享了其NEX（網(wǎng)絡(luò)與邊緣）事業(yè)部對(duì)于邊緣AI的理解。

AI前景廣闊，行業(yè)穩(wěn)步恢復(fù)

“現(xiàn)在有一個(gè)熱議的新詞——新質(zhì)生產(chǎn)力，它不僅非常契合英特爾，與各位的技術(shù)、創(chuàng)新、突破業(yè)務(wù)模式實(shí)踐也緊密相關(guān)。”會(huì)議上，英特爾市場(chǎng)營銷集團(tuán)副總裁兼中國區(qū)總經(jīng)理王稚聰表示，深層次人工智能這兩年在中國是熱議話題，從去年到今年，英特爾也和國內(nèi)領(lǐng)先的大模型廠商展開了非常深入的合作，在AIPC領(lǐng)域進(jìn)行大量合作與推廣。

根據(jù)王稚聰?shù)姆窒恚⑻貭柨吹浇衲晟习肽杲?jīng)濟(jì)總體穩(wěn)定，且在發(fā)展中有諸多亮點(diǎn)，總體GDP非常穩(wěn)定，高質(zhì)量出口占比迅速拉大，如新能源車、光伏、高技術(shù)含量機(jī)械設(shè)備等，同時(shí)，上半年中國制造業(yè)投資也在穩(wěn)定恢復(fù)。英特爾也對(duì)全球半導(dǎo)體業(yè)務(wù)持樂觀態(tài)度。

Gartner數(shù)據(jù)顯示，半導(dǎo)體市場(chǎng)規(guī)模在2021年首次突破5000億美元，當(dāng)下半導(dǎo)體技術(shù)正在推動(dòng)幾乎所有行業(yè)的轉(zhuǎn)型。隨著對(duì)算力需求永無止境的增長(zhǎng)，預(yù)計(jì)到2030年，半導(dǎo)體市場(chǎng)規(guī)模將翻一番，達(dá)到1萬億美元。其背后主要驅(qū)動(dòng)力來自于全球各行業(yè)的數(shù)字化轉(zhuǎn)型以及人工智能結(jié)合的新機(jī)會(huì)。

而中國生成式人工智能市場(chǎng)的規(guī)模在今年會(huì)達(dá)到33億美金，未來幾年會(huì)迅速翻倍發(fā)展，市場(chǎng)發(fā)展前景廣闊。尤其是，邊緣計(jì)算將在各個(gè)行業(yè)不斷深入，包括零售業(yè)、制造業(yè)、金融業(yè)、醫(yī)療健康及基礎(chǔ)設(shè)施行業(yè)等。

“科技向善也非常重要，我們希望把人工智能更用于提升生產(chǎn)力，提高生產(chǎn)質(zhì)量，提高產(chǎn)品的創(chuàng)新，服務(wù)于人，希望英特爾能夠跟大家一起走的更穩(wěn)、走的更好。”王稚聰如是說。

讓AI變革發(fā)生，需要什么技術(shù)

那么，AI如何深遠(yuǎn)改變邊緣？英特爾公司高級(jí)副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti，人工智能將以深遠(yuǎn)的方式改變?nèi)虻臉I(yè)務(wù)模式，我們正處在AI協(xié)同時(shí)代，再進(jìn)一步我們可能會(huì)發(fā)現(xiàn)，智能體之間能夠相互交互，就像人類和人類在一起合作一樣，未來可能會(huì)有智能體之間相互之間協(xié)作，提供部門級(jí)的解決方案。

接下來三年會(huì)有什么變化？據(jù)IDC數(shù)據(jù)顯示，中國生成式AI投資的復(fù)合年增長(zhǎng)率預(yù)計(jì)將達(dá)到86.2%。根據(jù)Gartner的預(yù)測(cè)，到2026年，80%的全球企業(yè)將使用生成式AI，50%的全球邊緣部署將涵蓋AI。我們正逐步采用更優(yōu)化的大語言模型來增強(qiáng)AI，以使所有運(yùn)維和開發(fā)工作更加順暢。

如何使這一切發(fā)生？現(xiàn)在的企業(yè)其實(shí)有很多復(fù)雜問題，英特爾認(rèn)為，需要的技術(shù)應(yīng)該是靈活、簡(jiǎn)便以及企業(yè)就緒的，即在每個(gè)系統(tǒng)層面為用戶提供充分的選擇，讓他們可以靈活地組合CPU、GPU、軟件和網(wǎng)絡(luò)設(shè)備，以解決企業(yè)的各種問題。

因此，英特爾致力于開放的標(biāo)準(zhǔn)和廣泛的生態(tài)系統(tǒng)，幫助用戶構(gòu)建和部署他們的AI，以便更好地應(yīng)對(duì)新技術(shù)。英特爾一直專注于幫助企業(yè)最大化數(shù)據(jù)價(jià)值，并安全地引入AI技術(shù)，通過簡(jiǎn)化和過濾復(fù)雜度來確保硬件能夠支持靈活、簡(jiǎn)便和企業(yè)就緒的需求。

歸根結(jié)底，依靠的主要是英特爾全面廣泛的芯片基礎(chǔ)。從凌動(dòng)到至強(qiáng)，英特爾推出了Atom x7000RE/x7000C系列、Core和Core Ultra系列、Xeon 6700E系列、面向邊緣的Arc GPU以及IPU E2100網(wǎng)絡(luò)適配器。

除了芯片，更為重要的是平臺(tái)。英特爾的Tiber邊緣平臺(tái)，把邊緣和平臺(tái)更好地結(jié)合在一起，使大家能夠更快地部署應(yīng)用，使得網(wǎng)絡(luò)更加安全，更加優(yōu)化。此外，英特爾還有AI套件，可以幫助在邊緣端部署更好的應(yīng)用，而且都是在本地部署的。AI套件涉及到工業(yè)、醫(yī)學(xué)、零售等不同領(lǐng)域，適用于很多行業(yè)或者垂直領(lǐng)域。這些AI套件既可以進(jìn)行個(gè)性化、定制化的應(yīng)用及開發(fā)，集成到系統(tǒng)中，也可以幫助企業(yè)降低上市時(shí)間。

讓邊緣與云相融合

會(huì)后，英特爾公司副總裁兼網(wǎng)絡(luò)與邊緣解決方案事業(yè)部總經(jīng)理Dan Rodriguez和英特爾公司市場(chǎng)營銷集團(tuán)副總裁、英特爾中國網(wǎng)絡(luò)與邊緣及渠道數(shù)據(jù)中心事業(yè)部總經(jīng)理郭威和EEWorld就NEX部門面對(duì)邊緣AI的話題進(jìn)行了一次分享。

根據(jù)英特爾公司副總裁兼網(wǎng)絡(luò)與邊緣解決方案事業(yè)部總經(jīng)理Dan Rodriguez的介紹，在邊緣計(jì)算環(huán)境中，生成式AI的融合部署，可以用在自助結(jié)帳、醫(yī)療領(lǐng)域、員工培訓(xùn)等場(chǎng)景中。對(duì)客戶來說， 解決AI部署上的計(jì)算和本地部署難題，才能真正更好地創(chuàng)造價(jià)值。

為此，英特爾構(gòu)建了各種AI套件，包括視覺分析AI套件、生命科學(xué)AI套件、媒體和娛樂AI套件、制造業(yè)AI套件，創(chuàng)新是將AI和邊緣相結(jié)合的關(guān)鍵一環(huán)。

英特爾NEX部門是基于標(biāo)準(zhǔn)化技術(shù)的服務(wù)器風(fēng)格解決方案和平臺(tái)。作為供應(yīng)商，英特爾致力于創(chuàng)造更廣泛、開放的生態(tài)系統(tǒng)，使得在硬件系統(tǒng)中有效地使用軟件成為可能。這個(gè)生態(tài)系統(tǒng)建立在邊緣系統(tǒng)基礎(chǔ)上，支持從單一到多模態(tài)的工作方式，能夠更好地整合所有資源，例如工業(yè)計(jì)算機(jī)在工廠車間的應(yīng)用就是一個(gè)案例。

Dan強(qiáng)調(diào)，“我們的核心價(jià)值觀是邊緣和云的結(jié)合，尤其是在媒體和圖形應(yīng)用方面，不僅僅是讓AI系統(tǒng)獨(dú)自運(yùn)作，而是更深入地與邊緣結(jié)合，核心目標(biāo)是提升人們對(duì)設(shè)施的使用體驗(yàn)。AI使得英特爾信息平臺(tái)易于使用和高度靈活。”

英特爾公司市場(chǎng)營銷集團(tuán)副總裁、英特爾中國網(wǎng)絡(luò)與邊緣及渠道數(shù)據(jù)中心事業(yè)部總經(jīng)理郭威表示，在英特爾和內(nèi)部討論中，經(jīng)常爭(zhēng)論邊緣的定義。邊緣可以被理解為介于端側(cè)和數(shù)據(jù)中心之間的節(jié)點(diǎn)，有時(shí)邊緣與端側(cè)合并，有時(shí)被視為數(shù)據(jù)中心一部分，例如SmartNIC位于數(shù)據(jù)中心的邊緣側(cè)。因此，邊緣實(shí)際上是兩者兼具的概念。

這意味著整個(gè)行業(yè)對(duì)算力的需求更為廣泛，英特爾認(rèn)為算力不局限于邊緣，而是在每個(gè)節(jié)點(diǎn)上存在。對(duì)英特爾而言，這體現(xiàn)在兩個(gè)方面：首先，就產(chǎn)品而言，英特爾推出了多款A(yù)I產(chǎn)品，如獨(dú)立顯卡和Gaudi AI加速芯片，同時(shí)也在追求CPU、GPU和NPU之間的平衡，優(yōu)化底層軟件，幫助用戶更有效地利用產(chǎn)品。其次，團(tuán)隊(duì)的配合至關(guān)重要，這不僅要求英特爾了解行業(yè)需求和痛點(diǎn)，還需將其轉(zhuǎn)化為產(chǎn)品的具體要求，確保的硬件和軟件能夠有效解決問題。

大模型來了，邊緣也變了

目前大模型的應(yīng)用快速發(fā)展，給邊緣計(jì)算的算力提出了很高的要求和一定挑戰(zhàn)。英特爾針則針對(duì)市場(chǎng)需求，創(chuàng)造廣泛的產(chǎn)業(yè)應(yīng)用。舉例來說，通過利用CPU增強(qiáng)客戶的能力，并整合GPU、NPU等集成式技術(shù)。在GPU應(yīng)用方面，涵蓋從數(shù)據(jù)中心到加速器等多個(gè)領(lǐng)域。通過AI和邊緣計(jì)算等技術(shù)，英特爾開發(fā)相應(yīng)的軟件包，以此更早介入市場(chǎng)，創(chuàng)建更靈活的平臺(tái)，從而提升客戶使用體驗(yàn)。

在網(wǎng)絡(luò)互連方面，在AI出現(xiàn)前，SmartNIC前景非常廣闊。

郭威表示，過去幾年中，英特爾的方案主要是在國內(nèi)采用FPGA與英特爾至強(qiáng)處理器結(jié)合，客戶自行進(jìn)行編程、設(shè)計(jì)和部署SmartNIC。

而現(xiàn)在則發(fā)生了變化，SmartNIC在CSP（云服務(wù)提供商）上的實(shí)際應(yīng)用從去年下半年開始快速增長(zhǎng)，今年的部署速度也在迅速加快，其中AI技術(shù)的推動(dòng)也起到了加速作用。雖然自行開發(fā)SmartNIC可能會(huì)帶來更高的靈活性，但從400G到800G的需求升級(jí)，自主研發(fā)可能并不總是最理想的選擇。一個(gè)完整的SmartNIC解決方案可能更為合適，這也是行業(yè)普遍采用的技術(shù)路徑。

至于硅光技術(shù)方面，英特爾過去主要專注于硅光模塊。然而，去年英特爾進(jìn)行了一些產(chǎn)品策略調(diào)整，認(rèn)為像自行制造服務(wù)器一樣，自主開發(fā)光模塊并非最佳選擇。因此，英特爾更傾向于銷售光源、收發(fā)器等組件產(chǎn)品。

目前看來，英特爾在中國市場(chǎng)與國內(nèi)外客戶的合作進(jìn)展順利，特別是中國市場(chǎng)對(duì)光模塊的需求最大。在未來，英特爾認(rèn)為硅光技術(shù)在數(shù)據(jù)中心互聯(lián)中的重要性將持續(xù)增加，公司將繼續(xù)在這一領(lǐng)域保持領(lǐng)先地位，并致力于在性能和性價(jià)比上保持優(yōu)勢(shì)。

在軟件方面，隨著大模型的出現(xiàn)，我們?cè)贠penVINO中不斷增加對(duì)大模型的支持。

根據(jù)郭威的介紹，當(dāng)前的挑戰(zhàn)在于，無論是在國內(nèi)的百模型戰(zhàn)還是千模型戰(zhàn)中，特別是行業(yè)模型變化迅速，我們必須持續(xù)升級(jí)和支持OpenVINO，以應(yīng)對(duì)這些挑戰(zhàn)。

過去針對(duì)傳統(tǒng)計(jì)算機(jī)視覺應(yīng)用時(shí)，OpenVINO就能完成其使命，不會(huì)過多介入客戶上層應(yīng)用。然而，在大模型時(shí)代，了解行業(yè)應(yīng)用至關(guān)重要。通過OpenVINO，客戶可以更好地基于這些模型開發(fā)軟件，最終在英特爾平臺(tái)上運(yùn)行。因此，英特爾整個(gè)NEX產(chǎn)品線為不同行業(yè)如醫(yī)療、工業(yè)等推出AI套件實(shí)現(xiàn)這一功能。

在國內(nèi)，英特爾密切關(guān)注大模型的變化，并持續(xù)優(yōu)化OpenVINO，以提升其支持大模型的效率和速度。這是一個(gè)具有挑戰(zhàn)性的任務(wù)，與傳統(tǒng)的計(jì)算機(jī)視覺應(yīng)用有所不同。隨著變化的速度加快，英特爾不斷增加在軟件方面的投入，以滿足市場(chǎng)需求。這是對(duì)該問題的理解和處理方式。

NEX部門，怎么助力中國市場(chǎng)

今年上半年，AI開始大規(guī)模在行業(yè)中落地，大模型很難落地的觀點(diǎn)也因此不攻自破。但問題是，中國市場(chǎng)不僅紛繁復(fù)雜，同時(shí)存在許多特殊需求和挑戰(zhàn)。所以，英特爾NEX部門如何立足中國市場(chǎng)？

根據(jù)郭威的解析，共有三個(gè)關(guān)鍵點(diǎn)。第一，在產(chǎn)品層面，英特爾在提出“英特爾中國2.0”戰(zhàn)略后，通過一些工程資源的整合，更好地支持好、服務(wù)好中國客戶。英特爾針對(duì)國內(nèi)客戶在軟件上提供更多的支持和幫助，甚至在國內(nèi)會(huì)有更多的軟件工具，從硬件、軟件、產(chǎn)品層面全方位支持中國市場(chǎng)。

第二，在生態(tài)鏈扶持層面，英特爾正在和國內(nèi)更多的大模型廠商做更深入的合作，比如百川、文心一言。怎么樣讓大模型更好地在硬件上運(yùn)行，特別是當(dāng)這種模型在行業(yè)落地的時(shí)候，怎么去做更多優(yōu)化，都是英特爾考慮的東西。

第三，在AI落地層面，英特爾和的客戶更有針對(duì)性的進(jìn)行合作，針對(duì)行業(yè)來做一些AI解決方案，能夠滿足行業(yè)需求，包括希沃、科東，這種概念都是在去年下半年才提出來的，但是客戶現(xiàn)在一步步摸索，理解需求，然后實(shí)現(xiàn)解決方案的落地。

生態(tài)系統(tǒng)的建設(shè)，不是英特爾一個(gè)公司能夠完全解決的，而是需要ODM、OEM、ISV軟件供應(yīng)商、最終用戶的覆蓋、支持和幫助。

“希望大家構(gòu)成一個(gè)比較好的生態(tài)圈或者是朋友圈，把這個(gè)市場(chǎng)做大，這是英特爾這么多年來，在生態(tài)鏈上的一個(gè)標(biāo)準(zhǔn)做法，在后面的AI或者是AI+的時(shí)代，我們都會(huì)這樣做下去。”郭威如是說。