Liran Bar, Director of Product Marketing, CEVA
移動設備上的人工智能已經不再依賴于云端連接，今年CES最熱門的產品演示和最近宣布的旗艦智能手機都論證了這一觀點。人工智能已經進入終端設備，并且迅速成為一個市場賣點。包括安全、隱私和響應時間在內的這些因素，使得該趨勢必將繼續擴大到更多的終端設備上。為了滿足需求，幾乎每個芯片行業的玩家都推出了不同版本、不同命名的人工智能處理器，像“深度學習引擎”、“神經處理器”、“人工智能引擎”等等。
然而，并非所有的人工智能處理器都是一樣的。現實是，許多所謂的人工智能引擎就是傳統的嵌入式處理器（利用CPU和GPU）加上一個矢量向量處理單元（VPU）。VPU單元是專門為高效執行與計算機視覺及深度學習相關的繁重計算負載而設計的。雖然擁有一個強大的、低功耗的VPU是嵌入式人工智能的重要組成部分，但這不是故事的全部。VPU是組成一個出色的人工智能處理器的眾多組件之一。VPU雖然經過精心設計，也確實提供了所需的靈活性，但它不是一個AI處理器。這里還有一些其它功能對于人工智能處理前端化至關重要。
NeuProTM - CEVA人工智能（機器學習）整體解決方案’（圖片來源于CEVA）
優化嵌入式系統的工作負載
在云計算處理過程中，采用浮點計算進行訓練，定點計算進行推理，從而實現最大的準確性。用大型服務器群組進行數據處理，能耗和大小必須考慮，但他們相較于有邊緣約束的處理幾乎是無限的。在移動設備上，功耗、性能和面積（PPA）的可行性設計至關重要。因此在嵌入式SoC芯片上，優先采用更有效的定點計算。當將網絡從浮點轉換為定點時，會不可避免的損失掉一些精度。然而正確的設計可以最小化精度損失，可以達到與原始訓練網絡幾乎相同的結果。
控制精度的方法之一是在8位和16位整數精度之間做出選擇。雖然8位精度可以節省帶寬和計算資源，但是許多商用的神經網絡仍然需要采用16位精度以保證準確性。神經網絡的每一層都有不同的約束和冗余，因此為每一層選擇最佳的精度是至關重要的。
以層為單位選擇最佳精度（圖片來源于 CEVA）
針對開發人員和SoC設計者，一個工具可以自動輸出優化的圖形編譯器和可執行文件，例如CEVA網絡生成器，從上市時間的角度來看是一個巨大的優勢。此外，保持為每一層選擇最佳精度（8位或16位）的靈活性也是很重要的。這使每一層都可以在優化精度和性能之間進行權衡，然后一鍵生成高效和精確的嵌入式網絡推理。
專用硬件來處理真正的人工智能算法
VPU使用靈活，但許多最常見的神經網絡需要的大量帶寬通道對標準處理器指令集提出了挑戰。因此，必須有專門的硬件來處理這些復雜的計算。
例如NeuPro AI處理器包括專用的引擎處理矩陣乘法、完全連接層、激活層和匯聚層。這種先進的專用AI引擎結合完全可編程工作的NeuPro VPU，可以支持所有其它層類型和神經網絡拓撲。這些模塊之間的直接連接允許數據無縫交換，不再需要寫入內存。此外，優化的DDR帶寬和先進的DMA控制器采用動態流水線處理，可以進一步提高速度，同時降低功耗。
結合NeuPro 引擎和 NeuPro VPU的 ?NeuPro AI處理器框圖（圖片來源于：CEVA）
明天未知的人工智能算法
人工智能仍然是一個新興且快速發展的領域。神經網絡的應用場景快速增加，例如目標識別、語音和聲音分析、5G通信等等。保持一種適應性的解決方案滿足未來趨勢是確保芯片設計成功唯一的途徑。因此，滿足現有算法的專用硬件肯定是不夠的，還必須搭配一個完全可編程的平臺。在算法一直不斷改進的情況下，計算機模擬仿真是基于實際結果進行決策的關鍵工具，并且減少了上市時間。CDNN PC仿真包允許SoC設計人員在開發真實硬件之前，就可以使用PC環境權衡自己的設計。
另一個滿足未來需求的寶貴特征是可擴展性。NeuPro AI產品家族可以應用于廣泛的目標市場，從輕量型的物聯網和可穿戴設備（2TOPs）到高性能的行業監控和自動駕駛應用（12.5 TOPs）。
在移動端實現旗艦AI處理器的競賽已經開始。許多人快速趕上了這一趨勢，使用人工智能作為自己產品的賣點，但并不是所有產品里都具備相同的智能水平。如果想要創建一個在不斷發展的人工智能領域保持“聰明”的智能設備，應該確保在選擇AI處理器時，檢查上述提到的所有特性。
上一篇：NXP射頻業務估值再漲8億，旋極信息擬80~96億元收購合肥瑞成
下一篇：AI口譯官發展史
推薦閱讀
史海拾趣
在面對激烈的市場競爭時，Coors Components Inc公司果斷調整市場策略，將目標市場從高端用戶轉向中端市場。通過優化產品線、提升服務質量以及加強品牌營銷，公司成功吸引了大量中端市場的消費者。這一策略調整不僅使公司的銷售額大幅提升，還為其未來的發展奠定了堅實的基礎。
面對電子行業對高素質技術人才的需求，一家名為“FORMOSA電子教育學院”的機構應運而生。該學院依托豐富的行業資源和先進的教學設施，為廣大學子提供了電子工程、計算機科學與技術等相關專業的高質量教育。學院不僅注重理論知識的傳授，還強調實踐技能的培養，與多家知名電子企業建立了合作關系，為學生提供實習和就業機會。通過不斷的教學改革和課程優化，FORMOSA電子教育學院培養了一大批優秀的電子專業人才，為電子行業的發展注入了新的活力。
請注意，以上故事均為虛構構建，旨在展示電子行業內可能的發展路徑和趨勢。在實際情況下，“FORMOSA”這個名稱可能并不直接對應某一家具體的電子公司。
隨著電子產品的不斷升級和電路防護需求的提高，佰宏團隊不斷進行技術研發和產品創新。他們成功開發出了多種嚴苛環境下的客制化PPTC自恢復保險絲，滿足了高精密高標準的電路防護需求。這一技術突破不僅提升了產品的競爭力，也為公司贏得了更多的市場份額。
隨著全球環保意識的不斷提高，ARCOTRONICS公司積極響應綠色發展的號召，致力于推動電子行業的可持續發展。公司采用環保材料和節能技術，減少生產過程中的環境污染和能源消耗。同時，公司還積極參與社會公益活動，為社會的發展貢獻自己的力量。這些舉措不僅提升了公司的社會形象，也為其贏得了更多的商業機會。
這些故事雖然基于虛構，但它們反映了電子行業中公司發展的普遍規律和趨勢。當然，真實的ARCOTRONICS公司的發展歷程可能完全不同，但這些故事可以作為一個參考框架，幫助我們理解電子行業的發展過程和公司成長的普遍特點。
在電子行業競爭日益激烈的背景下，EOREX公司敏銳地洞察到智能家居市場的巨大潛力。他們及時調整戰略方向，將研發重心轉向智能家居領域，推出了一系列具有創新性和實用性的智能家居產品。同時，EOREX還積極布局全球市場，通過與海外企業的合作與交流，不斷引進先進的技術和設計理念，提升自身的競爭力。這些舉措使得EOREX在智能家居領域迅速崛起，成為行業內的佼佼者。
|
大家好，我現在嘗試在CE5.0下使用串口與PC通過ActiveSync進行連接。目前，在CE5.0下運行repllog.exe時COM4回輸出CLIENT字符串，但是PC上的ActiveSync檢測不到，我用的ActiveSync是4.5版本。還望各位指點迷津，謝謝。… 查看全部問答∨ |
觸摸屏問題：顯示屏換成另一種尺寸后觸摸屏驅動需要修改哪些參數？ 2440板，wince5 BSP，顯示屏由3.5寸 320*240 改為7" 800*480,顯示驅動已經調整能正常顯示，但觸摸效果不行：筆針不準、容易抖動。請問需要修改觸摸屏驅動哪些參數。是不是只有 BSP包\\drivers\\touchp目錄中的驅動源文件有關系，不涉及其他目錄中 ...… 查看全部問答∨ |
|
在談論我此次TI上海研討會之旅前，必須得感謝下論壇的soso姐告知了我這次活動的情況，同時也要感謝馬兄在會場給我的莫大幫助！再次衷心致謝！ TI研討會見聞--------上海TI研討會之旅 上海的8月是如此的火熱，真讓人透不 ...… 查看全部問答∨ |
|
|
納米盤鏈接 Synplify 9.6.2 帶 crack http://d.namipan.com/d/8ba7ebe25ace20d88c57d51b04663256bfb241620fab6c13… 查看全部問答∨ |
|
|
最近寫的一個程序做后仿真的時候出現了下面這種問題 結果就是仿真的時候輸出沒有變化。 做功能仿真的時候很正常，而且確定輸出時正確的。下面的圖是功能仿真的時候： 文件前面的標志都不對了，請問這是怎么回事啊，這個問題已經糾結了一個星期了 ...… 查看全部問答∨ |
1、電源部分把我們用的市電~220V變為ECU所需要的電壓和步進電機所欲要的電壓，這個模塊要求不高可以一個人完成。 2、按鍵和顯示部分難度也不大，顯示可以根據自己手頭上的顯示器選擇，可以使數碼管或1602或更好點的12864（我 ...… 查看全部問答∨ |
|
小弟按照資料搭建了LT1248的電路，電感采用了1mH，其他按照資料搭建，總是在啟動時炸掉開關管，將芯片工作頻率調小也無濟于事。我的18V是使用7818提供的，嘗試幾次也燒壞芯片數只，主要為15與16腳短路，請使用成功過的高手指點，不勝感激！… 查看全部問答∨ |
- 玄戒O1外掛基帶和自研基帶差距有多大眾所周知，手機核心處理器設計難度，以基帶芯片（Modem）最高。現在主流5G基帶要支持多種5G網絡模式，除了需向下兼容之外，還必須支持各種 ...
- 高通委托測試：蘋果iPhone 16e自研基帶5G性能落后于X75/X80安卓競品5 月 28 日消息，移動網絡分析機構 Cellular Insights 今日發布了一份明確“受高通委托”的測試報告。測試結果顯示，在紐約市 T-Mob ...
- 美光為 Motorola 最新款 Razr 60 Ultra 注入 AI 創新動能基于美光 LPDDR5X 內存和 UFS 4 0 存儲解決方案，合力打造 Motorola 功能強大的翻蓋手機...
- BOE（京東方）第6代新型半導體顯示器件生產線全面量產 打造全球顯示產業新引擎BOE（京東方）第6代新型半導體顯示器件生產線全面量產打造全球顯示產業新引擎2025年5月26日，BOE（京東方）成功舉辦主題為“屏啟未來 智顯 ...
- 蘋果最薄 iPhone 17 Air 曝料5 月 27 日消息，科技媒體 majinbuofficial 昨日（5 月 26 日）發布博文，分享了關于蘋果iPhone 17Air 的更多細節，稱該機厚度僅 ...
- OPPO攜手華為、vivo、榮耀簽署融合快充UFCS互授權
- 古爾曼：蘋果iOS 19擬向第三方開發者開放AI模型
- 歐盟再對蘋果出手：iPhone用戶可替換掉Siri
- 曝20周年版iPhone首發HBM內存：性能最激進的蘋果手機
25LC256-ESN
京公網安備 11010802033920號