從智能家居助手（如 Alexa、Google 和 Siri）到能夠提示駕駛人員發生車道偏離的高級駕駛輔助系統 (ADAS)，世界依賴邊緣 AI 為這些日益普及的重要設備提供實時處理能力。邊緣 AI 在設備內直接使用人工智能，在數據源附近進行計算，而無需依賴遠程數據中心的云計算。邊緣 AI 帶來了更低的延遲和更快的處理速度，降低了對持續互聯網連接的依賴，同時減少對隱私方面的擔憂。這項技術代表著數據處理方式的重大轉變，隨著對實時智能需求的增長，邊緣 AI 具備在許多行業繼續發揮其強大影響力的優勢。 

邊緣 AI 的最大價值在于它能為關鍵應用帶來速度。與云/數據中心人工智能不同，邊緣 AI 不會通過網絡鏈路發送數據并期望獲得合理的響應時間。相反，邊緣 AI 是在本地（通常是在實時操作系統上）進行計算，擅長提供及時響應。對于要在工廠生產線上應用機器視覺，并在一秒內判斷產品是否可以被分流的這類情況，邊緣 AI 完全勝任。同樣，您也不希望汽車發出的信號依賴于網絡或云服務器的響應時間。

用于實時處理的邊緣 AI

許多實時活動正在推動對邊緣 AI 的需求。智能家居助手、ADAS、病人監護和預測性維護等應用都是該技術值得注意的應用。從對家庭問題的快速響應，到車輛車道偏離的提示，再到發送到智能手機的血糖讀數，邊緣 AI 提供了快速的響應，同時最大限度地減少了隱私方面的擔憂。

相當長一段時間以來，我們已經看到邊緣 AI 在供應鏈，特別是在倉儲和工廠方面的良好表現。在過去十年中，運輸行業的技術也有了長足的發展，例如可以穿越云層等條件完成導航的送貨無人機。邊緣 AI 也為工程師帶來了巨大的好處，尤其是在醫療技術領域，這是一個至關重要的進步領域。例如，開發心臟起搏器和其他心臟設備的工程師可以為醫生提供查找異常心律的工具，同時還能主動對設備進行編程，為何時尋求進一步的醫療干預提供指導。醫療技術部門將繼續增加對邊緣 AI 的使用，并進一步提高能力。

生成邊緣 AI 模型

現在，日常生活中越來越多的系統都具有某種程度的機器學習 (ML) 交互功能，因此了解這個世界對于工程師和開發人員規劃未來的用戶交互至關重要。 

邊緣 AI 的最大機遇是基于統計算法進行模式匹配的 ML。這些模式可以是感知到人的存在、有人剛對智能家居助手說了“喚醒詞”（如 Alexa 或 'Hey Siri'）或電機開始晃動。對于智能家居助手來說，喚醒詞是在邊緣運行的模型，無需將語音發送到云端。它可以喚醒設備，讓它知道是時候下達進一步的指令了。

生成機器學習 (ML) 模型有幾種途徑：要么使用集成開發環境（如 TensorFlow 或 PyTorch），要么使用 SaaS 平臺（如 Edge Impulse）。建立一個好的 ML 模型的大部分“工作”是創建一個有代表性的數據集，并做好標記。

目前，邊緣 AI 中最流行的 ML 模型是監督模型。這種模型基于帶標簽和標記的樣本數據的訓練，輸出是已知值，可以檢查其正確性，就像導師在批改作業一樣。這種類型的訓練通常用于分類工作或數據回歸等應用中。監督式訓練非常有用，準確度也很高，但它在很大程度上依賴于帶標記的數據集，可能無法處理新的輸入。 

運行邊緣 AI 工作負載的硬件

在 DigiKey，我們完全有能力協助實現邊緣 AI，因為它們通常在單片機、FPGA 和單板計算機 (SBC) 上運行。DigiKey 與頂級供應商合作，提供多代可在邊緣運行 ML 模型的硬件。今年我們已經見證一些重磅新型硬件的發布，包括 NXP 的 MCX-N 系列，而且我們很快就會備貨 ST Microelectronics 的 STM32MP25 系列。

在過去幾年中，來自創客社區的開發板在運行邊緣 AI 方面一直很受歡迎，包括 SparkFun 的邊緣開發板 Apollo3 Blue、AdaFruit 的 EdgeBadge、Arduino 的 Nano 33 BLE Sense Rev 2 以及 Raspberry Pi 4  或 5 型。

神經處理單元 (NPU) 在邊緣 AI 領域的應用越來越廣泛。神經處理單元是一種專用集成電路，旨在加速基于神經網絡的 ML 和 AI 應用的處理速度。神經網絡是基于人腦的結構，其中有許多相互連接的層和稱為神經元的節點，用于處理和傳遞信息。正在開發的新一代 NPU 具有專門的數學處理功能，包括 NXP 的 MCX N 系列和 ADI 的 MAX78000。

我們還看到了用于邊緣設備的 AI 加速器，這一領域尚待定義，早期值得關注的公司包括 Google Coral 和 Hailo。

ML 傳感器的重要性 

帶有 ML 模型的高速相機在供應鏈中發揮作用已有相當長的時間。它們已被用于決定諸如倉庫中的產品發送到哪里等類似的事務，或在生產線上發現有缺陷的產品。我們看到，供應商正在開發低成本的人工智能視覺模塊，這些模塊可以運行 ML 模型來識別物體或人。   

盡管運行 ML 模型需要嵌入式系統，但仍會有更多產品作為支持 AI 的電子元件而不斷推出。這包括支持 AI 的傳感器，也稱為 ML 傳感器。雖然為大多數傳感器添加一個 ML 模型并不會提高它們的應用效率，但有幾類傳感器可以通過 ML 訓練大大提高工作效率：

• 相機傳感器，可開發 ML 模型來跟蹤畫面中的物體和人物

• IMU、加速計和運動傳感器，用于檢測活動情況

有些 AI 傳感器預裝了可隨時運行的 ML 模型。例如， 用于感知人的 SparkFun 評估板就預編程人臉檢測，并通過 QWiiC I2C 接口返回信息。有些 AI 傳感器，如 Arduino 的 Nicla Vision 或 Seeed Technology 的 OpenMV Cam H7, 則更具開放性，需要針對所尋找的對象（缺陷、物體等）建立經過訓練的 ML 模型。

通過使用神經網絡提供計算算法，可以在物體和人員進入相機傳感器視野時對其進行檢測和跟蹤。

邊緣 AI 的未來

隨著許多行業的發展和對數據處理技術的依賴，邊緣 AI 將繼續得到更廣泛的應用。通過在設備層面實現更快、更安全的數據處理，邊緣 AI 的創新將是深遠的。我們認為在不久的將來會擴展的幾個領域包括：

1.用于神經網絡算法計算的專用處理器邏輯。

2.與云計算的巨大能耗相比，低功耗替代方案的進步。

3.更多集成/模塊選擇，如 AI 視覺部件，將包括內置傳感器和嵌入式硬件。

隨著 ML 訓練方法、硬件和軟件的不斷發展，邊緣 AI 已做好充分準備，將呈指數級增長，為眾多行業提供支持。在 DigiKey，我們致力于走在邊緣 AI 趨勢的前沿，我們期待通過眾多的解決方案、順暢的互動、強大的工具和豐富的教育資源，為世界各地的創新工程師、設計師、建造者和采購專業人士提供支持，讓他們的工作更加高效。如需了解更多邊緣 AI 信息、產品和資源，請訪問 DigiKey.cn/edge-ai。 

DigiKey 技術營銷工程師 Shawn Luke

Shawn Luke 是 DigiKey 的技術營銷工程師  。DigiKey 是全球公認的電子元件和自動化產品尖端商務分銷領域的領導者和持續創新者之一，提供著來自 3,000 多家優質名牌制造商的 1,560 多萬種元器件。