恩智浦在eIQ AI和機器學習開發軟件中增加了帶有檢索增強生成(RAG)與微調的生成式人工智能(GenAI)流程和eIQ Time Series Studio,以便在小型微控制器(MCU)、功能更強大的大型應用處理器(MPU)等各種邊緣處理器上輕松部署和使用AI
中國上?!?024年10月30日——恩智浦半導體(NXP Semiconductors N.V.,)近日宣布在其eIQ AI和機器學習開發軟件中增加兩款新工具,以便輕松在各種邊緣處理器上部署和使用AI邊緣。
eIQ Time Series Studio提供自動機器學習工作流程,可輕松在MCU級芯片(如MCX系列MCU產品組合或i.MX RT跨界MCU產品組合)上開發和部署基于時間序列的機器學習模型。
GenAI流程為支持生成式AI解決方案的大語言模型(LLM)提供構建模塊。此類方案與MPU(如恩智浦i.MX系列應用處理器)結合使用,通過在特定上下文數據中訓練LLM,簡化智能邊緣的部署。例如,配備LLM的電器經過用戶手冊訓練后,能夠用自然語言與用戶交流,告知用戶如何使用特定功能、執行特定任務或優化使用和維護。
重要意義
在邊緣部署AI有諸多好處,包括降低延遲、加強用戶隱私保護及減少能耗。恩智浦eIQ工具包擴展可顯著簡化并加速部署流程,開發人員能夠訪問更廣泛的模型類型,包括生成式AI、基于時間序列的模型以及基于視覺的模型。此外,用戶能夠在各類邊緣處理器上部署模型。
恩智浦半導體資深副總裁、工業和物聯網總經理Charles Dachs表示:“AI是實現基于用戶需求進行預測和自動化的關鍵,但它必須以適用于邊緣部署的方式進行開發。恩智浦為MCU(如MCX系列)、i.MX RT700等跨界MCU上的小型AI模型以及在i.MX 95應用處理器等更強大的設備上運行的大型生成式AI模型提供即時可用的工具,為開發人員提供了豐富的選擇,涵蓋各類AI模型和支持AI的邊緣處理器,使得邊緣AI真正適用于各行各業的應用開發人員”
更多詳情
eIQ Time Series Studio可簡化并加速基于時間序列的AI模型的開發與部署,支持多種輸入信號(如電壓、電流、溫度、振動、壓力、聲音、飛行時間及信號組合)以及多模態傳感器融合。借助自動機器學習功能,開發人員能夠從原始時間序列數據中提取有意義的見解,快速構建符合性能、內存、Flash存儲大小和精度要求的AI模型。該工具提供完整的開發環境,包括數據管理、可視化和分析以及模型自動生成、優化、仿真和部署。界面簡潔直觀,軟件開發人員無需具備深厚的數據科學或AI專業知識即可創建經過優化的異常檢測、分類和回歸庫。
恩智浦的GenAI流程使得生成式AI應用可以在邊緣設備上部署。這一軟件流程提供了優化生成模型的方法,并提供檢索增強生成(RAG),可在不向模型或處理器提供商披露敏感信息的情況下,利用領域特定知識和私有數據以安全的方式微調模型。通過將多個模塊接入單一流程,客戶可根據其任務輕松定制LLM,并使用恩智浦i.MX 95應用處理器等MPU對其進行優化,以便在邊緣部署。
詳細了解或訪問包含新增功能的eIQ機器學習開發環境,請訪問NXP.com/eIQ。此外,您可以下載GenAI 流程白皮書《安全高效地在邊緣部署生成式 AI:在微處理器上優化 LLM 的方法》或閱讀博文《eIQ Time Series Studio簡介:簡化邊緣 AI 開發》。
上一篇:PLD入門其實不難!TI帶你解鎖無代碼邏輯設計新體驗
下一篇:安謀科技與全志科技簽署Arm Total Access授權許可協議,技術合作再迎“芯”篇章
- 熱門資源推薦
- 熱門放大器推薦
- AM2G-2418DZ ±18V 2 瓦 DC-DC 轉換器的典型應用
- EVB-USB3300,用于數碼相機的 USB3300 USB 收發器的評估板
- LTC6247 的典型應用 - 180MHz、1mA 高功率高效雙軌至軌 I/O 運算放大器
- 一種電池供電的無線風速風向數據采集系統
- LT3970IMS-5 3.3V 降壓轉換器的典型應用
- 基于 CY8C24x33 的 BLDC 閉環速度控制
- 使用 Analog Devices 的 LT6654AMPS6-3 的參考設計
- 基于SPV1050能量收集器和電池充電器的薄膜太陽能智能手表
- Si5318-EVB,基于 Si5318 SONET/SDH 精密時鐘乘法器的評估板
- DER-187 - 35 W 電源