2024-08-28
遇見Edge AI
Edge AI(邊緣人工智慧)是指在靠近資料生成源頭的設備上執行人工智慧(AI)計算和資料處理,而不是將資料發送到遠端的雲伺服器進行處理。
在邊緣設備上運行AI演算法,可實現更低的延遲、更高的隱私性和頻寬效率。特別適合即時處理回應的應用,如智慧攝像頭、工業自動化和智慧家居設備。
Edge AI 的關鍵特點和優勢
- 低延遲:本地端進行資料處理。
- 頻寬效率:減少了將大量資料上傳到雲端的需求,降低網路頻寬佔用和成本。
- 隱私安全:本地設備上處理資料,能保護使用者隱私,降低洩露風險。
- 可靠性:網路連接不穩定或不可用的情況下,邊緣設備也能繼續工作。
由於邊緣設備存在有限算力,電池壽命,數據安全,網路不穩定環境,即時處理數據要求,延伸到分布式系統中多設備協同或數據同步等問題。隨著AI產業爆發,Edge AI不僅提升了邊緣設備現有規格,同時設備智能化它改善了原有的問題,推動了各行各業的創新發展以及後續的換機潮。
市場應用需求
- 能家居:本地處理語音命令圖像識別,智慧家居設備提供快速和個性化服務。
- 工業自動化:運行AI演算法,達成即時監控、故障檢測和預防性維護。
- 智慧城市:交通管理、公共安全和環境監測等,通過本地處理實現即時管理。
- 自動駕駛:車輛內的AI可即時處理感測器訊息,做出駕駛決策、DMS警示。
實現應用對接
Renesas RZ/V2L 是一款專為人工智慧 (AI) 應用設計的處理器,它集成了高性能的神經網路加速器和影像處理單元,非常適合即時視頻和影像處理任務。
Renesas AI技術特性來自於
- 人工智慧加速器 (DRP-AI):該引擎加速了學習推理過程,提高處理效率。
- 影像訊號處理器 (ISP):用於優化攝像頭捕獲的圖像和視頻資料。
- 多核處理器:配備高性能的 ARM Cortex處理器,用於運行主應用程式。
- 低功耗設計:適合長時間運行的嵌入式設備。
- 支援多種外設:含乙太網、CSI、DSI、USB、CAN介面,便於各種設備中集成。
應用的對應作法
- 即時影像分析:如智慧監控系統,通過即時分析視頻流檢測異常行為或物體。
- 物聯網設備控制:運行AI演算法,用於預處理和控制,減少對雲資源的依賴。
- 其他的AI 應用的聯繫:透過RZ/V2L本地端設備運行AI模型,減少了資料傳輸的延遲和頻寬需求,提升了隱私和安全性,達成一般市場或客製應用需求。具體實現方式,如下面Renesas AI(工具鏈)開發流程所示。
為何需要AI模型?
人工智慧依賴模型來執行任務,因為這些模型是人工智慧系統能夠從資料中學習、識別模式和做出決策的核心機制。以下是為何需要模型的更詳細說明。
- 模式識別:人工智慧模型旨在識別資料模式。例如影像辨識,卷積神經網路 (CNN) 會辨識邊緣、紋理和形狀等模式以對物件進行分類。
- 從數據中學習:人工智慧模型使用大量資料進行訓練,隨著時間的推移學習並提高效能。過程中會調整模型參數,減少錯誤並提高準確性。
- 概括:訓練有素的人工智慧模型可以將其所見過的資料歸納為新的、未見過的資料。意味著它可以應用所學到的知識在新情況下做出預測或決策。
- 自動化:可自動執行原本需要人工干預的任務。這種自動化可以提高效率、降低成本,並能夠以人類無法管理的規模執行任務。像是在製造業中,人工智慧模型可以監控設備的磨損跡象,在故障發生之前預測維護需求。
- 即時處理:即時處理數據做出決策,對需要立即回應的應用場景至關重要。
- 適應性:可以使用新數據進行更新,使其能夠適應不斷變化的條件並隨時間的推移而改進。例如電子郵件系統中的垃圾郵件過濾器可以不斷學習新類型的垃圾郵件,以便更好地識別和阻止它們。
AI 模型範例
- YOLO(You Only Look Once):一種流行的即時目標偵測模型,可與 RZ/V2L 一起使用,用於偵測和分類單一影像中的多個目標。
- MobileNet:一種輕量級卷積神經網絡,專為在行動和邊緣設備上高效執行而設計,適用於影像分類任務。
- SSD(Single Shot MultiBox Detector):另一個平衡速度和準確性的物體 偵測模型,使其成為邊緣設備的理想選擇。
AI模型績效評估
模型的性能可以根據以下指標進行評估
- 推理速度:測量處理輸入並產生輸出所需的時間。
- 準確性:使用驗證資料集上的精確度、召回率、F1 分數和整體準確度。
- 吞吐量:晶片每秒可以處理的推理數量。
- 功耗:測量推理過程中的功耗,以確保效率。
- 延遲:輸入和輸出之間的時間延遲。
評估流程範例
- 選擇基準資料集:使用標準資料集,如物件偵測的COCO、影像分類的 ImageNet。
- 部署模型:使用Renesas開發工具來進行部署 AI 模型。
- 執行推理測試:對基準資料集進行推理並記錄速度、準確性和相關指標。
- 分析結果:將結果與基準模型和其他硬體進行比較以評估效能。
- 最佳化:微調模型和硬體設置,以實現速度、精確度和功效間所需的平衡。
AI應用參考
瑞薩提供AI應用程式有提供原始程式碼、預先建置的二進位檔案和預先訓練的 AI 模型對象,您參考下面現成的應用鏈結選擇對應的程序即可。
- 農業:偵測野生動物採集農作物、蔬果病害檢查等。
- 智慧建築:門禁人臉識別、會議室人員識別、建築工地的磨損管理等。
- 智慧城市:車站壅塞偵測、分心駕駛偵測、停車位預訂、證照檢查支付等。
- 醫療保健:用於診斷影像和病患監測。
- 智慧家庭:空調控制、食品效期檢查、智慧電視、電器非接觸式控制器等。
- 工業應用:駕駛員監控系統、食品工廠的物種檢查、工安配戴檢查、門禁。
- 零售:壅塞偵測、POS機智能計價、銷售分析、商店倉儲犯罪預防等。
透過瑞薩電子 RZ/V2L 平台,邊緣設備上部署AI模型,在效能、效率和整合方面具有顯著優勢。除了上述提供的AI應用外,既有的應用,也能選擇客製的AI模型來進行最佳化,開發人員可以跨各行業建立強大的即時AI產品。
結論
以下是一些相關的技術文章,消息分享連結:
這些資源可以幫助你更深入地瞭解 Renesas RZ/V2L 處理器的技術特點及其在 Edge AI 和 IoT 應用中的實際使用。