【導讀】suizheshenjingwangluozaijiejuefuzajiqixuexiwentizhongzhanxianchuzhuoyuenengli
，qiriyizengchangdemoxingguimoyujisuanfuzaduyechengweileluodiyingyongdezhuyaopingjing。tebieshizaiziyuanjiqishouxiandeqianrushixitong（如低功耗MCU）上，巨大的內存占用（ROM）和高昂的運算量（MACs/FLOPs）往wang往wang使shi得de高gao性xing能neng模mo型xing難nan以yi部bu署shu。如ru何he在zai嚴yan格ge保bao持chi模mo型xing精jing度du的de前qian提ti下xia，大da幅fu壓ya縮suo模mo型xing體ti積ji並bing降jiang低di推tui理li成cheng本ben
，成cheng為wei連lian接jie先xian進jin算suan法fa與yu邊bian緣yuan硬ying件jian的de關guan鍵jian挑tiao戰zhan。本ben文wen將jiang深shen入ru探tan討tao神shen經jing網wang絡luo模mo型xing壓ya縮suo的de核he心xin原yuan理li
，同tong時shi介jie紹shaoReality AI Tools®如何讓這一複雜的壓縮過程變得自動化且對用戶透明。

1.為什麼需要神經網絡模型壓縮？

神經網絡已經成為解決複雜機器學習問題的強大工具。然而，這種能力往往伴隨著模型規模和計算複雜度的增加。當輸入維度較大（例如長時序窗口、高分辨率特征空間）時
，模型需要更多參數、每次推理需要更多算術運算，使其難以部署在嵌入式硬件上。

對(dui)於(yu)嵌(qian)入(ru)式(shi)係(xi)統(tong)而(er)言(yan)，資(zi)源(yuan)極(ji)其(qi)有(you)限(xian)。內(nei)存(cun)空(kong)間(jian)受(shou)限(xian)，因(yin)此(ci)在(zai)桌(zhuo)麵(mian)或(huo)雲(yun)平(ping)台(tai)上(shang)輕(qing)鬆(song)運(yun)行(xing)的(de)模(mo)型(xing)可(ke)能(neng)無(wu)法(fa)放(fang)入(ru)芯(xin)片(pian)內(nei)的(de)閃(shan)存(cun)。此(ci)外(wai)，較(jiao)高(gao)的(de)運(yun)算(suan)量(liang)（MACs/FLOPs）和推理延遲要求往往超出低功耗MCU或邊緣設備所能承受的範圍。

我們要解決的核心挑戰是：如何在保持模型性能的前提下，大幅壓縮神經網絡模型，降低模型大小、推理時間和計算成本
，從而實現其在資源受限的嵌入式係統上的部署。

2. 神經網絡模型壓縮是如何工作的？

shenjingwangluomoxingwangwangbishijixuyaodegengda。zaixunlianheyanzhengzhiqian，womenhennanzhunquepanduanjiagouguimoshifouheli。moxingyasuodemubiaojiushishibiemoxingzhongderongyuheweichongfenliyongdequanzhongbingjiangqiyichu。

我們使用專有的數學方法來尋找並壓縮這些冗餘，對網絡進行重新整理，使其更加簡潔、小巧和高效。同時，我們會嚴格控製精度損失，確保不會丟棄過多關鍵信息。

3. 實例：緊急尖叫聲檢測（Emergency Scream Detection）

為了更直觀地解釋這一挑戰
，我們以“緊急尖叫聲檢測（ESD）”演示為例。ESD係統是一種機器學習模型
，用於區分求救尖叫聲和其他環境聲音。該任務是一個二分類問題：Scream vs Not Scream。

模型使用Google’s Audioset database公共數據集中的音頻信號進行訓練。訓練數據集規模大且多樣化

，而驗證數據集由團隊采集的小規模現場錄音構成。模型在訓練集的k-fold驗證中表現中等，但在新的現場數據上表現非常好。

基線模型性能：

我們使用基於全連接層的神經網絡
，並以STFT頻譜圖作為輸入特征。該模型取得了最佳效果，達到：

• k-fold驗證精度：82%

• 現場數據測試精度：98%

從性能角度看
，該模型表現優秀。然而

，它有一個關鍵問題：

• ROM占用：552kB

該大小超過目標嵌入式平台（Voice RA6E1）的內存限製，導致無法部署。

壓縮模型性能：

為了解決這一問題，我們應用了Renesas為嵌入式部署優化的專有神經網絡壓縮技術。

壓縮結果非常顯著：

• 模型大小從552kB降至117kB（減少約79%）

• k-fold驗證精度保持82%

• 現場測試精度保持98%

• MAC從129,68 降至21,001（降低83%）

Figure 1: Comparing baseline and compressed model on RealityAI

  也就是說，在幾乎不影響模型性能的前提下
，顯著減少了模型規模和計算成本。

圖1–5展示了該對比的詳細信息。圖1顯示AI Explore™的對比結果；圖2和圖3的混淆矩陣確認精度保持一致；圖4和圖5的紅框部分（Flash Parameters）展示了模型大小和複雜度的核心差異
，該數值反映了實際編譯後部署的模型，比Explore頁麵上的估算更準確。

4. 更多成功案例

表1彙總了其他示例模型的結果——其中，資產移動跟蹤模型使用加速度計數據來識別設備或包裹的搬運與移動狀態
；吸塵器地麵類型檢測模型通過電機信號判斷清掃對象的地麵材質；電機啟動負載檢測模型能夠在開環控製下快速判斷電機的啟動負載，從而幫助控製器實現節能優化。

從這些實驗結果可以看到
，模型在壓縮後的準確率基本得以保持。兩個項目在壓縮前後完全沒有精度損失（緊急尖叫檢測：98% → 98%，電機啟動負載：99% → 99%），其餘兩個項目的變化也僅為1%的輕微下降（資產移動：92% → 91%

，吸塵器地麵類型：96% → 95%）。

在保持精度幾乎不變的同時，模型體積顯著減小。尤其是較大的基線模型，ROM 使用量減少超過75%。同時

，MAC（Multiply-Accumulate）運算量也呈現同等幅度的下降
，與 ROM 節省情況高度一致。

Table 1: Comparison of baseline and compressed models

5. 使用 Reality AI Tools®進行模型壓縮

在Reality AITools®中，對神經網絡模型進行壓縮、重新訓練
、使用新數據進行測試以及部署到目標板上，都非常簡單。事實上，在AI Explore™階段
，工具會自動完成模型壓縮——你甚至不需要額外關注這一步驟。

下麵是一段精簡的流程說明，展示你將會看到的主要步驟。

(1) 首先，在Data→Curate模塊中創建你的訓練集和測試集。

(2) 在AI Explore™頁麵中訓練模型

，並探索不同的特征空間與決策結構。點擊“Start Explore”後
，係統會自動訓練和測試多種模型，並根據性能對它們進行排序。在Explore的(de)結(jie)果(guo)中(zhong)
，你(ni)會(hui)同(tong)時(shi)看(kan)到(dao)部(bu)分(fen)模(mo)型(xing)的(de)基(ji)線(xian)版(ban)本(ben)與(yu)壓(ya)縮(suo)版(ban)本(ben)。當(dang)某(mou)個(ge)基(ji)線(xian)模(mo)型(xing)在(zai)不(bu)降(jiang)低(di)準(zhun)確(que)率(lv)的(de)情(qing)況(kuang)下(xia)可(ke)以(yi)進(jin)一(yi)步(bu)縮(suo)小(xiao)體(ti)積(ji)時(shi)
，工(gong)具(ju)會(hui)自(zi)動(dong)生(sheng)成(cheng)其(qi)壓(ya)縮(suo)版(ban)本(ben)。壓(ya)縮(suo)模(mo)型(xing)會(hui)使(shi)用(yong)一(yi)個(ge)特(te)殊(shu)符(fu)號(hao)標(biao)記(ji) （如圖7中紅色箭頭所示）。相反，沒有該符號的則是未壓縮的原始基線模型。

一旦你確定了需要進一步評估與部署的模型
，可以從該模型創建一個Base Tool
，以便繼續開展後續工作。此時，壓縮後的模型即可用於重新訓練、測試
、優化以及部署，使用方式與原始基線模型完全一致。

對於用戶來說，使用壓縮模型是完全透明的。它在係統中會像其他任何Trained Tool模型一樣工作，不需要額外步驟或特殊處理。

(3) 你可以在Test & Optimize→Try New Data區域測試壓縮後的模型。選擇壓縮版本的Trained Tool模型以及所需的測試數據集，然後運行Accuracy Test（準確率測試），即可評估該模型在未見過的數據上的表現。

(4) 部署同樣非常簡單。在驗證壓縮模型並確認其性能符合預期後，你可以進入Deploy→Embedded完(wan)成(cheng)部(bu)署(shu)流(liu)程(cheng)。選(xuan)擇(ze)已(yi)經(jing)訓(xun)練(lian)好(hao)的(de)壓(ya)縮(suo)模(mo)型(xing)，並(bing)根(gen)據(ju)目(mu)標(biao)嵌(qian)入(ru)式(shi)係(xi)統(tong)的(de)約(yue)束(shu)條(tiao)件(jian)創(chuang)建(jian)新(xin)的(de)部(bu)署(shu)包(bao)。隨(sui)後(hou)，下(xia)載(zai)生(sheng)成(cheng)的(de)可(ke)導(dao)出(chu)模(mo)型(xing)包(bao)，並(bing)將(jiang)其(qi)部(bu)署(shu)到(dao)目(mu)標(biao)硬(ying)件(jian)板(ban)上(shang)。與(yu)Reality AI Tools®中其他模型的部署方式完全一致，使用壓縮模型無需任何額外步驟或特殊處理。

Figure 9: Export compressed model

總結

神shen經jing網wang絡luo模mo型xing壓ya縮suo並bing非fei以yi犧xi牲sheng性xing能neng為wei代dai價jia的de妥tuo協xie，而er是shi實shi現xian邊bian緣yuan智zhi能neng部bu署shu的de必bi要yao優you化hua手shou段duan。通tong過guo識shi別bie並bing移yi除chu網wang絡luo中zhong的de冗rong餘yu權quan重zhong，我wo們men能neng夠gou在zai幾ji乎hu不bu損sun失shi精jing度du（甚至在某些案例中完全保持原有準確率）的情況下
，將模型體積縮減75%以上，並將計算負載降低逾80%。從緊急尖叫聲檢測到電機負載監測

，多個成功案例證明了該技術在平衡高性能與低資源消耗方麵的巨大潛力。更重要的是，借助Reality AI Tools®等現代化開發平台，模型壓縮已不再是需要深厚數學背景的繁瑣步驟，而是集成在自動化工作流中的透明環節。