【導讀】隨著人工智能(AI)技術的快速發展，AI可以越來越多地支持以前無法實現或者難以實現的應用。本係列文章基於此解釋了卷積神經網絡(CNN)及其對人工智能和機器學習的意義。CNN是一種能夠從複雜數據中提取特征的強大工具
，例如識別音頻信號或圖像信號中的複雜模式就是其應用之一。本文討論了CNN相對於經典線性規劃的優勢，後續文章《訓練卷積神經網絡：什麼是機器學習？——第二部分》將討論如何訓練CNN模型，係列文章的第三部分將討論一個特定用例
，並使用專門的AI微控製器對模型進行測試。

什麼是卷積神經網絡？

神經網絡是一種由神經元組成的係統或結構，它使AI能夠更好地理解數據
，進而解決複雜問題。雖然神經網絡有許多種類型，但本係列文章將隻關注卷積神經網絡(CNN)
，其主要應用領域是對輸入數據的模式識別和對象分類。CNN是一種用於深度學習的人工神經網絡。這種網絡由輸入層、若(ruo)幹(gan)卷(juan)積(ji)層(ceng)和(he)輸(shu)出(chu)層(ceng)組(zu)成(cheng)。卷(juan)積(ji)層(ceng)是(shi)最(zui)重(zhong)要(yao)的(de)部(bu)分(fen)，它(ta)們(men)使(shi)用(yong)一(yi)組(zu)獨(du)特(te)的(de)權(quan)重(zhong)和(he)濾(lv)波(bo)器(qi)
，使(shi)得(de)網(wang)絡(luo)可(ke)以(yi)從(cong)輸(shu)入(ru)數(shu)據(ju)中(zhong)提(ti)取(qu)特(te)征(zheng)。數(shu)據(ju)可(ke)以(yi)是(shi)許(xu)多(duo)不(bu)同(tong)的(de)形(xing)式(shi)
，如(ru)圖(tu)像(xiang)、音頻和文本。這種提取特征的過程使CNN能夠識別數據中的模式從而讓工程師能夠創建更有效和高效的應用。為了更好地理解CNN，我們首先將討論經典的線性規劃。

經典控製技術中的線性規劃

kongzhijishuderenwushijiezhuchuanganqiduqushujubingjinxingchuli，ranhougenjuguizezuochuxiangying
，zuihouxianshihuofasongjieguo。liru，wendutiaojieqimeimiaozhongceliangyiciwendu
，tongguoweikongzhiqidanyuan(MCU)讀取溫度傳感器的數據。該數值用於閉環控製係統的輸入
，並與設定的溫度進行比較。這就是一個借助MCU執行線性規劃的例子，這種技術通過比較預編程值和實際值來給出明確的結論。相比之下
，AI係統通常依據概率論來發揮作用。

複雜模式和信號處理

xuduoyingyongsuoshiyongdeshurushujubixushouxianyoumoshishibiexitongjiayipanbie。moshishibiekeyiyingyongyubutongdeshujujiegou。benwentaolundelizixiandingweiyiweihuoerweideshujujiegou，biruyinpinxinhao、心電圖(ECG)、光電容積脈搏波(PPG)、一維的振動數據或波形、熱圖像、二維的瀑布圖數據。

在上述模式識別中
，將應用通過MCU的代碼來實現是極其困難的。一個例子是識別圖像中的具體對象（例如貓）：這種情況下無法區分要分析的圖像是很早攝錄的，還是剛剛由從相機讀取的。分析軟件基於一些特定的規則來判斷圖片中是否有貓：比如說貓必須有典型的尖耳朵、三角形的鼻子和胡須。如果可以在圖像中識別出這些特征，軟件便可以報告在圖像中發現了貓。但是這存在一些問題：ruguotuxiangzhixianshilemaodebeimian
，moshishibiexitonghuizenmeban？ruguomaomeiyouhuxuhuozhezaishiguzhongshiquletui，huifashengshenme？jinguanzhexieyichangqingkuangbutaikenengchuxian
，danmoshishibiededaimajiangbudebukaolvsuoyoukenengdeyichangqingkuang，congerzengjiadaliangewaideguize。jishizaizhegejiandandelizizhong
，ruanjianshezhideguizeyehuibiandefeichangfuza。

機器學習如何取代經典規則

AI背後的核心思想是在小範圍內模仿人類進行學習。它不依賴於製定大量的if-then規則
，而是建立一個通用的模式識別的機器模型。這兩種方法的關鍵區別在於，與一套複雜的規則相比
，AI不會提供明確的結果。AI不會明確報告"我在圖像中識別出了一隻貓"
，而是提供類似這樣的結論："圖像中有一隻貓的概率為97.5%，它也可能是豹子(2.1%)或老虎(0.4%)。"這意味著在模式識別的過程結束時，應用的開發人員必須通過決策閾值做出決定。

另一個區別是AIbingbuyilaigudingdeguize，ershiyaojingguoxunlian。xunlianguochengxuyaojiangdaliangmaodetuxiangzhanshigeishenjingwangluoyigongqixuexi。zuizhong
，shenjingwangluojiangnenggoudulishibietuxiangzhongshifouyoumao。guanjiandeyidianshi，weilaiAI可以不局限於已知的訓練圖像開展識別。該神經網絡需要映射到MCU中。

AI的模式識別內部到底是什麼？

AI的神經元網絡類似於人腦的生物神經元網絡。一個神經元有多個輸入，但隻有一個輸出。基本上，這些神經元都是輸入的線性變換——將輸入乘以數字（權重w）並加上一個常數（偏置b），然後通過一個固定的非線性函數產生輸出，該函數也被稱為激活函數1。作為網絡中唯一的非線性部分，激活函數用於定義人工神經元值的激活範圍。神經元的功能在數學上可以描述為

其中，f為激活函數，w為權重
，x為輸入數據，b為偏置。數據可以是單獨的標量、向量或矩陣。圖1顯示了一個神經元，它擁有三個輸入和一個激活函數ReLU2。網絡中的神經元總是分層排列的。

圖1.擁有三個輸入和一個輸出的神經元

如上所述

，CNN用於輸入數據的模式識別和對象分類。CNN分為不同的部分：一個輸入層
、若幹隱藏層和一個輸出層。圖2顯示了一個小型網絡，它包含一個具有三個輸入的輸入層
、一個具有五個神經元的隱藏層和一個具有四個輸出的輸出層。所有神經元的輸出都連接到下一層的所有輸入。圖2所示的網絡不具有現實意義，這裏僅用於演示說明。即使對於這個小型網絡，用於描述網絡的方程中也具有32個偏置和32個權重。

CIFAR神經網絡是一種廣泛用於圖像識別的CNN。它主要由兩種類型的層組成：juanjicenghechihuaceng
，zheliangzhongcengfenbieshiyongjuanjihechihualiangzhongfangfa，zaishenjingwangluodexunlianzhongfeichangyouxiao。juanjicengshiyongyizhongbeichengweijuanjideshuxueyunsuanlaishibiexiangsuzhishuzudemoshi。juanjifashengzaiyinzangcengzhong，rutu3所示。卷積會重複多次直至達到所需的精度水平。如果要比較的兩個輸入值（本例是輸入圖像和濾波器）相xiang似si
，那na麼me卷juan積ji運yun算suan的de輸shu出chu值zhi總zong會hui特te別bie高gao。濾lv波bo器qi有you時shi也ye被bei稱cheng為wei卷juan積ji核he。然ran後hou，結jie果guo被bei傳chuan遞di到dao池chi化hua層ceng提ti取qu特te征zheng生sheng成cheng一yi個ge特te征zheng圖tu
，表biao征zheng輸shu入ru數shu據ju的de重zhong要yao特te征zheng，稱cheng為wei池chi化hua。池chi化hua層ceng的de運yun行xing需xu要yao依yi賴lai另ling一yi個ge濾lv波bo器qi，稱cheng為wei池chi化hua濾lv波bo器qi。訓xun練lian後hou，在zai網wang絡luo運yun行xing的de狀zhuang態tai下xia，特te征zheng圖tu與yu輸shu入ru數shu據ju進jin行xing比bi較jiao。由you於yu特te征zheng圖tu保bao留liu了le特te定ding的de特te征zheng
，所suo以yi隻zhi有you當dang內nei容rong相xiang似si時shi
，神shen經jing元yuan的de輸shu出chu才cai會hui被bei觸chu發fa。通tong過guo組zu合he使shi用yong卷juan積ji和he池chi化hua，CIFAR網絡可用於高精度地識別和分類圖像中的各種對象。

圖2.一個小型神經網絡

圖3.用CIFAR-10數據集訓練的CIFAR網絡模型

CIFAR-10是一個特定數據集
，通常用於訓練CIFAR神經網絡。它由60000幅32×32彩色圖像組成，分為10個類別。這些圖像是從各種來源收集的
，例如網頁、新聞和個人圖像集。每個類別包含6000幅圖像，平均分配在訓練集、測試集和驗證集中，使其成為測試計算機視覺和其他機器學習模型的理想圖像集。

卷(juan)積(ji)神(shen)經(jing)網(wang)絡(luo)和(he)其(qi)他(ta)類(lei)型(xing)網(wang)絡(luo)的(de)主(zhu)要(yao)區(qu)別(bie)在(zai)於(yu)處(chu)理(li)數(shu)據(ju)的(de)方(fang)式(shi)。卷(juan)積(ji)神(shen)經(jing)網(wang)絡(luo)通(tong)過(guo)濾(lv)波(bo)依(yi)次(ci)檢(jian)查(zha)輸(shu)入(ru)數(shu)據(ju)的(de)屬(shu)性(xing)。卷(juan)積(ji)層(ceng)的(de)數(shu)量(liang)越(yue)多(duo)，可(ke)以(yi)識(shi)別(bie)的(de)細(xi)節(jie)就(jiu)越(yue)精(jing)細(xi)。在(zai)第(di)一(yi)次(ci)卷(juan)積(ji)之(zhi)後(hou)，該(gai)過(guo)程(cheng)從(cong)簡(jian)單(dan)的(de)對(dui)象(xiang)屬(shu)性(xing)（如邊或點）開始進行第二次卷積以識別詳細的結構，如角

、圓、矩(ju)形(xing)等(deng)。在(zai)第(di)三(san)次(ci)卷(juan)積(ji)之(zhi)後(hou)，特(te)征(zheng)就(jiu)可(ke)以(yi)表(biao)示(shi)某(mou)些(xie)複(fu)雜(za)的(de)模(mo)式(shi)，它(ta)們(men)與(yu)圖(tu)像(xiang)中(zhong)對(dui)象(xiang)的(de)某(mou)些(xie)部(bu)分(fen)相(xiang)似(si)
，並(bing)且(qie)對(dui)於(yu)給(gei)定(ding)對(dui)象(xiang)來(lai)說(shuo)通(tong)常(chang)是(shi)唯(wei)一(yi)的(de)。在(zai)我(wo)們(men)最(zui)初(chu)的(de)例(li)子(zi)中(zhong)，這(zhe)些(xie)特(te)征(zheng)就(jiu)是(shi)貓(mao)的(de)胡(hu)須(xu)或(huo)耳(er)朵(duo)。特(te)征(zheng)圖(tu)的(de)可(ke)視(shi)化(hua)（如圖4所示）對於應用本身而言並不是必需的，但它有助於幫助理解卷積。

即使是像CIFAR這(zhe)樣(yang)的(de)小(xiao)型(xing)網(wang)絡(luo)，每(mei)層(ceng)也(ye)有(you)數(shu)百(bai)個(ge)神(shen)經(jing)元(yuan)，並(bing)且(qie)有(you)許(xu)多(duo)串(chuan)行(xing)連(lian)接(jie)的(de)層(ceng)。隨(sui)著(zhe)網(wang)絡(luo)的(de)複(fu)雜(za)度(du)和(he)規(gui)模(mo)的(de)增(zeng)加(jia)，所(suo)需(xu)的(de)權(quan)重(zhong)和(he)偏(pian)置(zhi)數(shu)量(liang)也(ye)迅(xun)速(su)增(zeng)長(chang)。圖(tu)3所示的CIFAR-10示例已經有20wangecanshu
，meigecanshuzaixunlianguochengzhongdouxuyaoyizuquedingdezhi。tezhengtukeyiyouchihuacengjinyibuchuli，yijianshaoxuyaoxunliandecanshushuliangbingbaoliuzhongyaoxinxi。

圖4.CNN的特征圖

如上所述
，在CNN中的每次卷積之後，通常會發生池化，在一些文獻中也常被稱為子采樣。它有助於減少數據的維度。圖4中zhong的de特te征zheng圖tu裏li麵mian的de很hen多duo區qu域yu包bao含han很hen少shao甚shen至zhi不bu含han有you意yi義yi的de信xin息xi。這zhe是shi因yin為wei對dui象xiang隻zhi是shi圖tu像xiang的de一yi小xiao部bu分fen，並bing不bu構gou成cheng整zheng幅fu圖tu像xiang。圖tu像xiang的de其qi餘yu部bu分fen未wei在zai特te征zheng圖tu中zhong使shi用yong，因yin此ci與yu分fen類lei無wu關guan。在zai池chi化hua層ceng中zhong，池chi化hua類lei型xing（最大值池化或均值池化）和(he)池(chi)化(hua)窗(chuang)口(kou)矩(ju)陣(zhen)的(de)大(da)小(xiao)均(jun)被(bei)指(zhi)定(ding)。在(zai)池(chi)化(hua)過(guo)程(cheng)中(zhong)，窗(chuang)口(kou)矩(ju)陣(zhen)逐(zhu)步(bu)在(zai)輸(shu)入(ru)數(shu)據(ju)上(shang)移(yi)動(dong)。例(li)如(ru)，最(zui)大(da)值(zhi)池(chi)化(hua)會(hui)選(xuan)取(qu)窗(chuang)口(kou)中(zhong)的(de)最(zui)大(da)數(shu)據(ju)值(zhi)而(er)丟(diu)棄(qi)其(qi)它(ta)所(suo)有(you)的(de)值(zhi)。這(zhe)樣(yang)，數(shu)據(ju)量(liang)不(bu)斷(duan)減(jian)少(shao)，最(zui)終(zhong)形(xing)成(cheng)各(ge)個(ge)對(dui)象(xiang)類(lei)別(bie)的(de)唯(wei)一(yi)屬(shu)性(xing)。

juanjihechihuadejieguoshidaliangdeerweijuzhen。weileshixianwomenzhenzhengdemubiaojifenlei
，womenxuyaojiangerweishujuzhuanhuanchengyigehenchangdeyiweixiangliang。zhuanhuanshizaisuoweideyapingcengzhongwanchengde，suihoushiyigehuolianggequanlianjieceng。quanlianjiecengdeshenjingyuanleisiyutu2所示的結構。神經網絡最後一層的輸出要與需要區分的類別的數量一致。此外，在最後一層中，數據還被歸一化以產生一個概率分布（97.5%的貓，2.1%的豹，0.4%的虎，等等）。

zhejiushishenjingwangluojianmodequanguocheng。raner，juanjiheyulvboqidequanzhongheneirongrengranweizhi

，bixutongguowangluoxunlianlaiquedingshimoxingnenggougongzuo。zhejiangzaihouxuwenzhang《訓練卷積神經網絡：什麼是機器學習
？——第二部分》中說明。第三部分將解釋我們上文討論過的神經網絡（例如識別貓）的硬件實現，我們將使用ADI公司開發的帶硬件CNN加速器的 MAX78000 人工智能微控製器來演示。

1 通常使用sigmoid、tanh或ReLU函數。

2 ReLU：修正線性單元。對於該函數

，輸入值為負時，輸出為零

；輸入值大於零時
，輸出值為輸入值。

免責聲明：本文為轉載文章，轉載此文目的在於傳遞更多信息，版權歸原作者所有。本文所用視頻、圖片、文字如涉及作品版權問題，請聯係小編進行處理。

推薦閱讀：

電能質量監測第2部分：符合標準的電能質量儀表的設計考慮因素

如何為非GEO空間應用選擇天線前端組件

如何為ATE應用創建具有拉電流和灌電流功能的雙輸出電壓軌

精密係統的實用RTI計算

如何利用超級電容設計簡單的不間斷電源