第 35卷 第 13期 農(nóng) 業(yè) 工 程 學(xué) 報(bào) V ol.35 N o.13 162 2019年 7月 Transactions of the Chinese Society of Agricultural Engineering J ul. 2019 基于改進(jìn) Multi-Scale AlexNet的番茄葉部病害圖像識別郭小清，范濤杰，舒 欣 （南京農(nóng)業(yè)大學(xué)信息科技學(xué)院，南京 210095） 摘 要：番茄同種病害在不同發(fā)病階段表征差異明顯，不同病害又表現(xiàn)出一定的相似性，傳統(tǒng)模式識別方法不能體現(xiàn)病 害病理表征的動(dòng)態(tài)變化，實(shí)用性較差。針對該問題，基于卷積神經(jīng)網(wǎng)絡(luò)提出一種適用于移動(dòng)平臺的多尺度識別模型，并 基于此模型開發(fā)了面向農(nóng)業(yè)生產(chǎn)人員的番茄葉部病害圖像識別系統(tǒng)。該文詳細(xì)描述了 AlexNet 的結(jié)構(gòu)，分析其不足，結(jié) 合番茄病害葉片圖像特點(diǎn)，去除局部響應(yīng)歸一化層、修改全連接層、設(shè)置不同尺度卷積核提取特征，設(shè)計(jì)了基于 AlexNet 的多感受野識別模型，并基于 Android 實(shí)現(xiàn)了使用此模型的番茄葉部病害圖像識別系統(tǒng)。Multi-ScaleAlexNet 模型運(yùn)行所 耗內(nèi)存為 29.9MB，比原始 AlexNet 的內(nèi)存需求 652MB 降低了 95.4%，該模型對番茄葉部病害及每種病害早中晚期的平 均識別準(zhǔn)確率達(dá)到 92.7%，基于此模型的 Andriod端識別系統(tǒng)在田間的識別率達(dá)到 89.2%，能夠滿足生產(chǎn)實(shí)踐中移動(dòng)平臺 下的病害圖像識別需求。研究結(jié)果可為基于卷積神經(jīng)網(wǎng)絡(luò)的作物病害圖像識別提供參考，為作物病害的自動(dòng)化識別和工 程化應(yīng)用參考。 關(guān)鍵詞：圖像處理；病害；圖像識別；算法；卷積神經(jīng)網(wǎng)絡(luò)；番茄病害；多尺度 doi：10.11975/j.issn.1002-6819.2019.13.018 中圖分類號： S511 文獻(xiàn)標(biāo)志碼：A 文章編號：1002-6819(2019)-13-0162-08 郭小清，范濤杰，舒 欣. 基于改進(jìn)Multi-Scale AlexNet的番茄葉部病害圖像識別J. 農(nóng)業(yè)工程學(xué)報(bào)，2019，35(13)： 162169. doi：10.11975/j.issn.1002-6819.2019.13.018 http :/www.tcsae.org Guo Xiaoqing, Fan Taojie, Shu Xin. Tomato leaf diseases recognition based on improved Multi-Scale AlexNet J. Transactions of the Chinese Society of Agricultural Engineering (Transactions of the CSAE), 2019, 35(13): 162169. (in Chinese with English abs tract) doi：10.11975/j.issn.1002-6819.2019.13.018 http :/www.tcsae.org 0 引 言 番茄葉部發(fā)生病害會嚴(yán)重影響產(chǎn)量與品質(zhì)，且諸多 病害都是從葉部開始發(fā)病，進(jìn)而蔓延到整個(gè)植株 1 ，及時(shí) 準(zhǔn)確地識別出葉部病害類型是病害綜合防治的關(guān)鍵。近 年來，基于圖像的模式識別技術(shù)在農(nóng)作物病害診斷領(lǐng)域 取得廣泛應(yīng)用 2-4 。傳統(tǒng)針對作物病害識別的算法是通過 提取、篩選顏色、紋理、形狀等特征來進(jìn)行的，但同種 病害在不同發(fā)病階段病癥差異明顯，多種病害可能表現(xiàn) 出相似的病理表征，這些復(fù)雜的自然因素使傳統(tǒng)的模式 識別方法在解決番茄病害識別問題時(shí)普適性較差?；?圖像的病害識別本質(zhì)上是圖像分類問題，深度卷積神經(jīng) 網(wǎng)絡(luò)在圖像識別領(lǐng)域的應(yīng)用是新的研究熱點(diǎn) 5-12 。楊國國 等 13 利用圖像的顯著性分析定位茶園害蟲的位置，通過 縮減網(wǎng)絡(luò)層數(shù)、減少卷積核數(shù)目等改進(jìn) AlexNet 14 模型， 并結(jié)合 Dropout 等優(yōu)化方法提升了模型的準(zhǔn)確性與效率， 優(yōu)化后的模型對茶園 23 種害蟲平均識別準(zhǔn)確率達(dá)到 88.1%。孫俊等 15 通過使用 Batch Normalization、Global Average Pooling 16 、縮小卷積核尺寸等方法改進(jìn) AlexNet 網(wǎng)絡(luò)模型，提升了準(zhǔn)確率，減少了模型所需參數(shù)，對簡 單背景下 14 種作物的 26 種病害識別平均準(zhǔn)確率達(dá)到收稿日期：2018-09-24 修訂日期：2019-02-18 基金項(xiàng)目：中央高校基本業(yè)務(wù)費(fèi)項(xiàng)目(KYZ201547)；國家自然科學(xué)基金項(xiàng)目 (61602248)；江蘇省自然科學(xué)青年基金項(xiàng)目(BK20160741) 作者簡介：郭小清，山西繁峙人，博士，講師，主要從事基于視覺的作物病 害診斷、機(jī)器學(xué)習(xí)方面研究。Email：gxqingnjau.deu.cn 99.56%，對田間的復(fù)雜背景識別率較低。王艷玲等 17 將 遷移學(xué)習(xí)應(yīng)用于原始 AlexNet 網(wǎng)絡(luò)中，對 10 種類別番茄 葉片的平均識別準(zhǔn)確率達(dá)到 95.62%。 Aravind 等 18 利用原 始 AlexNet、VGG16 網(wǎng)絡(luò)，結(jié)合遷移學(xué)習(xí)分別在識別 7 種分割后的番茄葉片上取得 97.29%、97.49%的準(zhǔn)確率。 采用遷移學(xué)習(xí)雖然可以使模型快速收斂，達(dá)到較好地識 別效果，但也受限于必須使用原始的網(wǎng)絡(luò)結(jié)構(gòu)，原始 AlexNet 和 VGG16 模型結(jié)構(gòu)復(fù)雜，參數(shù)眾多，極大的限 制了模型的實(shí)際應(yīng)用和部署。 相較于傳統(tǒng)的模式識別方法，基于深度卷積網(wǎng)絡(luò) （convolutional neural network, CNN）的病害識別方法摒 棄了復(fù)雜的圖像預(yù)處理和特征提取操作， 采用端到端的結(jié) 構(gòu)簡化了識別流程。在 ILSVRC 競賽中涌現(xiàn)的 AlexNet、 VGG 19 、 ResNet 20 、 Inception 21-24 等不斷刷新通用目標(biāo)識 別的準(zhǔn)確率。也有學(xué)者根據(jù)移動(dòng)設(shè)備和嵌入式設(shè)備的應(yīng) 用需求，改進(jìn)設(shè)計(jì)了輕量化的卷積模型，典型的代表有 MobileNet 25 、SqueezeNet 26 等，但鮮少相關(guān)實(shí)踐應(yīng)用的 報(bào)道。本文將依據(jù)最新的 CNN 理論研究成果與番茄葉部 病害圖像本身的特點(diǎn)，研究并開發(fā)面向農(nóng)戶的番茄葉部 典型病害識別系統(tǒng)，以期為作物病害的自動(dòng)化識別和工 程化應(yīng)用提供參考。 1 數(shù)據(jù)來源 1.1 樣本數(shù)據(jù) 本文的番茄葉部圖像數(shù)據(jù)，一部分(5 127 張)取自 PlantVillage(http:/www.plantvillage.org)數(shù)據(jù)庫，該數(shù)據(jù)庫第 13期 郭小清等：基于改進(jìn) Multi-Scale AlexNet的番茄葉部病害圖像識別 163 收錄了大量的植物病害圖像。一部分(639 張)拍攝于南京 農(nóng)業(yè)大學(xué)牌樓基地，采用索尼 DSC-WX350，分辨率 4 896×3 672 像素，自動(dòng)白平衡、光學(xué)對焦，在戶外晴天 對番茄葉部正面主體進(jìn)行拍攝，從番茄種植到收獲完畢 的整個(gè)生育期內(nèi)共采集到 8 種類別的番茄葉部圖像樣本 (健康樣本和 7 種病害樣本)，且每種病害圖像樣本包含不 同的發(fā)病階段。 從獲取的番茄病害樣本可知，番茄病害的識別主要 有以下 2個(gè)難點(diǎn)： 1）不同病害的表征具有一定的相似性; 2）同種病害不同的發(fā)育階段表征差異明顯。 1.2 數(shù)據(jù)增強(qiáng) 獲取的各類病害樣本分布極不均勻，細(xì)菌性斑點(diǎn)病 989張，斑枯病 243 張，黃曲病 373張，早疫病 586 張， 晚疫病 953 張，花葉病 952 張，輪斑病 1 036張，健康樣 本 634 張。在深度學(xué)習(xí)中，樣本分布不均勻會影響模型 識別的準(zhǔn)確率 27-28 ，故對數(shù)量較少的樣本數(shù)據(jù)進(jìn)行增強(qiáng) 處理。數(shù)據(jù)增強(qiáng)時(shí)要符合實(shí)際應(yīng)用條件，不能隨意擴(kuò)增， 例如顏色是不同病害的主要表征之一，在做圖像增強(qiáng)時(shí) 不能改變原來圖像的顏色。為模擬自然拍攝條件下的復(fù) 雜環(huán)境影響，在 Tensorflow框架下結(jié)合 opencv 完成樣本 圖像數(shù)據(jù)增強(qiáng)。主要采用如下數(shù)據(jù)增強(qiáng)手段：1）隨機(jī)裁 剪(Random Crop)：在較大圖像的不同區(qū)域隨機(jī)裁剪出局 部圖像從而得到更多的數(shù)據(jù)。2）翻轉(zhuǎn)(Flip)：沿著圖像的 水平方向和垂直方向進(jìn)行翻轉(zhuǎn)，不會改變病斑部分與健 康部分的相對位置，模擬自然條件下的拍攝角度的隨機(jī) 性。3）旋轉(zhuǎn)(Rotation)：以圖像中心為原點(diǎn)旋轉(zhuǎn)一定的角 度獲取新的圖像。4）顏色抖動(dòng)(Color Jittering)：改變圖 像的亮度、飽和度、對比度、色調(diào)等。由于色調(diào)是區(qū)分 番茄不同病斑的重要指標(biāo)，模擬自然環(huán)境下拍攝時(shí)的亮 度差異，僅改變圖像的亮度。5）縮換變化(Zoom)：按照 一定比例放大或縮小圖像，有助于識別多種尺度下的目 標(biāo)。6）添加噪聲(Add Noise)：對圖像添加一定的噪聲可 以得到新的圖像，本文對圖像添加椒鹽噪聲和高斯噪聲， 模擬拍攝不同清晰條件的樣本。增強(qiáng)后的樣本數(shù)據(jù)集為： 細(xì)菌性斑點(diǎn)病 989 張，斑枯病 945張，黃曲病 1 086 張， 早疫病 1 129 張，晚疫病 953 張，花葉病 952 張，輪斑病 1 036 張，健康 1 259 張。 1.3 試驗(yàn)環(huán)境 本文所使用的試驗(yàn)平臺為 Ubuntu 16.04LTS，內(nèi)存為 16GB，搭載 Intel® Core i7-6700hq， 2.4GHz x8 處理 器，顯卡 NVIDIA GeForce 960m(4G)，采用深度學(xué)習(xí)框架 Tensorflow1.4 19 和 Keras2.1 21 。 2 改進(jìn) Multi-scale AlexNet模型 2.1 AlexNet結(jié)構(gòu)與不足 AlxeNet 發(fā)表于 2012 年，并以顯著優(yōu)勢獲得了年度 ILSVRC 競賽冠軍。AlexNet網(wǎng)絡(luò)要求輸入圖像的尺寸為 (224×224×3)，共計(jì) 8 層。第一層接受圖像輸入后，經(jīng)過 卷積層、局部響應(yīng)歸一化層和最大池化層，輸出形狀為 (27×27×96)的張量并向下傳遞； 第二層的數(shù)據(jù)流向依次為 卷積層、最大池化層和局部響應(yīng)歸一化層，輸出張量形 狀為(13×13×256)；第三層和第四層分別只包含一個(gè)卷積 層，經(jīng)過 2 層的卷積操作后輸出形狀為(13×13×384)；第 五層的數(shù)據(jù)流向依次為卷積層和最大池化層，輸出形狀 為(6×6×256)；第六層和第七層為全連接層，每層各有神 經(jīng)單元 4 096 個(gè)(6×6×256=4 096)，文獻(xiàn)29中作者為減輕 過擬合，在第六層和第七層設(shè)置了 dropout，取值為 0.5； 第八層為輸出層。 AlexNet 用到的諸多技巧為卷積神經(jīng)網(wǎng)絡(luò)的工業(yè)化 應(yīng)用奠定了基礎(chǔ)， 但 AlexNet整個(gè)網(wǎng)絡(luò)模型包含 6億 3000 萬個(gè)連接，6 000 萬個(gè)參數(shù)和近 65 萬個(gè)神經(jīng)元，過多的 參數(shù)使模型在訓(xùn)練中極易出現(xiàn)過擬合現(xiàn)象。采用 Tensorflow 框架訓(xùn)練完畢后的模型文件 652 MB，嚴(yán)重限 制了 AlexNet在移動(dòng)平臺的應(yīng)用。 2.2 多尺度 AlexNet模型設(shè)計(jì) 針對 AlexNet模型的局限性、 番茄病害識別的難點(diǎn)及 移動(dòng)平臺存儲空間和運(yùn)算速度有限的應(yīng)用需求，在保證 病害識別模型準(zhǔn)確率的前提下，盡可能縮減模型大小、 提升運(yùn)行效率。 2.2.1 改進(jìn)設(shè)計(jì)步驟 1）去除局部響應(yīng)歸一化層 局部響應(yīng)歸一化(local response normalization, LRN) 來源于神經(jīng)生物學(xué)中的側(cè)抑制機(jī)制，即被激活的神經(jīng)元 會抑制相鄰的神經(jīng)元，歸一化的目的是起到“抑制”作 用。在卷積神經(jīng)網(wǎng)絡(luò)的發(fā)展中，LRN 逐漸被摒棄，經(jīng)典 的卷積模型 VGGNet、 ResNet、 GoogleNet等都去除了 LRN 結(jié)構(gòu)。VGGNet 作者在其 2014 年的論文中指出：LRN 沒 有提升卷積網(wǎng)絡(luò)在 ILSVRC 數(shù)據(jù)集上的性能，卻增加了 運(yùn)算時(shí)間。 基于上述原因 Multi-Scale AlexNet模型去除了 LRN 結(jié)構(gòu)。 2）修改全連接層 全連接層通常置于卷積神經(jīng)網(wǎng)絡(luò)的后端，起到分類 的作用。在用于圖像識別時(shí)，會使得特征權(quán)值過于密集， 從而造成模型的過擬合，增加模型訓(xùn)練的難度。近年來 的研究 20-24 表明，通過對網(wǎng)絡(luò)結(jié)構(gòu)的高效設(shè)計(jì)，可以通 過簡化全連接層減少模型的參數(shù)。參考已有研究成果 13 ， 對 Multi-Scale AlexNet 全連接層做了去除 fc6、fc7，添加 平均池化的結(jié)構(gòu)設(shè)計(jì)。 3）添加多種感受野尺寸 對輸入圖像用不同尺寸的卷積核進(jìn)行卷積，可以同 時(shí)提取多種局部特征，得到不同特征上的響應(yīng)。深度卷 積神經(jīng)網(wǎng)絡(luò)中，底層卷積提取邊緣、顏色、紋理等簡單 信息，高層卷積完成特征的抽象，卷積層越靠后，提取 的信息越接近目標(biāo)對象 30 。 AlexNet模型中的第一層采用了 11×11的大尺寸卷積 核，通常認(rèn)為在底層設(shè)置大尺寸卷積更趨向于響應(yīng)粗粒 度特征 (如邊緣、輪廓特征) 15 。識別番茄葉部的不同病 害時(shí)，需要考慮如下問題: 1)病害發(fā)病初期，病斑微小， 捕捉細(xì)節(jié)紋理困難，造成模型的過擬合，增加模型訓(xùn)練 難度。微小的顏色差異(細(xì)粒度特征)是區(qū)分不同病害的關(guān) 鍵。圖 1 中分別代表發(fā)病早期的番茄細(xì)菌性斑點(diǎn)病、輪 斑病、早疫病、晚疫病、斑枯病、花葉病、黃曲病和健農(nóng)業(yè)工程學(xué)報(bào)（http:/www.tcsae.org） 2019年 164 康葉片，每幅圖像中圓圈部分代表葉片的發(fā)病部位，病 斑微小，與健康葉片的差異不大，病斑的邊緣、輪廓等 信息不明顯，肉眼難以區(qū)分。 2)不同病害在發(fā)病的某個(gè)階 段表現(xiàn)出相似的顏色、紋理、輪廓特征。圖 2 表示細(xì)菌 性斑點(diǎn)病、早疫病、斑枯病 3 種病害發(fā)病圖中晚期。3 種 病害的病斑中心都呈現(xiàn)出棕色的斑點(diǎn)，斑點(diǎn)外圍變黃并 向四周蔓延。3 種病害在顏色、輪廓和紋理等方面表現(xiàn)出 一定的相似性。3)同一種病害在不同發(fā)病階段，病癥差異 明顯。圖 3代表番茄花葉病的早、中、晚發(fā)病圖，和番茄 早疫病的早、中、晚發(fā)病圖。隨著病情持續(xù)，病斑輪廓、 邊緣差異加大，葉片在輪廓、顏色、紋理等方面均表現(xiàn)出 明顯的差異。已有的相關(guān)病害識別文獻(xiàn)2-4,13,15,29,31在 識別多種病害時(shí)，鮮少考慮以上問題。 綜上所述，識別番茄葉部病害類別，既要考慮不同 病害的細(xì)粒度特征，又要考慮不同病害的粗粒度特征， 綜合提取多種特征是表征病害動(dòng)態(tài)變化的關(guān)鍵。因此在 Multi-Scale AlexNet模型第一層設(shè)置不同尺寸的卷積核， 以改善網(wǎng)絡(luò)底層對不同粒度特征的響應(yīng)。 圖 1 番茄典型病害早期發(fā)病葉部圖像 Fig.1 Early pathogenesis of typical tomato diseases 圖 2 番茄細(xì)菌性斑點(diǎn)病、早疫病、斑枯病葉部圖像 Fig.2 Bacterial speck, early blight, spot blight of tomato 圖 3 番茄花葉病、早疫病在不同階段的發(fā)病圖 Fig.3 Infected pictures of different stages of tomato mosaic disease and early blight 采用 4 種不同尺度 ( 1×1 )、(3×3)、(5×5)和(7×7)，個(gè) 數(shù)分別為 32、32、16 和 16 的卷積核并行提取樣本圖像 特征，然后合并為同一個(gè)張量繼續(xù)向下傳遞。這四種尺 寸的卷積核在 VGGNet、Inception 系列、ResNet 中被廣 泛使用，充分驗(yàn)證了其在圖像識別、目標(biāo)定位中的優(yōu)越 性。因采用了多尺寸卷積結(jié)構(gòu)。 2.2.2 模型結(jié)構(gòu)與參數(shù)設(shè)置 Multi-Scale AlexNet 共計(jì) 6 層，部分參數(shù)設(shè)置參考 原 AlexNet 模型，整個(gè)網(wǎng)絡(luò)模型的詳細(xì)結(jié)構(gòu)和參數(shù)如圖 4 所示。 圖 4 Multi-Scale AlexNet結(jié)構(gòu)與參數(shù) Fig.4 Structure and parameters of Multi-Scale AlexNet 2.3 評價(jià)指標(biāo) 移動(dòng)平臺的性能約束，要求識別模型在保證精度的 同時(shí)快速響應(yīng)用戶的操作，并盡可能壓縮模型運(yùn)行的內(nèi) 存需求，以便于提供良好的用戶體驗(yàn)。因此采用移動(dòng)端 較敏感的 3 個(gè)指標(biāo)評價(jià)識別系統(tǒng)的性能。 2.3.1 平均識別準(zhǔn)確率 平均識別準(zhǔn)確率(average accuracy, AA)是檢驗(yàn)?zāi)Ｐ托?能的最重要指標(biāo)。 s n i i ii s n n n 1 1（1） 式中 s n 為樣本的類別總數(shù)（本文針對番茄的 8 種樣本類 別， 因此 s n =8。 ） ； 8 , 1 i 為樣本類別標(biāo)簽； i n 表示第 i 類第 13期 郭小清等：基于改進(jìn) Multi-Scale AlexNet的番茄葉部病害圖像識別 165 樣本的總個(gè)數(shù)； ii n 表示第 i 類樣本預(yù)測結(jié)果為 i 的總個(gè)數(shù) (即每類樣本中預(yù)測正確的個(gè)數(shù))。 2.3.2 前向傳播速率和反向傳播速率 模型的運(yùn)行速率是影響模型應(yīng)用的重要指標(biāo)。前向 傳播速率(forward propagation rate, FPR)指樣本數(shù)據(jù)從輸 入網(wǎng)絡(luò)到輸出結(jié)果所用的時(shí)間，前向傳播速率越短，表 示模型識別速度越快。反向傳播速率(backward propaga- tion rate, BPR)指網(wǎng)絡(luò)權(quán)重與偏置從輸出層到輸入層更新 一輪所用的時(shí)間，反向傳播速率越短，表示模型更新迭 代的速度越快，有利于模型的訓(xùn)練和更新。 FPR ep n i f ep t n 1 1（2） B P R ep n i b ep t n 1 1（3） 式中 ep n 表示試驗(yàn)輪數(shù)，本文共測試 600 輪，因此 600 ep n ； f t 表示每輪前向傳播所用時(shí)間，ms； b t 表示 每輪反向傳播所用時(shí)間，ms。 2.3.3 內(nèi)存需求 內(nèi)存需求是影響模型在移動(dòng)平臺應(yīng)用的重要指標(biāo)。 移動(dòng)平臺內(nèi)存空間有限，運(yùn)行消耗的內(nèi)存過大會導(dǎo)致應(yīng) 用啟動(dòng)慢、后臺易殺死、系統(tǒng)更新耗費(fèi)流量等問題，嚴(yán) 重影響用戶的使用體驗(yàn)。因此在保證精度的同時(shí)，盡可 能壓縮模型大小，是模型在移動(dòng)平臺應(yīng)用的關(guān)鍵。 2.4 試驗(yàn)分析 對比試驗(yàn)均采用 AdamOptimizer 優(yōu)化更新參數(shù)，初 始學(xué)習(xí)率設(shè)定為 0.003，損失函數(shù)為交叉熵(cross-en- tropy)，權(quán)值初始化方法采用 Xavier，偏置全部初始化為 0，分類層采用 softmax 函數(shù)，每個(gè)模型更新迭代(epo- ch)1 200 次， 每個(gè)批次(BatchSize)32 個(gè)樣本， 訓(xùn)練過程中， 每次迭代輸入之前會隨機(jī)打亂(shuffle)。 以增強(qiáng)后的 8 349 張圖像為基準(zhǔn)數(shù)據(jù)集，訓(xùn)練集、驗(yàn)證集、測試集比例為 7:2:1。 本文設(shè)計(jì)了 5 種試驗(yàn)方案 （表 1所示） 進(jìn)行性能分析。 表 1 試驗(yàn)方案 Table 1 Experiment scheme LRN層 LRN layer 全連接層設(shè)計(jì) Full connected layer 尺度設(shè)計(jì) Scale design 方案 編號 Sch- eme No. 保留 Preserve 去除 Remove 原始 Original 去除 fc6、 fc7， 添加平 均池化 Remove fc6 and 7, add average pooling 去除 fc6、 fc7，添加最 大池化 Remove fc6 and 7, add maximum pooling 原尺寸卷 積核 Original size convolution kernel 多尺寸卷 積核 Multi scale convolution kernel 1 2 3 4 5 2.4.1 改進(jìn)后性能分析 1）局部響應(yīng)歸一化層對模型的影響 由表 2 可知，去除 LRN 層后，模型大小無變化， 識別準(zhǔn)確性僅下降 0.6 個(gè)百分點(diǎn)，但前向傳播速率和反 向傳播速率顯著加快。因此后續(xù)對比試驗(yàn)以方案 2 為基 礎(chǔ)去除 LRN層。 表 2 各試驗(yàn)方案性能對比 Table 2 Comparison test of all experiment schemes 方案編號 Scheme No. 測試集平均準(zhǔn)確率 Average accuracy on test dataset/% 前向傳播速率 Forward propa- gation rate/ms 反向傳播速率 Back propa- gation rate/ms 內(nèi)存需求 Memory/MB 1 88.3 61 219 652 2 87.7 43 141 652 3 89.5 38 113 30.2 4 88.9 38 114 30.2 5 92.7 43 125 29.9 2）全連接層設(shè)計(jì)對模型的影響 去除 LRN 層后，分別將全連接層修改為全局平均池 化和全局最大池化后的試驗(yàn)對比。 由方案 2、3、4 可知，AlexNet模型的參數(shù)幾乎全部 集中于全連接層，重新設(shè)計(jì)全連接層后，模型大小僅相 當(dāng)于原來的 4.3%，模型大小縮減為 30.2 MB。方案 5 的 內(nèi)存需求比原始 AlexNet 的內(nèi)存需求 652 MB 降低了 95.4%。簡化全連接層不僅提升了準(zhǔn)確性，也提升了模型 的前向傳播速率和反向傳播速率，適于模型在移動(dòng)平臺 的應(yīng)用。由表 2 可知，添加全局平均池化后的模型準(zhǔn)確 率最高，故后續(xù)改進(jìn)以方案 3 為基礎(chǔ)在全連接層采用全 局平均池化。 3）多尺度感受野對模型的影響 引入多尺度感受野后的 AlexNet 模型在測試集上的 準(zhǔn)確率提升了 3.2 個(gè)百分點(diǎn)， 表明引入多尺度感受野后模 型提取的特征更能準(zhǔn)確的表征不同病害。由于采用了多 個(gè)較小尺寸的卷積核，模型參數(shù)減少，模型運(yùn)行所需的 內(nèi)存需求降低，但多個(gè)卷積操作稍微增加了模型的運(yùn)行 時(shí)間。 2.4.2 與其他識別模型對比 選取 2 類識別模型進(jìn)行對照試驗(yàn)。一類是基于傳統(tǒng) 模式識別的方法 31 ，該方法在病害診斷領(lǐng)域應(yīng)用廣泛。 另一類是基于深度學(xué)習(xí)的方法，近年來已在病害識別、 分割等領(lǐng)域初步應(yīng)用。 1）與傳統(tǒng)模式識別方法的對比與分析 對照試驗(yàn)的設(shè)計(jì)過程參考文獻(xiàn)31，該文獻(xiàn)設(shè)計(jì)了一 種基于顏色、紋理加 SVM的病害識別方法。數(shù)據(jù)集包含 7 種病害樣本早、中、晚 3個(gè)不同的發(fā)病階段，訓(xùn)練集、 驗(yàn)證集、測試集比例為 7:2:1。由于傳統(tǒng)模式識別方法在 特征提取、圖像分割部分不支持 GPU加速，2 種方法的 對比試驗(yàn)在相同的 CPU上進(jìn)行， 識別時(shí)間表示識別單張 圖像的平均用時(shí)，重復(fù) 600輪。試驗(yàn)結(jié)果（表 3）表明： Multi-Scale AlexNet 對圖像的輸入要求低，能在更短的 時(shí)間內(nèi)完成病害識別任務(wù)，在保留背景且不進(jìn)行病斑分 割的條件下，其在識別早、中、晚 3 個(gè)不同發(fā)病階段的 病害葉片時(shí)，均取得較高的識別準(zhǔn)確率，且整體識別準(zhǔn)農(nóng)業(yè)工程學(xué)報(bào)（http:/www.tcsae.org） 2019年 166 確率達(dá)到 92.7%。 表 3 Multi-Scale AlexNet與傳統(tǒng)模式識別方法的試驗(yàn)對比 Table 3 Comparative test between Multi-Scale AlexNet and traditional pattern recognition method 測試集準(zhǔn)確率 Average accuracy on test dataset/% 方法 Method 分割病斑 Segmented disease spot 保留背景 Reserve backgrou nd 識別時(shí)間 Recogniti on time (CPU)/ms 早期 Early stage (227張) 中期 Mid-sta ge (325張) 晚期 Late stage (284張) 平均 Average 文獻(xiàn)31 否 否 272 13.2 31.1 37.0 28.2 文獻(xiàn)31 是 否 327 31.7 66.8 69.4 58.1 Multi-Scal e AlexNet 否 是 127 86.8 94.2 95.8 92.7傳統(tǒng)模式識別方法對圖像的輸入要求苛刻，在進(jìn)行 分類之前，圖像需要經(jīng)過去背景、病斑分割等復(fù)雜流程， 這些預(yù)處理流程嚴(yán)重影響了模型的識別速度和識別精 度，且提取有限的顏色、紋理、形狀特征不能準(zhǔn)確地反 映病害特征的動(dòng)態(tài)變化。同種病害在不同的發(fā)病階段其 顏色、紋理、形狀差異明顯，導(dǎo)致傳統(tǒng)模式識別方法在 識別不同發(fā)病階段的病害時(shí)，準(zhǔn)確性存在較大差異；而 不同病害又具有一定的相似性，因此其整體識別準(zhǔn)確率 偏低。 2) 與其他卷積神經(jīng)神經(jīng)網(wǎng)絡(luò)的對比與分析 目前采用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行病害識別的文獻(xiàn)較少， 本文選取了 3 種具有代表性的卷積結(jié)構(gòu)進(jìn)行對比試驗(yàn)。 第一種是基于 MobileNet的識別方法， 該方法谷歌于 2017 年發(fā)布，是一種小尺寸、高精度的卷積模型，能夠滿足 移動(dòng)平臺的圖像識別需求；第二種是基于彈性動(dòng)量的卷 積神經(jīng)網(wǎng)絡(luò)方法 29 ， 該方法在 LeNet-5 32 的基礎(chǔ)上改進(jìn)得 來，其在識別果體病害圖像方面取得了較好的效果；第 3 種是基于 SequeezeNet的識別方法， 該方法通過高效的卷 積設(shè)計(jì)，在保證精度的同時(shí)極大的縮減了模型大小。對 比試驗(yàn)在相同的 GPU 上測試輸入單張圖像(BatchSize=1) 的平均耗時(shí)，共測試 600 輪，對比后果見表 4。 表 4 Multi-Scale AlexNet與其他卷積網(wǎng)絡(luò)模型的試驗(yàn)對比 Table 4 Comparison of Multi-Scale AlexNet and other convolutional network models 測試集準(zhǔn)確率 Average accuracy on test dataset/% 方法 Method 圖像輸入 要求 Image input size 識別時(shí)間 Recogniti on time (GPU)/ms 內(nèi)存需 求 Memory/ MB 早期 Early stage (227張) 中期 Mid- stage (325張) 晚期 Late stage (284張) 平均 Average MobileNet 224 × 224×3 141 37.9 89.9 92.9 92.2 91.9 LeNet-5 28×28×3 2 0.8 20.7 26.8 33.5 27.4 SequeezeNet 224× 224×3 152 13 86.9 90.5 88.4 88.8 Multi-Scale AlexNet 224× 224×3 122 29.9 86.8 94.2 95.8 92.7試驗(yàn)結(jié)果表明，LeNet-5 準(zhǔn)確性最差，原因在于 LeNet-5 要求圖像的輸入尺寸較低，病害圖像在壓縮后大 量的有用信息被丟棄導(dǎo)致其準(zhǔn)確率只有 27.4%。 MobileNet 在未經(jīng)任何優(yōu)化的前提下，依然得到了 91.9% 的準(zhǔn)確率，表明其所采用的深度可分卷積(Depthwise Convolutional)單元具有一定的泛化性。番茄病斑在中晚 期開始擴(kuò)大和蔓延，由于 MobileNet和 SequeezeNet 大量 采用 1×1 和 3×3 的小尺寸卷積核，因此其在識別發(fā)病中 期和晚期的圖片時(shí)準(zhǔn)確率均低于 Multi-Scale AlexNet, 表 明增加多種尺度感受野有利于識別不同發(fā)病階段的病 害。由于 MobileNet 采用的深度可分離卷積單元和 SequeezeNet 采用的 fire model 結(jié)構(gòu)，網(wǎng)絡(luò)內(nèi)部均涉及數(shù) 量眾多的小尺寸卷積操作和頻繁的特征拼接，故耗時(shí)較 長。 Multi-Scale AlexNet相比與 MobileNet和 SequeezeNet， 圖像輸入尺寸一致，識別時(shí)間更短，準(zhǔn)確率最高，綜合 三種評價(jià)指標(biāo)，更適合在移動(dòng)平臺識別不同發(fā)病階段的 番茄病害。 3 基于Multi-Scale AlexNet模型的番茄葉部病害 識別系統(tǒng) 以 Multi-Scale AlexNet 模型為基礎(chǔ)，開發(fā)基于 Android 平臺的番茄葉部病害識別系統(tǒng)。系統(tǒng)的設(shè)計(jì)流 程如圖 5 所示。Multi-Scale AlexNet 要求輸入格式為彩 色圖像，用戶采集任意尺寸上傳后，系統(tǒng)通過縮放將圖 像尺寸統(tǒng)一為 224×224×3。由于 Multi-Scale AlexNet 模 型分類層采用的是 softmax 函數(shù)，該函數(shù)會輸出各類別 的概率分布，系統(tǒng)會把最大概率值所對應(yīng)的標(biāo)簽作為結(jié) 果向用戶返回。由于在圖像輸入環(huán)節(jié)存在諸多不確定 性，此處設(shè)定閾值為 0.5，當(dāng)最大類別標(biāo)簽的概率值大 于或等于 0.5 時(shí)，向用戶返回識別結(jié)果，概率值小于 0.5時(shí)，請求用戶重新輸入一張圖片。出于交互友好性 考慮，圖像的輸入提供現(xiàn)場拍攝和本地上傳 2 種方式， 識別結(jié)果除了向用戶直接展示， 也可以將識別結(jié)果以截 圖的形式保存于本地，方便用戶查看，系統(tǒng)運(yùn)行界面如 圖 6 所示。 圖 5 番茄病害識別系統(tǒng)流程設(shè)計(jì) Fig.5 Process designment of tomato disease identification system 第 13期 郭小清等：基于改進(jìn) Multi-Scale AlexNet的番茄葉部病害圖像識別 167 圖 6 基于 Android的病害識別系統(tǒng)界面 Fig.6 Interface of disease identification system based on Android 系統(tǒng)完成后用自采集樣本(87 張， 取自測試集)進(jìn)行工 程化測試，測試結(jié)果如表 5 所示。 表 5 Android平臺番茄葉部病害識別系統(tǒng)應(yīng)用測試 Table 5 Application test of tomato leaf disease recognition system based on Android platform 測試集中自采集樣本準(zhǔn)確率 Accuracy on self-collected samples from test database/% 圖像輸入 要求 Image input size 測試設(shè)備 Test device 識別時(shí)間 Recognition time (CPU)/ms 早期 Early stage (12張) 中期 Mid-stage (36張) 晚期 Late stage (39張) 平均 Average 彩色圖像 Color image MEIZU note6 (Android6.0) 212 84.0 89.1 94.6 89.2識別系統(tǒng)能夠在普通安卓平臺完成 5 幀/s 左右的識 別速度，由于自采集樣本較開源數(shù)據(jù)集背景復(fù)雜，因此 測試結(jié)果準(zhǔn)確率偏低。后續(xù)將加入基于深度學(xué)習(xí)的快速 定位、分割等算法，排除背景干擾，提升實(shí)踐性能。 4 結(jié) 論 本文在分析 AlexNet 結(jié)構(gòu)和詳細(xì)參數(shù)的基礎(chǔ)上指出 其存在的不足，結(jié)合 8 種番茄葉部圖像樣本的識別難點(diǎn) 及移動(dòng)端對病害圖像識別模型的運(yùn)行要求，設(shè)計(jì)了 Multi-Scale AlexNet 模型，并基于此模型實(shí)現(xiàn) Android 端的識別系統(tǒng)。去除局部響應(yīng)歸一化層 LRN、簡化全連 接層的設(shè)計(jì)能夠加快識別模型的運(yùn)行速率，縮減模型所 需參數(shù)；引入多尺度感受野提取特征能更準(zhǔn)確地表征不 同病害，也有利于提升不同發(fā)病階段病害的識別準(zhǔn)確 率。與傳統(tǒng)模式識別方法及其他卷積神經(jīng)網(wǎng)絡(luò)模型的對 比試驗(yàn)顯示，該模型能較好地平衡識別準(zhǔn)確率和運(yùn)行所 耗的內(nèi)存需求，運(yùn)行效率高，模型的平均識別準(zhǔn)確率達(dá) 到 92.7%?；谠撃Ｐ蛯?shí)現(xiàn)的番茄病害識別系統(tǒng)，能夠 在普通安卓平臺完成 5 幀/s 的識別速度，并在自采集樣 本上達(dá)到 89.2%的識別準(zhǔn)確性，初步滿足移動(dòng)平臺番茄 病害識別的生產(chǎn)需求。 參 考 文 獻(xiàn) 1 蘇春國. 番茄常見病蟲害綜合防治建議J. 農(nóng)民致富之友, 2017(23): 155. 2 劉濤，仲曉春，孫成明，等. 基于計(jì)算機(jī)視覺的水稻葉部 病害識別研究J. 中國農(nóng)業(yè)科學(xué)，2014，47(4): 664674. Liu Tao, Zhong Xiaochun, Sun Chengming, et al. Recognition of rice leaf diseases based on computer visionJ. Scientia Agricultura Sinica, 2014, 47(4): 664 674. (in Chinese with English abstract) 3 王美麗，牛曉靜，張宏鳴，等. 小麥葉部常見病害特征提 取及識別技術(shù)研究J. 計(jì)算機(jī)工程與應(yīng)用，2014，50(7)： 154157. Wang Meili, Niu Xiaojing, Zhang Hongming, et al. Research on feature extraction and recognition of common diseases of wheat leafJ. Computer Engineering and Applications, 2014, 50(7): 154157. (in Chinese with English abstract) 4 王獻(xiàn)鋒，張善文，王震，等. 基于葉片圖像和環(huán)境信息的 黃瓜病害識別方法J. 農(nóng)業(yè)工程學(xué)報(bào)嗎，2014，30(14)： 148153. Wang Xianfeng, Zhang Shanwen, Wang Zhen, et al. Recognition of cucumber diseases based on leaf image and environmental informationJ. Transactions of the Chinese Society of Agricultural Engineering (Transactions of the CSAE), 2014, 30(14): 148153. (in Chinese with English abstract) 5 Yi D, Lei Z, Li S Z. Age Estimation by multi-scale convolutional networkC/ Asian Conference on Computer Vision. Springer, Cham, 2014: 144158. 6 Yang H F, Lin B Y, Chang K Y, et al. Automatic age estimation from face images via deep rankingC/ Proc. British Machine Vision Conference. 2015. 7 Rothe R, T