2022 年3 月 第4 卷 第1 期 Mar 2022 Vol 4 No 1 智 慧 農 業(yè) 中 英 文 S m a r t A g r i c u l t u r e 基 于 改 進 輕 量 級 卷 積 神 經(jīng) 網(wǎng) 絡 M o b i l e N e t V 3 的 番 茄 葉 片 病 害 識 別 周 巧 黎 馬 麗 曹 麗 英 于 合 龍 吉 林 農 業(yè) 大 學 信 息 技 術 學 院 吉 林 長 春 1 3 0 1 1 8 摘 要 番 茄 病 害 的 及 時 檢 測 可 有 效 提 升 番 茄 的 質 量 和 產(chǎn) 量 為 實 現(xiàn) 番 茄 病 害 的 實 時 無 損 傷 檢 測 本 研 究 提 出 了 一 種 基 于 改 進 M o b i l e N e t V 3 的 番 茄 葉 片 病 害 分 類 識 別 方 法 首 先 選 擇 輕 量 級 卷 積 神 經(jīng) 網(wǎng) 絡 M o b i l e N e t V 3 在 I m a g e N e t 數(shù) 據(jù) 集 上 進 行 預 訓 練 將 預 訓 練 得 到 的 共 享 參 數(shù) 遷 移 到 對 番 茄 葉 片 病 害 識 別 的 模 型 上 并 做 微 調 處 理 采 用 相 同 的 訓 練 方 法 對 V G G 1 6 R e s N e t 5 0 和 I n c e p t i o n V 3 三 種 深 度 卷 積 網(wǎng) 絡 模 型 也 進 行 遷 移 學 習 并 進 行 對 比 結 果 顯 示 M o b i l e N e t V 3 的 總 體 學 習 效 果 最 好 在 M i x u p 混 合 增 強 和 f o c a l l o s s 損 失 函 數(shù) 下 對 1 0 類 番 茄 病 害 的 平 均 測 試 識 別 準 確 率 達 到 9 4 6 8 在 遷 移 學 習 的 基 礎 上 繼 續(xù) 改 進 M o b i l e N e t V 3 模 型 在 卷 積 層 引 入 空 洞 卷 積 和 感 知 機 結 構 采 用 G L U G a t e d L i ne r U ni t 閘 門 機 制 激 活 函 數(shù) 訓 練 得 到 最 佳 的 番 茄 病 害 識 別 模 型 平 均 測 試 的 識 別 準 確 率 98 25 模 型 的 數(shù) 據(jù) 規(guī) 模 43 57 M B 單 張 番 茄 病 害 圖 像 的 檢 測 耗 時 僅 0 2 7 s 經(jīng) 十 折 交 叉 驗 證 1 0 F o l d C r o s s V a l i d a t i o n 模 型 的 魯 棒 性 良 好 本 研 究 可 為 番 茄 葉 片 病 害 的 實 時 檢 測 提 供 理 論 基 礎 和 技 術 支 持 關 鍵 詞 番 茄 病 害 識 別 卷 積 神 經(jīng) 網(wǎng) 絡 遷 移 學 習 M o b i l e N e t V 3 激 活 函 數(shù) 識 別 分 類 中 圖 分 類 號 T P 3 9 1 4 1 T P 1 8 3 文 獻 標 志 碼 A 文 章 編 號 S A 2 0 2 2 0 2 0 0 3 引 用 格 式 周 巧 黎 馬 麗 曹 麗 英 于 合 龍 基 于 改 進 輕 量 級 卷 積 神 經(jīng) 網(wǎng) 絡MobileNetV3 的 番 茄 葉 片 病 害 識 別 J 智 慧 農 業(yè) 中 英 文 2022 4 1 47 56 ZHOU Qiaoli MA Li CAO Liying YU Helong Identification of tomato leaf diseases based on improved light weight convolutional neural networks MobileNetV3 J SmartAgriculture 2022 4 1 47 56 in Chinese with Eng lishabstract 1 引 言 番 茄 在 種 植 和 果 實 產(chǎn) 出 過 程 中 容 易 受 天 氣 溫 度 和 濕 度 等 各 種 因 素 的 影 響 發(fā) 生 各 種 病 害 從 而 影 響 番 茄 的 質 量 1 番 茄 的 根 部 莖 部 和 果 實 都 會 發(fā) 生 多 種 常 見 的 病 害 在 病 害 發(fā) 生 的 不 同 階 段 會 呈 現(xiàn) 出 不 同 的 損 傷 特 征 葉 部 易 發(fā) 生 的 病 害 主 要 有 細 菌 斑 葉 霉 病 早 疫 病 晚 疫 病 七 星 葉 斑 病 靶 斑 病 雙 斑 蜘 蛛 花 葉 病 毒 以 及 黃 曲 葉 病 等 番 茄 病 害 類 別 多 且 病 害 對 葉 片 的 doi 10 12133 j smartag SA202202003 收 稿 日 期 2022 02 14 基 金 項 目 國 家 自 然 科 學 基 金 聯(lián) 合 基 金 項 目 U19A2061 吉 林 省 教 育 廳 科 學 技 術 研 究 項 目 JJKH20210336KJ 吉 林 省 發(fā) 展 和 改 革 委 員 會 高 級 產(chǎn) 業(yè) 發(fā) 展 項 目 2021C044 4 吉 林 省 科 技 廳 中 青 年 科 技 創(chuàng) 新 領 軍 人 才 及 優(yōu) 秀 團 隊 20200301047RQ 吉 林 省 生 態(tài) 環(huán) 境 廳 科 研 項 目 2021 07 作 者 簡 介 周 巧 黎 1996 女 碩 士 研 究 生 研 究 方 向 為 機 器 學 習 數(shù) 字 圖 像 處 理 E mail 15947868426 通 信 作 者 1 馬 麗 1980 女 博 士 副 教 授 研 究 方 向 為 機 器 學 習 數(shù) 字 圖 像 處 理 E mail mali 2 于 合 龍 1974 男 博 士 教 授 研 究 方 向 為 圖 形 圖 像 處 理 精 準 農 業(yè) E mail 3177649103 Vol 4 No 1 智 慧 農 業(yè) 中 英 文 S m a r t A g r i c u l t u r e 影 響 程 度 較 為 復 雜 需 要 及 早 地 對 病 害 種 類 和 程 度 做 出 識 別 和 判 斷 噴 灑 對 應 的 農 藥 進 行 治 療 否 則 會 影 響 番 茄 的 果 實 培 育 最 終 影 響 番 茄 的 質 量 和 產(chǎn) 量 計 算 機 圖 像 處 理 技 術 和 深 度 學 習 技 術 的 逐 漸 成 熟 使 植 物 葉 片 病 害 識 別 有 了 突 破 性 進 展 王 建 璽 等 2 對 蘋 果 葉 部 病 斑 進 行 分 割 將 病 斑 的 顏 色 紋 理 特 征 與 支 持 向 量 機 SupportVectorMa chine SVM 結 合 實 現(xiàn) 病 害 的 識 別 秦 豐 等 3 提 取 葉 部 病 斑 的 顏 色 形 狀 和 紋 理 利 用 樸 素 貝 葉 斯 方 法 和 線 性 判 別 分 析 建 立 了 苜 蓿 葉 部 病 害 識 別 模 型 夏 永 泉 等 4 提 取 小 麥 病 害 紋 理 和 顏 色 特 征 采 用SVM 實 現(xiàn) 小 麥 病 害 識 別 上 述 針 對 植 物 葉 片 病 害 的 識 別 研 究 都 是 應 用 病 害 的 顏 色 紋 理 特 征 形 狀 等 信 息 對 病 害 進 行 診 斷 這 些 特 征 的 提 取 都 是 依 靠 人 工 標 定 方 式 完 成 病 害 類 別 的 分 類 不 夠 準 確 進 而 會 影 響 葉 片 病 害 的 識 別 度 該 類 方 法 普 遍 適 應 性 不 強 卷 積 神 經(jīng) 網(wǎng) 絡 可 以 實 現(xiàn) 作 物 病 害 特 征 的 自 動 提 取 GoogLeNet AlexNet 和ResNet 等 在 作 物 病 害 識 別 方 面 都 已 經(jīng) 取 得 非 常 好 的 效 果 劉 婷 婷 等 5 采 用AlexNet 卷 積 神 經(jīng) 網(wǎng) 絡 對 水 稻 紋 枯 病 進 行 識 別 達 到 了97 的 精 確 度 但 病 害 類 別 單 一 且 數(shù) 據(jù) 量 不 夠 豐 富 Wu 6 通 過 調 整VGG16 和 ResNet 雙 通 道 卷 積 神 經(jīng) 網(wǎng) 絡 的 參 數(shù) 對 玉 米 葉 部 病 害 識 別 準 確 率 達 到93 33 但 識 別 率 較 低 且 圖 像 分 辨 率 較 高 模 型 參 數(shù) 依 然 龐 大 整 體 識 別 性 能 還 有 待 提 高 丁 瑞 和 周 平 7 參 照AlexNet 框 架 構 建 卷 積 神 經(jīng) 網(wǎng) 絡 結 合 遷 移 學 習 訓 練 網(wǎng) 絡 測 試 識 別 準 確 率96 18 識 別 效 果 較 好 陳 桂 芬 等 8 通 過 數(shù) 據(jù) 增 強 和 遷 移 學 習 的 方 式 對 改 進 Inception V3 進 行 訓 練 提 取 病 害 圖 片 特 征 對 農 田 玉 米 病 害 的 平 均 識 別 準 確 度 達96 6 分 類 效 果 良 好 Waheed 等 9 提 出 了 一 種 用 于 玉 米 葉 部 病 害 識 別 和 分 類 的 優(yōu) 化 密 集 卷 積 神 經(jīng) 網(wǎng) 絡 結 構 監(jiān) 測 作 物 健 康 狀 況 模 型 的 精 度 達 到 98 06 綜 上 所 述 將 遷 移 學 習 與 神 經(jīng) 網(wǎng) 絡 相 結 合 可 以 有 效 提 高 病 害 的 識 別 精 確 度 但 是 所 采 用 的 卷 積 神 經(jīng) 網(wǎng) 絡 算 法 參 數(shù) 量 大 圖 像 分 辨 率 高 運 行 時 間 長 不 利 于 在 移 動 端 實 現(xiàn) 對 作 物 病 害 的 快 速 實 時 檢 測 本 研 究 以 番 茄 的 病 害 葉 片 為 主 要 研 究 對 象 以 輕 量 級 卷 積 神 經(jīng) 網(wǎng) 絡MobileNetV3 10 為 主 干 網(wǎng) 絡 模 型 在 遷 移 學 習 基 礎 上 對 模 型 結 構 進 行 改 進 并 將 其 與VGG16 ResNet50 和Inception V3 模 型 進 行 了 試 驗 對 比 2 數(shù) 據(jù) 來 源 及 預 處 理 2 1 試 驗 數(shù) 據(jù) 集 試 驗 研 究 對 象 為 番 茄 葉 部 病 害 圖 像 試 驗 數(shù) 據(jù) 集 來 自PlantVillage 11 公 開 數(shù) 據(jù) 集 該 平 臺 包 括 不 同 作 物 的 多 種 病 害 類 別 的 植 物 葉 片 圖 像 按 照 物 種 和 疾 病 可 分 為38 類 番 茄 試 驗 樣 本 主 要 包 括10 類 常 見 的 番 茄 病 害 葉 片 其 中 早 疫 病 1000 幅 晚 疫 病1909 幅 細 菌 病1320 幅 葉 霉 病952 幅 七 星 葉 斑 病1771 幅 靶 斑 病1404 幅 雙 斑 蜘 蛛1676 幅 花 葉 病 毒373 幅 黃 曲 葉 病 1250 幅 健 康 葉 片1591 幅 本 研 究 統(tǒng) 一 采 用 jpg 格 式 圖 像 統(tǒng) 大 小 一 調 整 到64 64 像 素 2 2 數(shù) 據(jù) 預 處 理 2 2 1 普 通 數(shù) 據(jù) 增 強 為 保 證 試 驗 數(shù) 據(jù) 的 均 衡 性 樣 本 的 多 樣 性 和 訓 練 卷 積 神 經(jīng) 網(wǎng) 絡 模 型 12 所 需 樣 本 的 充 足 性 對 試 驗 數(shù) 據(jù) 進 行 了 批 歸 一 化 和 數(shù) 據(jù) 增 強 處 理 13 對 病 害 圖 像 分 別 做 了 高 斯 噪 聲 添 加 亮 度 增 強 對 比 度 變 換 隨 機 裁 剪 和 隨 機 旋 轉 操 作 以 此 增 強 樣 本 的 多 樣 性 達 到 盡 可 能 模 仿 自 然 環(huán) 境 下 對 病 害 識 別 的 效 果 擴 充 后 的 病 害 圖 像 總 數(shù) 為 18 521 張 對 數(shù) 據(jù) 集 中10 種 病 害 進 行 相 同 的 增 強 處 理 提 高 番 茄 樣 本 的 質 量 和 數(shù) 量 以 及 訓 練 模 型 的 泛 化 能 力 以 七 星 葉 斑 病 為 例 擴 充 示 意 圖 如 圖1 所 示 數(shù) 據(jù) 增 強 方 法 調 整 了 原 始 圖 像 的 角 度 亮 度 模 糊 度 放 大 了 局 部 病 斑 的 細 節(jié) 2 2 2 M i x u p 混 合 增 強 Mixup 增 強 方 式 14 是 將 兩 張 原 圖 像 按 比 例 4 8周 巧 黎 等 基 于 改 進 輕 量 級 卷 積 神 經(jīng) 網(wǎng) 絡 M o b i l e N e t V 3 的 番 茄 葉 片 病 害 識 別 Vol 4 No 1 進 行 線 性 插 值 來 生 成 新 的 混 合 圖 像 經(jīng) 插 值 混 合 后 的 樣 本 與 真 實 樣 本 非 常 接 近 本 研 究 選 擇 對 番 茄 樣 本 進 行 同 類 混 合 增 強 既 增 加 了 樣 本 的 多 樣 性 又 增 強 了 對 重 要 特 征 的 學 習 使 用Mixup 合 成 新 的 圖 像 可 以 線 性 疊 加 兩 張 原 始 圖 像 的 特 征 向 量 提 升 了 模 型 預 測 訓 練 樣 本 以 外 數(shù) 據(jù) 的 適 應 性 使 預 測 更 具 有 平 滑 性 在 進 行Mixup 增 強 時 隨 機 選 擇 同 一 類 別 病 害 中 的 兩 張 原 始 圖 像 樣 本 來 合 成 新 的 番 茄 圖 像 根 據(jù)Mixup 設 置 的 比 例 不 同 合 成 的 圖 像 也 不 同 如 圖2 為 混 合 系 數(shù) 15 取 值 范 圍0 到1 內 的 合 成 圖 像 示 例 根 據(jù) 不 同 比 例 的 合 成 效 果 試 驗 設 置 值 分 別 為 0 3 0 5 和0 8 對 每 一 類 別 的 病 害 原 始 圖 像 進 行 隨 機 抽 取 以 合 成 新 的 圖 像 混 合 后 的 訓 練 樣 本 共 有15 974 張 在 同 樣 達 到 數(shù) 據(jù) 擴 充 的 目 的 下 數(shù) 據(jù) 增 廣 和 Mixup 混 合 增 強 各 有 其 優(yōu) 勢 但Mixup 混 合 增 強 更 能 增 加 數(shù) 據(jù) 的 多 樣 性 3 識 別 模 型 構 建 3 1 M o b i l e N e t V 3 模 型 MobileNetV3 模 型 以MobileNetV1 16 模 型 和 MobileNetV2 17 模 型 為 基 礎 結 合 了 這 兩 個 模 型 的 優(yōu) 勢 進 一 步 提 高 了 模 型 的 精 度 是 效 率 更 高 的 輕 量 級 卷 積 神 經(jīng) 網(wǎng) 絡 由 于 線 性 整 流 函 數(shù) Linear Rectification Function ReLU 在 低 維 空 間 內 的 工 作 效 率 低 不 利 于 特 征 的 提 取 易 丟 失 特 征 信 息 因 此 本 研 究 采 用 線 性 瓶 頸 結 構 在 通 道 數(shù) 量 少 的 卷 積 層 后 使 用 線 性 層 來 代 替ReLU 函 數(shù) 以 此 來 保 證 提 取 到 的 特 征 信 息 更 加 充 足 在MobileNetV2 網(wǎng) 絡 結 構 的 基 礎 上 Mobile NetV3 將SE Squeeze and Excitation 注 意 力 模 塊 18 應 用 到 瓶 頸 結 構 中 起 到 強 化 突 出 特 征 抑 制 不 明 顯 特 征 的 作 用 在 網(wǎng) 絡 最 后 的 位 置 去 掉 了1 1 卷 積 層 將 平 均 池 化 層 向 前 移 動 采 用h swish 激 活 函 數(shù) 計 算 量 大 大 降 低 網(wǎng) 絡 的 框 架 結 構 屬 于 輕 量 級 對 硬 件 的 配 置 要 求 低 不 僅 可 以 實 現(xiàn) 較 高 的 分 類 精 度 還 能 夠 在 手 機 移 動 端 實 現(xiàn) MobileNetV3 主 體 部 分 由11 個 瓶 頸 結 構 組 成 前3 個 結 構 中 采 用3 3 的 深 度 卷 積 后 面 8 個 采 用5 5 的 深 度 卷 積 瓶 頸 結 構 中 其 他 設 置 均 相 同 3 2 遷 移 學 習 本 研 究 以VGG16 ResNet50 Inception V3 以 及MobileNetV3 模 型 這 四 種 算 法 進 行 遷 移 學 習 19 并 且 對 番 茄 病 害 圖 像 進 行 識 別 這 四 種 算 法 各 有 其 自 身 的 優(yōu) 勢 在 實 際 的 病 害 識 別 應 用 中 都 可 以 起 到 良 好 的 分 類 效 果 有 效 節(jié) 約 檢 測 時 間 首 先 采 用 大 型 數(shù) 據(jù) 集ImageNet 20 作 為 網(wǎng) 絡 預 訓 練 的 源 域 將 預 訓 練 得 到 的 模 型 權 重 等 信 息 遷 移 到 對 番 茄 病 害 識 別 的 模 型 上 通 過 已 有 的 a 0 1 b 0 2 c 0 3 d 0 4 e 0 5 f 0 6 g 0 7 h 0 8 i 0 9 圖2 番 茄 葉 片 病 害 圖 像Mixup 增 強 Fig 2 Mixupenhancementoftomatoleafdiseaseimage a 原 始 圖 像 b 隨 機 旋 轉 c 噪 聲 添 加 d 亮 度 增 強 e 隨 機 裁 剪 圖1 番 茄 葉 片 七 星 葉 斑 病 原 始 圖 像 和 增 廣 圖 像 對 比 Fig 1 Comparisonoforiginalimageandaugmentedimages oftomatoseptorialeafspot 4 9Vol 4 No 1 智 慧 農 業(yè) 中 英 文 S m a r t A g r i c u l t u r e 先 驗 知 識 可 以 對 類 似 的 識 別 任 務 做 出 高 效 的 處 理 然 后 在 對 番 茄 病 害 圖 像 訓 練 的 過 程 中 對 模 型 中 的 參 數(shù) 進 行 微 調 21 得 到 最 終 的 番 茄 病 害 識 別 模 型 在 遷 移 學 習 過 程 中 凍 結 所 有 卷 積 層 并 將 最 后 的 輸 出 層 去 掉 剩 余 的 網(wǎng) 絡 可 視 為 一 個 用 來 提 取 特 征 的 容 器 在 番 茄 葉 片 數(shù) 據(jù) 集 的 訓 練 中 將 提 取 到 的 特 征 輸 入 分 類 器 對 病 害 類 別 做 出 預 測 將 網(wǎng) 絡 的 輸 出 轉 換 為 適 合 于 番 茄 分 類 任 務 的10 類 輸 出 實 現(xiàn) 對 番 茄 病 害 任 務 的 精 準 預 測 各 模 型 遷 移 訓 練 的 識 別 算 法 流 程 如 圖 3 所 示 3 3 M o b i l e N e t V 3 模 型 的 改 進 3 3 1 多 層 感 知 機 多 層 感 知 機 22 Multilayer Perceptron MLP 可 以 作 為 一 個 小 型 網(wǎng) 絡 嵌 入 到 深 度 網(wǎng) 絡 中 相 當 于 一 個 分 類 器 可 實 現(xiàn) 不 同 類 別 的 分 類 輸 出 本 研 究 將 原 模 型 中 瓶 頸 結 構 bottleneck 模 塊 中 的5 5 卷 積 后 加 上1 1 卷 積 層 作 為 感 知 機 的 全 連 接 層 并 引 入ReLU 激 活 函 數(shù) 構 成 感 知 器 嵌 入 到 深 層 網(wǎng) 絡 中 感 知 器 中 的ReLU 作 為 非 線 性 激 活 函 數(shù) 可 以 使 網(wǎng) 絡 的 非 線 性 表 達 能 力 得 到 提 升 而 感 知 機 結 構 可 以 實 現(xiàn) 特 征 的 重 用 這 樣 可 以 提 高 卷 積 神 經(jīng) 網(wǎng) 絡 的 局 部 感 知 能 力 使 擬 合 能 力 得 到 增 強 MLP 結 構 見 圖4 圖 中MLPlayer 層 即 為 在5 5 卷 積 基 礎 上 構 建 的 感 知 機 結 構 能 夠 靈 活 地 添 加 網(wǎng) 絡 層 次 且 其 全 連 接 層 是 由1 1 卷 積 組 成 相 比 傳 統(tǒng) 的 全 連 接 在 實 現(xiàn) 分 類 作 用 的 同 時 可 以 省 去 大 量 的 參 數(shù) 節(jié) 約 了 網(wǎng) 絡 的 計 算 成 本 3 3 2 空 洞 卷 積 空 洞 卷 積 23 在 傳 統(tǒng) 卷 積 計 算 中 引 入 了 膨 脹 系 數(shù)r 擴 張 卷 積 核 的 同 時 保 持 參 數(shù) 量 不 增 加 可 以 使 卷 積 核 提 取 更 多 的 特 征 信 息 有 利 于 對 模 型 的 學 習 訓 練 番 茄 病 害 種 類 多 樣 不 同 病 害 間 具 有 一 定 的 相 似 性 發(fā) 病 初 期 病 斑 微 小 難 于 對 病 斑 的 細 節(jié) 紋 理 信 息 進 行 提 取 此 外 病 斑 葉 片 顏 色 與 健 康 葉 片 非 常 接 近 且 難 以 對 病 斑 的 邊 緣 輪 廓 等 特 征 作 區(qū) 分 在 不 同 的 瓶 頸 結 構 中 設 置 不 同 尺 寸 的 卷 積 核 有 利 于 更 深 層 次 抽 象 特 征 的 提 取 使 之 與 目 標 對 象 更 加 接 近 因 此 本 研 究 在MobileNetV3 的 最 后 兩 個bottleneck 模 塊 中 引 入 了 空 洞 卷 積 r 分 別 為2 和4 如 圖5 所 示 三 張 圖 對 應 的 初 始 卷 積 核 大 小 都 為3 3 r 從 左 至 右 分 別 為1 2 4 感 受 野 分 別 為3 3 5 5 9 9 可 以 看 出r 的 增 大 使 得 感 受 野 也 明 顯 增 大 且 沒 有 增 加 運 算 消 耗 卷 積 核 計 算 參 數(shù) 依 然 同 初 始 卷 積 核 一 樣 圖3 基 于 遷 移 學 習 的 番 茄 葉 片 病 害 識 別 流 程 圖 Fig 3 Flowchartoftomatoleafdiseaseidentificationbased ontransferlearning 圖4 多 層 感 知 機 結 構 圖 Fig 4 Multilayerperceptronstructure 5 0周 巧 黎 等 基 于 改 進 輕 量 級 卷 積 神 經(jīng) 網(wǎng) 絡 M o b i l e N e t V 3 的 番 茄 葉 片 病 害 識 別 Vol 4 No 1 3 3 3 G L U 函 數(shù) GLU GatedLinerUnit GTU 單 元 24 是 基 于 閘 門 機 制 Gate Mechanism 的 激 活 函 數(shù) GLU 擁 有 線 性 通 道 在 經(jīng) 過 激 活 的 神 經(jīng) 元 時 不 會 出 現(xiàn) 梯 度 消 失 的 問 題 有 利 于 建 模 過 程 中 的 反 向 傳 播 加 速 網(wǎng) 絡 收 斂 防 止 梯 度 彌 散 GLU 的 表 達 式 為 h l x x W b x V c 1 其 中 x 表 示 第l 層 的 輸 入 h l 表 示 該 層 的 輸 出 信 息 W 和V 代 表 卷 積 核 參 數(shù) c 代 表 偏 置 參 數(shù) 在 第l 層 輸 入 值 x 經(jīng) 過 核 參 數(shù)W 與 偏 置b 的 卷 積 處 理 后 由 參 數(shù) 為V 與c 的 卷 積 處 理 并 激 活 的 輸 出 門 來 控 制 當 前 層 的 輸 出 結 果 保 留 更 重 要 的 信 息 輸 入 到 下 一 層 加 強 病 害 特 征 的 學 習 和 識 別 MobileNetV3 網(wǎng) 絡 結 構 改 進 后 的 示 意 圖 如 圖6 4 結 果 與 分 析 4 1 試 驗 環(huán) 境 番 茄 葉 片 病 害 識 別 模 型 的 訓 練 和 測 試 均 是 基 于 深 度 學 習 框 架Pytorch 完 成 的 硬 件 環(huán) 境 采 用 Intel R Celeron R CPU N3150 1 60GHz 1 60 GHz 內 存4G GPU 采 用 NVIDIAGeForce 顯 卡 4 GB 顯 存 采 用 Windows 7 操 作 系 統(tǒng) Pycharm 編 譯 環(huán) 境 和Python3 7 語 言 每 次 試 驗 運 行60 輪 epochs 綜 合 考 慮 內 存 原 因 和 模 型 的 泛 化 能 力 將batch size 定 為64 學 習 率 依 次 選 取 了1 10 5 1 10 4 1 10 3 和1 10 2 當 leaning rate 數(shù) 值 為1 10 3 時 模 型 訓 練 的 效 果 最 好 采 用Adam 優(yōu) 化 算 法 和ReLU 激 活 函 數(shù) 4 2 遷 移 方 法 驗 證 為 確 定 遷 移 學 習 方 法 的 有 效 性 分 別 對 VGG16 Inception V3 ResNet50 和 Mobile NetV3 網(wǎng) 絡 模 型 的 識 別 性 能 和 遷 移 學 習 的 試 驗 結 果 作 對 比 分 析 如 圖7 所 示 曲 線 的 起 點 由 原 來 的19 35 提 高 到55 74 初 始 性 能 明 顯 提 升 遷 移 訓 練 的MobileNetV3 曲 線 在 訓 練 達 到 10 輪 時 就 可 以 收 斂 相 比 原 來 的20 輪 有 所 提 前 而 VGG16 Inception V3 和 ResNet50 在 訓 練 25 輪 后 也 收 斂 準 確 率 相 比 之 前 有 大 幅 提 升 且 基 于 遷 移 學 習 的 曲 線 在 訓 練 過 程 中 更 趨 于 穩(wěn) 定 a MobileNetV3 遷 移 訓 練 a r 1 b r 2 c r 4 注 r 為 膨 脹 系 數(shù) 圖5 空 洞 卷 積 膨 脹 示 意 圖 Fig 5 Schematicdiagramofdilatedconvolutionexpansion 圖6 改 進 的MobileNetV3 網(wǎng) 絡 模 型 結 構 圖 Fig 6 StructurediagramofimprovedMobileNetV3 networkmodel 5 1Vol 4 No 1 智 慧 農 業(yè) 中 英 文 S m a r t A g r i c u l t u r e b VGG16 遷 移 訓 練 c ResNet50 遷 移 訓 練 d Inception V3 遷 移 訓 練 圖7 MobileNetV3 VGG16 ResNet50 Inception V3 四 種 遷 移 學 習 對 比 Fig 7 ComparisonofthefourtransferlearningofMobile NetV3 VGG16 ResNet50 Inception V3 圖8 為 四 種 遷 移 學 習 算 法 對 番 茄 葉 片 病 害 識 別 的 效 果 對 比 可 見 MobileNetV3 遷 移 算 法 對 番 茄 葉 片 病 害 的 識 別 率 更 加 精 確 且 在 訓 練10 輪 的 時 候 曲 線 已 經(jīng) 收 斂 與 其 他 三 種 算 法 相 比 提 前 了15 輪 達 到 收 斂 狀 態(tài) 而 且MobileNetV3 遷 移 算 法 在 訓 練 過 程 中 曲 線 震 蕩 幅 度 較 小 更 加 穩(wěn) 定 呈 現(xiàn) 出 了 更 佳 的 訓 練 狀 態(tài) 綜 上 所 述 Mo bileNetV3 遷 移 算 法 更 適 合 番 茄 葉 片 病 害 識 別 任 務 4 3 M o b i l e N e t V 3 遷 移 模 型 在 不 同 試 驗 方 案 下 的 識 別 結 果 經(jīng) 遷 移 學 習 對 番 茄 病 害 葉 片 的 測 試 Mo bileNetV3 模 型 取 得 了 最 優(yōu) 的 識 別 效 果 為 檢 測 損 失 函 數(shù) 和 數(shù) 據(jù) 增 強 對 模 型 性 能 的 影 響 針 對 番 茄 葉 片 的 普 通 增 強 和Mixup 混 合 增 強 兩 種 增 強 方 式 分 別 選 用Focal loss 損 失 函 數(shù) 以 及Cross en tropyloss 函 數(shù) 進 行 測 試 形 成 四 種 不 同 的 組 合 方 案 準 確 率 和 損 失 變 化 如 表1 所 示 由 表1 可 知 四 種 試 驗 方 案 下 模 型 的 識 別 精 度 相 差 不 大 但 損 失 變 化 的 差 異 相 對 較 明 顯 其 中 方 案F 和 方 案FX 下 的 識 別 準 確 率 比 方 案C 和 CX 下 的 準 確 率 提 升0 05 0 11 而 方 案F 和 方 案FX 下 的 損 失 值 也 明 顯 比 方 案C 和CX 下 的 損 失 值 降 低5 左 右 這 說 明 與 使 用Cross entropy 圖8 四 種 算 法 識 別 番 茄 病 害 結 果 Fig 8 Tomatoleafdiseasesrecognitionresultsusingthefour algorithms 表 1 四 種 對 比 方 案 的 番 茄 病 害 識 別 精 度 Table1 Identificationaccuracyoffourcomparisonschemes ontomatodiseaseidentification 損 失 函 數(shù) Focalloss Crossentropy loss 方 案 F FX C CX 數(shù) 據(jù) 增 強 方 式 普 通 增 強 Mixup 混 合 增 強 普 通 增 強 Mixup 混 合 增 強 測 試 準 確 率 94 31 94 68 94 26 94 57 損 失 值 28 59 27 12 33 59 32 98 5 2周 巧 黎 等 基 于 改 進 輕 量 級 卷 積 神 經(jīng) 網(wǎng) 絡 M o b i l e N e t V 3 的 番 茄 葉 片 病 害 識 別 Vol 4 No 1 loss 函 數(shù) 相 比 使 用Focalloss 函 數(shù) 的 模 型 總 體 識 別 性 能 更 好 此 外 方 案FX 和 方 案F 相 比 準 確 率 提 高 0 37 損 失 值 下 降1 47 方 案CX 和 方 案C 相 比 準 確 率 提 高0 31 損 失 值 下 降0 61 這 說 明 在 同 一 損 失 函 數(shù) 下 采 用Mixup 混 合 增 強 方 式 比 普 通 增 強 方 式 的 分 類 效 果 更 好 Mixup 混 合 增 強 有 助 于 提 高 深 度 網(wǎng) 絡 模 型 的 識 別 性 能 4 4 基 于 遷 移 學 習 的 M o b i l e N e t V 3 改 進 前 后 結 果 對 比 4 4 1 模 型 識 別 性 能 的 提 升 如 圖9 所 示 MobileNetV3 曲 線 代 表4 3 節(jié) 的 遷 移 模 型 的 識 別 曲 線 dilated 標 識 的 曲 線 代 表 遷 移MobileNetV3 模 型 采 用 空 洞 卷 積 和 感 知 機 的 識 別 變 化 dilated and GLU 曲 線 代 表 遷 移Mobile NetV3 模 型 在dilated 曲 線 的 基 礎 上 進 一 步 采 用 GLU 函 數(shù) 的 模 型 識 別 變 化 從 圖9 中 可 以 看 出 在 訓 練 達 到 相 同 輪 數(shù) 的 情 況 下 改 進 后 的 模 型 的 識 別 精 度 有 所 提 升 相 比 遷 移 學 習 的94 68 的 識 別 率 在 空 洞 卷 積 和 感 知 機 相 結 合 的 情 況 下 識 別 率 可 提 升2 62 進 一 步 采 用GLU 函 數(shù) 可 以 使 識 別 率 再 次 上 升0 85 說 明 本 研 究 方 法 提 高 了 模 型 的 識 別 精 度 識 別 性 能 得 到 提 升 從 表2 可 以 看 到 VGG16 模 型 的 測 試 準 確 率 僅 有86 62 ResNet50 和Inception V3 測 試 準 確 率 分 別 為89 95 和90 26 而MobileNetV3 模 型 測 試 準 確 率 達94 68 在 對MobileNetV3 模 型 結 構 改 進 之 后 準 確 率 達 到 了98 25 提 升 了 3 57 識 別 效 果 達 到 最 優(yōu) 在 識 別 過 程 中 ResNet50 對 單 張 圖 片 檢 測 時 間 為1 54 s VGG16 與Inception V3 的 平 均 檢 測 時 間 分 別 是0 57 s 和0 55 s MobileNetV3 模 型 的 識 別 檢 測 平 均 耗 時 為0 39 s GLU 函 數(shù) 加 速 了 網(wǎng) 絡 的 收 斂 單 張 圖 像 的 識 別 時 間 縮 減 為0 27 s 縮 短 了0 12 s 且 數(shù) 據(jù) 規(guī) 模 最 小 更 適 合 番 茄 病 害 的 檢 測 4 4 2 各 類 別 病 害 識 別 準 確 率 的 提 高 如 圖10 所 示 為 改 進 后 模 型 對 病 害 分 類 效 果 的 混 淆 矩 陣 圖 其 中0 9 分 別 代 表 番 茄 細 菌 病 早 疫 病 晚 疫 病 葉 霉 病 七 星 葉 斑 病 靶 斑 病 雙 斑 蜘 蛛 花 葉 病 毒 黃 曲 葉 病 健 康 葉 片 的 類 別 可 以 看 到 改 進 后 的 模 型 對 于 病 害 類 別 分 類 錯 誤 的 樣 本 數(shù) 明 顯 減 少 表3 列 舉 了 遷 移MobileNetV3 模 型 改 進 前 后 圖9 遷 移MobileNetV3 模 型 改 進 前 后 測 試 曲 線 Fig 9 Testcurvesbeforeandaftermodelimprovementof migrateMobileNetV3 表 2 四 種 遷 移 學 習 算 法 對 番 茄 病 害 的 識 別 結 果 Table2 Recognitionresultsoffourtransferlearning algorithmsoftomatoleaves 模 型 遷 移VGG16 遷 移ResNet50 遷 移Inception V3 遷 移MobileNetV3 遷 移 改 進MobileNetV3 數(shù) 據(jù) 規(guī) 模 MB 98 38 92 14 506 28 43 57 46 73 測 試 準 確 率 86 62 89 95 90 26 94 68 98 25 單 張 圖 像 檢 測 時 間 s 0 57 1 54 0 55 0 39 0 27 圖10 改 進MobileNetV3 模 型 混 淆 矩 陣 圖 Fig 10 Improved confusionmatrixofMobileNetV3 5 3Vol 4 No 1 智 慧 農 業(yè) 中 英 文 S m a r t A g r i c u l t u r e 各 類 別 病 害 的 識 別 率 其 中 番 茄 健 康 葉 片 雙 斑 蜘 蛛 和 葉 霉 病 的 識 別 率 均 提 高6 7 其 它 類 別 平 均 提 高3 左 右 10 個 類 別 的 番 茄 葉 片 病 害 的 平 均 識 別 準 確 率 為98 25 與 原 來 的94 68 相 比 提 升 了3 57 試 驗 表 明 在 遷 移 學 習 的 基 礎 上 對 模 型 的 改 進 方 法 是 可 行 的 有 助 于 番 茄 葉 片 病 害 的 分 類 識 別 4 5 模 型 識 別 性 能 評 價 本 試 驗 采 用 交 叉 驗 證 方 法 25 作 為 評 價 標 準 來 衡 量 模 型 對 番 茄 葉 片 病 害 的 識 別 性 能 采 用 十 折 交 叉 驗 證 10 Fold Cross Validation 對 模 型 進 行 評 價 將 番 茄 葉 片 病 害 圖 像 分 為10 份 依 次 選 取 其 中 的9 份 作 為 訓 練 集 另 外1 份 作 為 測 試 集 取10 次 測 試 結 果 的 均 值 作 為 模 型 魯 棒 性 的 評 價 標 準 1 10 次 試 驗 的 識 別 準 確 率 分 別 為96 78 98 51