第 1 章? 智能網(wǎng)絡(luò)目標(biāo)識(shí)別發(fā)展概述 ………………………………………………… 1
1.1 目標(biāo)識(shí)別技術(shù) …………………………………………………………………… 2
1.1.1 目標(biāo)識(shí)別的基本概念與原理 …………………………………………… 2
1.1.2 目標(biāo)識(shí)別的發(fā)展歷程 …………………………………………………… 3
1.2 傳統(tǒng)目標(biāo)識(shí)別技術(shù) ……………………………………………………………… 4
1.2.1 經(jīng)典的特征提取原理 …………………………………………………… 4
1.2.2 經(jīng)典目標(biāo)檢測(cè)器 ……………………………………………………… 13
1.3 智能網(wǎng)絡(luò)目標(biāo)識(shí)別技術(shù) ……………………………………………………… 15
1.3.1 基于錨框的智能網(wǎng)絡(luò)目標(biāo)識(shí)別技術(shù) ………………………………… 16
1.3.2 無錨框的智能網(wǎng)絡(luò)目標(biāo)識(shí)別技術(shù) …………………………………… 18
1.4 數(shù)據(jù)集及模型評(píng)估指標(biāo) ……………………………………………………… 20
1.4.1 目標(biāo)分類任務(wù)的公開數(shù)據(jù)集和模型評(píng)估指標(biāo) ……………………… 20
1.4.2 目標(biāo)檢測(cè)任務(wù)的公開數(shù)據(jù)集和模型評(píng)估指標(biāo) ……………………… 23
1.5 總結(jié) …………………………………………………………………………… 26
參考文獻(xiàn) …………………………………………………………………………… 26
第?2?章? 智能網(wǎng)絡(luò)目標(biāo)識(shí)別基礎(chǔ) …………………………………………………… 30
2.1 深度學(xué)習(xí)技術(shù)原理 …………………………………………………………… 31
2.2 神經(jīng)網(wǎng)絡(luò) ……………………………………………………………………… 34
2.2.1 感知機(jī) ………………………………………………………………… 34
2.2.2 前饋神經(jīng)網(wǎng)絡(luò) ………………………………………………………… 36
2.2.3 反向傳播算法 ………………………………………………………… 38
2.3 深度學(xué)習(xí)算法、模型與優(yōu)化 ………………………………………………… 41
2.3.1 深度學(xué)習(xí)算法的組成 ………………………………………………… 41
2.3.2 深度模型的核心部件 ………………………………………………… 43
2.3.3 代表性的網(wǎng)絡(luò)模型 …………………………………………………… 48
2.3.4 深度模型的優(yōu)化算法 ………………………………………………… 58
2.4 典型智能網(wǎng)絡(luò)目標(biāo)識(shí)別算法 ………………………………………………… 62
2.4.1 Faster R-CNN ………………………………………………………… 62
2.4.2 YOLO ………………………………………………………………… 66
2.4.3 FPN …………………………………………………………………… 69
2.4.4 CenterNet ……………………………………………………………… 70
2.4.5 DETR ………………………………………………………………… 73
2.5 總結(jié) …………………………………………………………………………… 76
參考文獻(xiàn) …………………………………………………………………………… 76
第?3?章? 新型注意力機(jī)制深度目標(biāo)識(shí)別方法 …………………………………… 79
3.1 概述 …………………………………………………………………………… 80
3.2 引入反饋機(jī)制的特征優(yōu)化檢測(cè)器 …………………………………………… 83
3.2.1 IFF 模塊 ……………………………………………………………… 83
3.2.2 穩(wěn)定性證明 …………………………………………………………… 87
3.2.3 實(shí)驗(yàn)結(jié)果 ……………………………………………………………… 90
3.3 雙分辨率骨干網(wǎng)絡(luò)目標(biāo)識(shí)別方法 …………………………………………… 95
3.3.1 網(wǎng)絡(luò)總體結(jié)構(gòu) ………………………………………………………… 95
3.3.2 尺度內(nèi)傳播模塊 ……………………………………………………… 97
3.3.3 尺度間對(duì)齊模塊 ……………………………………………………… 98
3.3.4 雙分辨率特征金字塔網(wǎng)絡(luò) DS-FPN ………………………………… 99
3.3.5 實(shí)驗(yàn)結(jié)果 ……………………………………………………………… 100
3.4 總結(jié) …………………………………………………………………………… 105
參考文獻(xiàn) …………………………………………………………………………… 106
第?4?章? 可控視覺表征目標(biāo)識(shí)別方法 ……………………………………………… 110
4.1 混合高斯不確定性有界理論 ………………………………………………… 111
4.2 基于 Gabor 的魯棒特征提取與模型泛化能力提升 ………………………… 113
4.3 GCN …………………………………………………………………………… 116
4.3.1 GCN 前向傳播 ………………………………………………………… 116
4.3.2 GCN 反向傳播 ………………………………………………………… 118
4.4 GCN 實(shí)驗(yàn)驗(yàn)證與分析 ………………………………………………………… 119
4.4.1 手寫體字符識(shí)別 ……………………………………………………… 119
4.4.2 街景數(shù)字識(shí)別 ………………………………………………………… 123
4.4.3 自然圖像分類 ………………………………………………………… 124
4.4.4 大尺度圖像分類 ……………………………………………………… 127
4.5 總結(jié) …………………………………………………………………………… 129
參考文獻(xiàn) …………………………………………………………………………… 129
第?5?章? 知識(shí)內(nèi)嵌智能目標(biāo)識(shí)別方法 ……………………………………………… 132
5.1 深度模型中的知識(shí)內(nèi)嵌方法概述 …………………………………………… 133
5.2 引入介尺度注意力的知識(shí)內(nèi)嵌視覺模型 …………………………………… 136
5.2.1 多模態(tài) CLIP 算法 …………………………………………………… 136
5.2.2 知識(shí)內(nèi)嵌模型 ………………………………………………………… 139
5.2.3 仿真實(shí)驗(yàn) ……………………………………………………………… 143
5.3 屬性增強(qiáng)知識(shí)內(nèi)嵌視覺模型 ………………………………………………… 145
5.3.1 視覺屬性詞表的引入 ………………………………………………… 146
5.3.2 專家知識(shí)提示工程 …………………………………………………… 147
5.3.3 基于交叉注意力機(jī)制的視覺屬性詞表對(duì)齊 ………………………… 149
5.3.4 仿真實(shí)驗(yàn) ……………………………………………………………… 151
5.4 總結(jié) …………………………………………………………………………… 152
參考文獻(xiàn) …………………………………………………………………………… 153
第?6?章? 可解釋性目標(biāo)識(shí)別方法 …………………………………………………… 155
6.1 可解釋性方法綜述 …………………………………………………………… 156
6.2 基于誤差分?jǐn)?shù)機(jī)制的可解釋性目標(biāo)識(shí)別方法 ……………………………… 158
6.2.1 誤差分?jǐn)?shù)機(jī)制 ………………………………………………………… 158
6.2.2 可解釋性方法實(shí)驗(yàn)結(jié)果 ……………………………………………… 160
6.2.3 模型性能極限研究 …………………………………………………… 162
6.3 基于因果約束的可解釋性目標(biāo)識(shí)別方法 …………………………………… 166
6.3.1 基于因果推斷的特征重加權(quán)算法 …………………………………… 166
6.3.2 實(shí)驗(yàn)結(jié)果 ……………………………………………………………… 170
6.4 基于語義分析的細(xì)粒度可解釋性目標(biāo)識(shí)別方法 …………………………… 174
6.4.1 語義特征分析算法 …………………………………………………… 174
6.4.2 基于語義特征提取的可解釋性深度學(xué)習(xí)算法設(shè)計(jì)與分析 ………… 179
6.4.3 語義特征提取算法有效性分析 ……………………………………… 181
6.5 總結(jié) …………………………………………………………………………… 183
參考文獻(xiàn) …………………………………………………………………………… 183
第?7?章? 深度模型壓縮技術(shù) ………………………………………………………… 186
7.1 深度模型壓縮技術(shù)概述 ……………………………………………………… 187
7.1.1 模型稀疏化 …………………………………………………………… 187
7.1.2 模型量化 ……………………………………………………………… 189
7.1.3 低秩分解 ……………………………………………………………… 191
7.1.4 知識(shí)蒸餾 ……………………………………………………………… 193
7.1.5 神經(jīng)網(wǎng)絡(luò)架構(gòu)搜索 …………………………………………………… 194
7.1.6 緊致化結(jié)構(gòu)設(shè)計(jì) ……………………………………………………… 198
7.1.7 深度模型壓縮技術(shù)的選擇 …………………………………………… 199
7.2 引入生成對(duì)抗的最優(yōu)結(jié)構(gòu)化剪枝方法 ……………………………………… 200
7.2.1 預(yù)備知識(shí) ……………………………………………………………… 202
7.2.2 公式建立 ……………………………………………………………… 202
7.2.3 優(yōu)化求解 ……………………………………………………………… 203
7.2.4 結(jié)構(gòu)選擇 ……………………………………………………………… 205
7.2.5 實(shí)驗(yàn)結(jié)果 ……………………………………………………………… 206
7.3 閉式低秩分解和知識(shí)遷移的全局 CNN 壓縮方法 ………………………… 211
7.3.1 全局閉式低秩分解與知識(shí)遷移 ……………………………………… 212
7.3.2 實(shí)驗(yàn)結(jié)果 ……………………………………………………………… 220
7.4 總結(jié) …………………………………………………………………………… 228
參考文獻(xiàn) …………………………………………………………………………… 228