目錄
“存儲(chǔ)器科學(xué)與技術(shù)叢書”序
前言
第1章 站在類腦計(jì)算與憶阻器的交匯點(diǎn)1
1.1 類腦計(jì)算1
1.1.1 學(xué)習(xí)與泛化1
1.1.2 存算一體2
1.1.3 高能效3
1.2 類腦計(jì)算：為什么是憶阻器4
1.2.1 突觸可塑性：類腦計(jì)算的物理基礎(chǔ)4
1.2.2 憶阻器：天然的突觸5
1.3 類腦計(jì)算的發(fā)展簡(jiǎn)史11
1.3.1 第一代：感知器11
1.3.2 第二代：引入非線性的多層感知器12
1.3.3 第三代：從模擬計(jì)算到神經(jīng)形態(tài)計(jì)算13
1.4 本書章節(jié)安排13
1.5 思考題15
參考文獻(xiàn)16
第2章 憶阻突觸17
2.1 離子遷移型17
2.1.1 導(dǎo)電橋型18
2.1.2 氧化物型20
2.1.3 固態(tài)電解質(zhì)型23
2.2 相變型26
2.2.1 晶-非晶相變26
2.2.2 莫特相變29
2.3 鐵電型32
2.3.1 基本原理32
2.3.2 常用鐵電材料36
2.3.3 常用器件結(jié)構(gòu)39
2.4 憶阻突觸陣列41
2.4.1 潛行通路問題及解決方案42
2.4.2 多核結(jié)構(gòu)45
2.4.3 三維堆疊46
2.5 本章小結(jié)48
2.6 思考題49
參考文獻(xiàn)49
第3章 憶阻神經(jīng)元53
3.1 神經(jīng)元簡(jiǎn)介53
3.1.1 生物神經(jīng)元53
3.1.2 神經(jīng)元的簡(jiǎn)化模型58
3.2 基于非易失的相變材料62
3.2.1 設(shè)計(jì)思想62
3.2.2 相變神經(jīng)元的電路實(shí)現(xiàn)63
3.2.3 輔助電路65
3.3 基于易失的閾值轉(zhuǎn)換材料67
3.3.1 設(shè)計(jì)原理67
3.3.2 閾值轉(zhuǎn)換常見機(jī)理及其神經(jīng)元69
3.4 本章小結(jié)77
3.5 思考題78
參考文獻(xiàn)78
第4章 人工神經(jīng)網(wǎng)絡(luò)的監(jiān)督學(xué)習(xí)80
4.1 單層神經(jīng)網(wǎng)絡(luò)80
4.1.1 算法原理80
4.1.2 基于1T1M的突觸陣列：人臉識(shí)別88
4.1.3 基于憶阻器差分對(duì)的突觸陣列：三宮格識(shí)別94
4.2 深度神經(jīng)網(wǎng)絡(luò)97
4.2.1 算法原理97
4.2.2 反向傳播的憶阻交叉陣列實(shí)現(xiàn)99
4.2.3 憶阻突觸的非理想效應(yīng)與對(duì)策103
4.3 本章小結(jié)110
4.4 思考題112
參考文獻(xiàn)113
第5章 脈沖神經(jīng)網(wǎng)絡(luò)的監(jiān)督學(xué)習(xí)115
5.1 脈沖傳播115
5.1.1 算法原理115
5.1.2 權(quán)重更新：隱藏層到輸出層116
5.1.3 權(quán)重更新：輸入層到隱藏層121
5.1.4 操作流程123
5.1.5 異或問題應(yīng)用125
5.1.6 問題與改進(jìn)方案(1)126
5.1.7 問題與改進(jìn)方案(2)127
5.2 遠(yuǎn)程監(jiān)督方法130
5.2.1 算法原理131
5.2.2 基于互補(bǔ)器件的電路實(shí)現(xiàn)132
5.2.3 器件非理想效應(yīng)及解決方案136
5.3 本章小結(jié)138
5.4 思考題139
參考文獻(xiàn)140
第6章 人工神經(jīng)網(wǎng)絡(luò)的非監(jiān)督學(xué)習(xí)141
6.1 尋找隱藏的數(shù)據(jù)結(jié)構(gòu)141
6.2 若干算法142
6.2.1 競(jìng)爭(zhēng)學(xué)習(xí)142
6.2.2 期望-最大化143
6.3 本章小結(jié)146
6.4 思考題146
參考文獻(xiàn)146
第7章 脈沖神經(jīng)網(wǎng)絡(luò)的非監(jiān)督學(xué)習(xí)147
7.1 赫布法則147
7.2 STDP變種1150
7.2.1 憶阻突觸實(shí)現(xiàn)150
7.2.2 神經(jīng)網(wǎng)絡(luò)應(yīng)用：圖像識(shí)別152
7.3 STDP變種2157
7.3.1 憶阻突觸實(shí)現(xiàn)157
7.3.2 應(yīng)用：DVS與運(yùn)動(dòng)軌跡識(shí)別158
7.3.3 憶阻突觸電導(dǎo)方差對(duì)網(wǎng)絡(luò)性能影響161
7.4 本章小結(jié)163
7.5 思考題164
參考文獻(xiàn)165
第8章 深度強(qiáng)化學(xué)習(xí)167
8.1 強(qiáng)化學(xué)習(xí)簡(jiǎn)介167
8.2 基于模擬值的深度Q值網(wǎng)絡(luò)168
8.2.1 吃還是不吃？這是個(gè)問題168
8.2.2 Bellman方程169
8.2.3 Bellman方程求解173
8.2.4 深度Q值網(wǎng)絡(luò)177
8.2.5 若干優(yōu)化技術(shù)179
8.2.6 憶阻突觸陣列實(shí)現(xiàn)182
8.3 基于脈沖的深度Q值網(wǎng)絡(luò)184
8.3.1 脈沖Q值學(xué)習(xí)185
8.3.2 策略遷移186
8.4 本章小結(jié)186
8.5 思考題188
參考文獻(xiàn)188
第9章 卷積神經(jīng)網(wǎng)絡(luò)189
9.1 基本原理190
9.1.1 特征提取：第一層卷積核190
9.1.2 特征提�。撼鼗�191
9.1.3 特征提�。汉罄m(xù)層卷積核191
9.1.4 分類：拍平與全連接192
9.2 二維憶阻陣列實(shí)現(xiàn)192
9.2.1 負(fù)權(quán)重的電路實(shí)現(xiàn)195
9.2.2 激活函數(shù)的電路實(shí)現(xiàn)196
9.2.3 平均池化的電路實(shí)現(xiàn)197
9.2.4 三維卷積核運(yùn)算的電路實(shí)現(xiàn)198
9.2.5 權(quán)重更新的電路實(shí)現(xiàn)198
9.2.6 卷積的并行實(shí)現(xiàn)200
9.2.7 憶阻突觸陣列的非理想效應(yīng)201
9.2.8 芯片級(jí)體系結(jié)構(gòu)203
9.3 三維憶阻陣列實(shí)現(xiàn)203
9.3.1 設(shè)計(jì)理念203
9.3.2 設(shè)計(jì)與實(shí)現(xiàn)實(shí)例205
9.4 本章小結(jié)208
9.5 思考題209
參考文獻(xiàn)209
第10章 貝葉斯神經(jīng)網(wǎng)絡(luò)210
10.1 不確定性來源與量化210
10.1.1 乳腺腫瘤數(shù)據(jù)：標(biāo)簽交疊區(qū)難題211
10.1.2 貝葉斯神經(jīng)網(wǎng)絡(luò)：量化不確定度213
10.2 隨機(jī)失效突觸技術(shù)214
10.2.1 隨機(jī)失效神經(jīng)元/突觸技術(shù)簡(jiǎn)介214
10.2.2 隨機(jī)失效突觸與貝葉斯神經(jīng)網(wǎng)絡(luò)的等價(jià)性217
10.2.3 蒙特卡羅-隨機(jī)失效突觸技術(shù)的優(yōu)缺點(diǎn)219
10.3 基于閾值轉(zhuǎn)換器件的硬件實(shí)現(xiàn)219
10.3.1 基于OTS的隨機(jī)突觸220
10.3.2 新冠肺炎胸片診斷：量化不確定度222
10.4 本章小結(jié)227
10.5 思考題227
參考文獻(xiàn)228
第11章 全光神經(jīng)網(wǎng)絡(luò)229
11.1 光學(xué)突觸器件原理229
11.2 基于集成光感器件的卷積神經(jīng)網(wǎng)絡(luò)234
11.2.1 波分復(fù)用與光頻梳：高并行的光信息處理234
11.2.2 全光卷積神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)235
11.3 本章小結(jié)236
11.4 思考題237
參考文獻(xiàn)237
第12章 其他應(yīng)用238
12.1 稀疏編碼238
12.1.1 原理238
12.1.2 神經(jīng)網(wǎng)絡(luò)方案239
12.1.3 憶阻交叉陣列實(shí)現(xiàn)242
12.2 主成分分析244
12.2.1 原理245
12.2.2 憶阻交叉陣列實(shí)現(xiàn)249
12.3 偏微分方程求解255
12.3.1 原理255
12.3.2 憶阻交叉陣列實(shí)現(xiàn)258
12.3.3 問題與改進(jìn)方案264
12.4 本章小結(jié)264
12.5 思考題266
參考文獻(xiàn)267