本書(shū)將噪聲分析延續(xù)到信息處理的多個(gè)領(lǐng)域,特別是在數(shù)據(jù)不完整、環(huán)境不確定的復(fù)雜任務(wù)中,噪聲的引入反而能夠通過(guò)信息的擾動(dòng)與補(bǔ)全,改善模型的穩(wěn)定性和魯棒性。這一理論思路在機(jī)器學(xué)習(xí)、大模型、具身機(jī)器人、臨地安防等應(yīng)用領(lǐng)域中得到了探索,充分體現(xiàn)了理論與應(yīng)用之間的有效銜接,既強(qiáng)調(diào)噪聲在信號(hào)空間的本質(zhì)特征,也關(guān)注噪聲如何通過(guò)設(shè)計(jì)介入實(shí)際任務(wù),從而轉(zhuǎn)化為系統(tǒng)優(yōu)化的有效手段。隨著智能感知與復(fù)雜系統(tǒng)設(shè)計(jì)需求的不斷升級(jí),噪聲的功能性研究將繼續(xù)拓展其理論邊界,有望在未來(lái)的信號(hào)獲取與處理任務(wù)中扮演更重要的角色。
本書(shū)不僅可作為信息系統(tǒng)科學(xué)與技術(shù)相關(guān)學(xué)科專(zhuān)業(yè)的教學(xué)參考書(shū),適合高等院校的本科生和研究生閱讀,也可作為從事機(jī)器學(xué)習(xí)、具身智能、涉水光學(xué)、臨地安防等相關(guān)技術(shù)研究的科研工作者的實(shí)踐指導(dǎo)書(shū)。本書(shū)對(duì)大型企業(yè)的技術(shù)管理者、對(duì)大模型相關(guān)技術(shù)的研發(fā)人員也具有一定參考價(jià)值。
一、內(nèi)容新穎
1.視角獨(dú)到
本書(shū)從噪聲的“有害性”出發(fā),進(jìn)一步思考噪聲的“有益性”,即噪聲如何在特定條件下作為“正激勵(lì)”因素,以“正激勵(lì)噪聲”為主線(xiàn),通過(guò)大量理論分析與實(shí)際案例,展示了噪聲在提升信號(hào)處理能力、優(yōu)化算法魯棒性等方面的獨(dú)到作用。傳統(tǒng)領(lǐng)域被視為干擾的噪聲,逐漸被理解為一種可以被操控,甚至加以利用的特殊信號(hào)。噪聲的“有益性”不僅改變了我們對(duì)噪聲的傳統(tǒng)看法,還為成像探測(cè)、圖像表征、多模態(tài)融合等前沿技術(shù)方向提供了新的思路,尤其是在應(yīng)對(duì)深海探測(cè)、航空試飛等極 端環(huán)境中的信號(hào)處理任務(wù)時(shí),噪聲的“正激勵(lì)”特性發(fā)揮了重要的作用,為信號(hào)處理提供新的途徑與思路。
2.利用巧妙
本書(shū)主要圍繞噪聲的基礎(chǔ)理論、形成機(jī)制,以及在信號(hào)處理中的建模方法展開(kāi),詳細(xì)闡述了噪聲形成與建模、噪聲分析的信息論基礎(chǔ)、噪聲分析在機(jī)器學(xué)習(xí)領(lǐng)域的應(yīng)用、噪聲分析在大模型領(lǐng)域的應(yīng)用、噪聲分析在具身機(jī)器人領(lǐng)域的應(yīng)用、噪聲分析在臨地安防領(lǐng)域的應(yīng)用。
3.精 準(zhǔn)分析
本書(shū)不僅介紹了噪聲分析的傳統(tǒng)方法,還深入探討了如何通過(guò)噪聲優(yōu)化信號(hào)處理過(guò)程、提升系統(tǒng)的魯棒性。尤其在機(jī)器學(xué)習(xí)、大模型和具身機(jī)器人等前沿領(lǐng)域,噪聲不再僅僅是需要消除的干擾因素,而是可以被利用的特殊信號(hào),推動(dòng)著技術(shù)創(chuàng)新和應(yīng)用拓展。
二、核心亮點(diǎn)
1.前沿技術(shù)引入
緊跟人工智能、臨地安防領(lǐng)域的新技術(shù)發(fā)展,如噪聲分析在大模型領(lǐng)域、機(jī)器學(xué)習(xí)領(lǐng)域應(yīng)用、噪聲分析在臨地安防領(lǐng)域應(yīng)用等,確保內(nèi)容的時(shí)效性和前瞻性。
2.實(shí)戰(zhàn)案例分析
融入了大量的實(shí)際案例和應(yīng)用,通過(guò)噪聲分析在大模型、具身智能等領(lǐng)域典 型技術(shù)應(yīng)用,幫助讀者更好地理解理論知識(shí)在實(shí)際操作中的應(yīng)用,增強(qiáng)圖書(shū)的實(shí)用性和針對(duì)性。
3.模塊化設(shè)計(jì)
采用模塊化結(jié)構(gòu),每個(gè)模塊聚焦一個(gè)具體的技術(shù)應(yīng)用場(chǎng)景,便于讀者按需學(xué)習(xí)或靈活教學(xué)。層次遞進(jìn),圖書(shū)內(nèi)容從基礎(chǔ)知識(shí)到高 級(jí)應(yīng)用,逐級(jí)遞進(jìn),幫助讀者逐步建立完整的正向激勵(lì)噪聲分析知識(shí)體系。
4.專(zhuān)家團(tuán)隊(duì)支持
圖書(shū)編寫(xiě)團(tuán)隊(duì)由人工智能領(lǐng)域頭部企業(yè)中國(guó)電信的AI核心團(tuán)隊(duì)組成,具有豐富的實(shí)踐經(jīng)驗(yàn)和深厚的理論功底,為全書(shū)的質(zhì)量提供了有力保障。
@李學(xué)龍
國(guó)家杰青,國(guó)家領(lǐng)軍人才,中國(guó)電信CTO。長(zhǎng)期致力于臨地安防、涉水光學(xué)、成像和圖像處理、智能光電、智傳網(wǎng)。已出版《低空無(wú)人機(jī)集群反制技術(shù)》《涉水光學(xué)》等圖書(shū)。 擁有國(guó)家杰青、歐洲科學(xué)院院士、國(guó)際宇航科學(xué)院院士、科技委領(lǐng)域?qū)?家、國(guó)家QR、IEEE/AAAS Fellow等稱(chēng)號(hào)。
第1章 概述 1
1.1 無(wú)處不在的噪聲 2
1.1.1 噪聲的定義和分類(lèi) 2
1.1.2 噪聲的普遍性 4
1.2 噪聲的兩面性 5
1.2.1 噪聲的有害性 5
1.2.2 噪聲的有益性 6
1.3 有益噪聲現(xiàn)象 8
1.4 噪聲分析的概念與內(nèi)涵 9
1.4.1 噪聲分析的主要方法 9
1.4.2 噪聲分析的應(yīng)用 13
1.4.3 噪聲分析的前景 13
1.5 本章小結(jié) 15
第2章 噪聲形成與建!17
2.1 自然條件不確定性誘發(fā)環(huán)境噪聲 19
2.1.1 雨水導(dǎo)致信號(hào)強(qiáng)度衰減 19
2.1.2 降雪引發(fā)信號(hào)傳輸衰減 19
2.1.3 大氣條件造成信號(hào)能量衰減 19
2.2 傳感器感知隨機(jī)性催生數(shù)據(jù)噪聲 20
2.2.1 黑體輻射誘導(dǎo)約翰遜熱噪聲 20
2.2.2 載流子離散性造成散粒噪聲 20
2.2.3 模數(shù)轉(zhuǎn)換近似導(dǎo)致量化噪聲 21
2.2.4 多因素時(shí)變性引發(fā)時(shí)變?cè)肼暋?1
2.3 噪聲建模 22
2.3.1 高斯白噪聲建!22
2.3.2 椒鹽噪聲建!23
2.3.3 泊松噪聲建!24
2.3.4 1/f噪聲建!26
2.3.5 相干噪聲建!27
2.3.6 多模態(tài)噪聲 28
2.4 本章小結(jié) 30
第3章 噪聲分析的信息論基礎(chǔ) 31
3.1 信息熵的基本概念 32
3.1.1 信息熵的源起 32
3.1.2 信息熵的定義 33
3.2 互信息與信息增益 33
3.2.1 互信息的定義 33
3.2.2 信息增益的定義 34
3.2.3 互信息與信息增益在噪聲分析中的應(yīng)用 34
3.3 信容理論 36
3.3.1 信容的基本概念 37
3.3.2 信容的特性 37
3.3.3 信容的計(jì)算 38
3.3.4 信容理論在噪聲分析中的應(yīng)用 39
3.4 正激勵(lì)噪聲理論 40
3.4.1 正激勵(lì)噪聲定義 40
3.4.2 單標(biāo)簽分類(lèi)下的正激勵(lì)噪聲 43
3.4.3 隨機(jī)共振現(xiàn)象下的正激勵(lì)噪聲 45
3.4.4 多任務(wù)學(xué)習(xí)與對(duì)抗訓(xùn)練任務(wù)下的正激勵(lì)噪聲 46
3.5 本章小結(jié) 47
第4章 噪聲分析在機(jī)器學(xué)習(xí)領(lǐng)域的應(yīng)用 49
4.1 正激勵(lì)噪聲在模態(tài)處理任務(wù)的應(yīng)用 50
4.1.1 視覺(jué)分類(lèi)任務(wù)中的應(yīng)用 51
4.1.2 視覺(jué)語(yǔ)言任務(wù)中的應(yīng)用 54
4.1.3 時(shí)序信號(hào)處理任務(wù)中的應(yīng)用 58
4.2 正激勵(lì)噪聲在表征學(xué)習(xí)中的應(yīng)用 62
4.2.1 正激勵(lì)噪聲增強(qiáng)對(duì)比學(xué)習(xí) 63
4.2.2 正激勵(lì)噪聲增強(qiáng)圖表征學(xué)習(xí) 65
4.2.3 正激勵(lì)噪聲增強(qiáng)錨點(diǎn)選取 67
4.3 深度學(xué)習(xí)結(jié)構(gòu)中的有益噪聲 69
4.3.1 隨機(jī)失活技術(shù) 70
4.3.2 隨機(jī)池化技術(shù) 72
4.4 基于噪聲的擴(kuò)散生成模型 74
4.4.1 去噪擴(kuò)散概率模型(DDPM) 74
4.4.2 去噪擴(kuò)散隱式模型(DDIM) 77
4.4.3 穩(wěn)定擴(kuò)散模型(SDM) 78
4.5 噪聲魯棒的數(shù)據(jù)挖掘算法 79
4.5.1 噪聲魯棒的降維算法 79
4.5.2 噪聲魯棒的聚類(lèi)算法 80
4.6 噪聲魯棒的現(xiàn)代深度學(xué)習(xí)算法 81
4.6.1 噪聲魯棒性的理論基礎(chǔ) 81
4.6.2 現(xiàn)代噪聲魯棒性技術(shù) 89
4.6.3 基于噪聲分析的現(xiàn)代深度學(xué)習(xí)算法 96
4.6.4 噪聲魯棒性提升的方法 98
4.6.5 實(shí)際應(yīng)用與挑戰(zhàn) 104
4.7 本章小結(jié) 105
第5章 噪聲分析在大模型領(lǐng)域的應(yīng)用 107
5.1 大模型簡(jiǎn)介 108
5.2 基于噪聲分析的模型量化 111
5.2.1 由量化引入的噪聲 112
5.2.2 量化噪聲的正激勵(lì)性 113
5.2.3 量化噪聲的定量分析 114
5.3 大模型解碼采樣生成策略的噪聲控制 115
5.3.1 確定性解碼與重復(fù)生成 116
5.3.2 隨機(jī)采樣的噪聲控制 119
5.3.3 解碼過(guò)程的噪聲控制 126
5.3.4 測(cè)試時(shí)間采樣 127
5.3.5 采樣噪聲控制優(yōu)化 129
5.4 大模型推理中的噪聲分析 130
5.4.1 蒙特卡洛樹(shù)搜索與推理優(yōu)化 130
5.4.2 長(zhǎng)序列建模與高級(jí)注意力 133
5.4.3 大模型的噪聲攻防策略 137
5.5 本章小結(jié) 138
第6章 噪聲分析在具身機(jī)器人領(lǐng)域的應(yīng)用 139
6.1 正激勵(lì)噪聲具身環(huán)境感知 140
6.1.1 機(jī)器人狀態(tài)空間中的噪聲感知 140
6.1.2 圖像觀測(cè)空間中的噪聲感知 143
6.2 基于噪聲的具身動(dòng)力學(xué)建!145
6.2.1 隱空間機(jī)器人動(dòng)力學(xué)模型 146
6.2.2 擴(kuò)散模型驅(qū)動(dòng)的世界模型 152
6.3 噪聲驅(qū)動(dòng)的具身策略學(xué)習(xí) 157
6.3.1 噪聲驅(qū)動(dòng)的主動(dòng)環(huán)境探索 157
6.3.2 噪聲驅(qū)動(dòng)的價(jià)值函數(shù)建!163
6.3.3 噪聲驅(qū)動(dòng)的離線(xiàn)強(qiáng)化學(xué)習(xí) 168
6.3.4 噪聲驅(qū)動(dòng)的具身軌跡規(guī)劃 174
6.4 噪聲驅(qū)動(dòng)的具身策略遷移 179
6.4.1 魯棒的策略跨域遷移 179
6.4.2 仿真-真實(shí)策略遷移 183
6.5 本章小結(jié) 189
第7章 噪聲分析在臨地安防領(lǐng)域的應(yīng)用 191
7.1 低空安防中的噪聲分析 193
7.1.1 噪聲分析在空域管理中的應(yīng)用 193
7.1.2 噪聲分析在態(tài)勢(shì)評(píng)估中的應(yīng)用 195
7.1.3 噪聲分析在目標(biāo)偵測(cè)中的應(yīng)用 197
7.1.4 噪聲分析在多智能體中的應(yīng)用 199
7.2 水下安防中的噪聲分析 202
7.2.1 噪聲分析在水下遙感監(jiān)測(cè)中的應(yīng)用 202
7.2.2 噪聲分析在水下通信中的應(yīng)用 205
7.2.3 噪聲分析在漁業(yè)養(yǎng)殖中的應(yīng)用 207
7.3 跨域安防中的噪聲分析 209
7.3.1 噪聲分析在跨域偵察中的應(yīng)用 209
7.3.2 噪聲分析在車(chē)路協(xié)同中的應(yīng)用 212
7.3.3 噪聲分析在災(zāi)害救援中的應(yīng)用 214
7.3.4 噪聲分析在水陸兩棲飛行器中的應(yīng)用 216
7.3.5 噪聲分析在跨介質(zhì)通信中的應(yīng)用 218
7.3.6 噪聲分析在試飛監(jiān)測(cè)中的應(yīng)用 221
7.4 本章小結(jié) 223
第8章 總結(jié)與展望 225
8.1 內(nèi)容回顧 225
8.2 未來(lái)展望 227
參考文獻(xiàn) 231