目　　錄　Contents
前　言
第一部分　GenAI：從基礎(chǔ)到前沿
第1章　GenAI概述　3
1.1　GenAI的產(chǎn)生　3
1.1.1　AI的發(fā)展歷程　3
1.1.2　什么是GenAI　5
1.1.3　與GenAI相關(guān)的核心概念　6
1.2　GenAI與其他AI類型的比較　8
1.2.1　GenAI與基于規(guī)則的AI　8
1.2.2　GenAI與專家系統(tǒng)　9
1.2.3　GenAI與演化算法　11
1.3　GenAI帶來(lái)變革的本質(zhì)原因　13
1.4　GenAI在不同領(lǐng)域的應(yīng)用　18
1.4.1　醫(yī)療保健　18
1.4.2　金融服務(wù)　20
1.4.3　教育　21
1.4.4　網(wǎng)絡(luò)安全　22
1.4.5　娛樂(lè)與媒體　23
1.5　GenAI的挑戰(zhàn)與未來(lái)發(fā)展　24
1.5.1　AI的擴(kuò)張與失控風(fēng)險(xiǎn)　24
1.5.2　兩種思潮：有效加速主義
與有效利他主義　26
1.5.3　應(yīng)對(duì)風(fēng)險(xiǎn)的策略：從倫理
到技術(shù)　27
1.5.4　GenAI的未來(lái)發(fā)展　28
第2章　GenAI的關(guān)聯(lián)學(xué)科及
應(yīng)用　29
2.1　GenAI與自然語(yǔ)言處理　29
2.2　GenAI與數(shù)據(jù)科學(xué)　33
2.3　GenAI與人腦認(rèn)知科學(xué)　36
2.4　GenAI與決策科學(xué)　38
2.5　GenAI與復(fù)雜性科學(xué)　40
第3章　GenAI的核心技術(shù)　43
3.1　GenAI的核心算法和架構(gòu)　43
3.1.1　生成模型的算法　43
3.1.2　生成對(duì)抗網(wǎng)絡(luò)　44
3.1.3　變分自編碼器　45
3.1.4　循環(huán)神經(jīng)網(wǎng)絡(luò)　46
3.1.5　遞歸生成網(wǎng)絡(luò)　47
3.1.6　Transformer　48
3.1.7　強(qiáng)化學(xué)習(xí)　49
3.2　生成模型解析：從數(shù)據(jù)到
部署的系統(tǒng)化框架　51
3.3　GenAI模型評(píng)價(jià)指標(biāo)　52
3.4　GenAI技術(shù)的下一步發(fā)展：
多模態(tài)與AI Agent　54
3.4.1　多模態(tài)　54
3.4.2　AI Agent　55
第二部分　未來(lái)防御：GenAI與
網(wǎng)絡(luò)安全
第4章　GenAI在網(wǎng)絡(luò)安全中的
發(fā)展　59
4.1　網(wǎng)絡(luò)安全概述　59
4.2　GenAI在網(wǎng)絡(luò)安全中的應(yīng)用
與挑戰(zhàn)　61
4.2.1　虛假新聞生成　61
4.2.2　深度偽造技術(shù)濫用　62
4.2.3　自動(dòng)化網(wǎng)絡(luò)攻擊　63
4.2.4　人工智能對(duì)抗攻擊　65
4.3　GenAI對(duì)網(wǎng)絡(luò)安全的影響　66
第5章　GenAI在網(wǎng)絡(luò)安全生命
周期中的影響與實(shí)踐　68
5.1　安全和風(fēng)險(xiǎn)管理　68
5.1.1　背景　68
5.1.2　挑戰(zhàn)　69
5.1.3　應(yīng)用　71
5.1.4　案例　72
5.2　資產(chǎn)安全　75
5.2.1　背景　75
5.2.2　挑戰(zhàn)　77
5.2.3　應(yīng)用　78
5.2.4　案例　79
5.3　安全架構(gòu)和工程　81
5.3.1　背景　81
5.3.2　挑戰(zhàn)　83
5.3.3　應(yīng)用　84
5.3.4　案例　84
5.4　身份識(shí)別和訪問(wèn)管理　88
5.4.1　背景　89
5.4.2　挑戰(zhàn)　91
5.4.3　應(yīng)用　91
5.4.4　案例　92
5.5　安全評(píng)估和測(cè)試　94
5.5.1　背景　94
5.5.2　挑戰(zhàn)　95
5.5.3　應(yīng)用　96
5.5.4　案例　97
5.6　安全運(yùn)營(yíng)　98
5.6.1　背景　99
5.6.2　挑戰(zhàn)　99
5.6.3　應(yīng)用　101
5.6.4　案例　101
5.7　軟件開發(fā)安全　102
5.7.1　背景　103
5.7.2　挑戰(zhàn)　104
5.7.3　應(yīng)用　105
5.7.4　案例　106
第三部分　面對(duì)未知：GenAI的
內(nèi)生安全風(fēng)險(xiǎn)
第6章　GenAI的內(nèi)生安全
風(fēng)險(xiǎn)概述　111
6.1　GenAI面臨的內(nèi)生安全
風(fēng)險(xiǎn)　111
6.2　價(jià)值觀對(duì)齊與AI倫理　116
第7章　GenAI的內(nèi)生安全：
基于NIST AI RMF的
風(fēng)險(xiǎn)評(píng)估與實(shí)踐　122
7.1　NIST AI RMF概述　122
7.2　GenAI系統(tǒng)風(fēng)險(xiǎn)評(píng)估過(guò)程
中的挑戰(zhàn)　125
7.3　風(fēng)險(xiǎn)控制關(guān)鍵措施　127
7.3.1　風(fēng)險(xiǎn)映射：明確風(fēng)險(xiǎn)來(lái)源
與影響邊界　127
7.3.2　風(fēng)險(xiǎn)度量：量化評(píng)估
與優(yōu)先級(jí)排序　128
7.3.3　風(fēng)險(xiǎn)管理：組織層面的
資源分配與持續(xù)治理　129
7.3.4　場(chǎng)景化應(yīng)用方案：貼合
實(shí)際與法規(guī)要求　130
7.3.5　測(cè)試-評(píng)估-驗(yàn)證-確認(rèn)：
技術(shù)流程中的性能檢測(cè)與
法律遵從　131
7.3.6　人機(jī)交互的復(fù)雜性與風(fēng)險(xiǎn)
應(yīng)對(duì)　132
7.4　NIST AI RMF與大模型
價(jià)值觀對(duì)齊的實(shí)踐　133
7.4.1　NIST AI RMF對(duì)于價(jià)
值觀對(duì)齊的總體思路　133
7.4.2　GenAI價(jià)值觀對(duì)齊中的
核心技術(shù)　135
7.4.3　安全有監(jiān)督微調(diào)與人類
反饋強(qiáng)化學(xué)習(xí)的局限性　140
7.4.4　價(jià)值觀對(duì)齊技術(shù)的發(fā)展
趨勢(shì)　141
第四部分　在邊緣跳舞：AGI的
雙面未來(lái)
第8章　從幻想到現(xiàn)實(shí)：AGI與
智能自主系統(tǒng)　147
8.1　什么是AGI　 147
8.2　什么是意識(shí)　150
8.3　管理主動(dòng)型AI系統(tǒng)風(fēng)險(xiǎn)的
實(shí)踐　156
8.4　智能自主系統(tǒng)帶來(lái)的挑戰(zhàn)　160
第9章　新型智慧崛起：從LLM
到多元智能的進(jìn)化與
風(fēng)險(xiǎn)　165
9.1　AI是一種新的智慧形態(tài)　166
9.2　從復(fù)雜性與因果理論看GenAI
的不可解釋性　167
9.3　如何控制更高級(jí)的智慧
形態(tài)　169
9.3.1　基于有限的規(guī)則無(wú)法
約束AI的行為　169
9.3.2　通過(guò)人機(jī)協(xié)作探索對(duì)于
AI的控制　170
9.4　智能的進(jìn)化與風(fēng)險(xiǎn)　172