本書(shū)是高等院校網(wǎng)絡(luò)空間安全、人工智能、計(jì)算機(jī)等專(zhuān)業(yè)的普及性教材，以幫助學(xué)生全面了解人工智能安全知識(shí)并進(jìn)行實(shí)踐。全書(shū)共16章，分別為人工智能安全概述、生成對(duì)抗網(wǎng)絡(luò)的安全應(yīng)用、卷積神經(jīng)網(wǎng)絡(luò)的安全應(yīng)用、對(duì)抗樣本生成算法的安全應(yīng)用、隨機(jī)森林算法的安全應(yīng)用、貝葉斯和SVM分類(lèi)算法的安全應(yīng)用、長(zhǎng)短期記憶網(wǎng)絡(luò)的安全應(yīng)用、梯度下降算法的安全應(yīng)用、深度偽造原理與安全應(yīng)用、成員推理攻擊原理與實(shí)踐、屬性推理攻擊原理與實(shí)踐、模型公平性檢測(cè)及提升原理與實(shí)踐、水印去除原理與實(shí)踐、語(yǔ)音合成原理與實(shí)踐、視頻分析原理與實(shí)踐、代碼漏洞檢測(cè)原理與實(shí)踐。
全書(shū)提供了18個(gè)人工智能安全領(lǐng)域代表性的Python編程實(shí)踐，所有編程實(shí)踐都提供源代碼和詳細(xì)的實(shí)踐步驟。讀者只需要按照書(shū)中列出的步驟，一步步編程，就可以達(dá)到預(yù)期的實(shí)踐目的。本書(shū)絕大部分編程實(shí)踐內(nèi)容可以在普通筆記本電腦上實(shí)現(xiàn)。
提供18個(gè)人工智能安全領(lǐng)域代表性的編程實(shí)踐案例。
以幫助學(xué)生全面了解人工智能安全知識(shí)，并進(jìn)行實(shí)踐為目的而編寫(xiě)。
以實(shí)踐為主，理論講解較少、不做展開(kāi)，具有很強(qiáng)的實(shí)用性。
所有編程案例都給出對(duì)應(yīng)的理論知識(shí)，并提供源代碼和詳細(xì)的實(shí)踐步驟。
配套提供電子課件、習(xí)題答案、教學(xué)大綱、源代碼、知識(shí)點(diǎn)視頻、實(shí)踐視頻、課程與教材交流群。
隨著人工智能(Artificial Intelligence，AI)時(shí)代的到來(lái)，世界各國(guó)都在爭(zhēng)相發(fā)展人工智能技術(shù)與應(yīng)用。人工智能技術(shù)是引領(lǐng)全球科學(xué)技術(shù)革命和產(chǎn)業(yè)升級(jí)換代的戰(zhàn)略性技術(shù)，正在重塑著人們對(duì)國(guó)家安全、經(jīng)濟(jì)發(fā)展與社會(huì)穩(wěn)定的理解。
然而，人工智能技術(shù)在提高人們生活質(zhì)量和提升企業(yè)效率的同時(shí)，也為網(wǎng)絡(luò)攻擊者帶來(lái)了便捷，為原本錯(cuò)綜復(fù)雜的信息網(wǎng)絡(luò)環(huán)境增加了新的挑戰(zhàn)。傳統(tǒng)的信息安全方法已經(jīng)不足以應(yīng)對(duì)這些新風(fēng)險(xiǎn)，需要專(zhuān)門(mén)針對(duì)人工智能安全，研究新的安全技術(shù)，建立新的管理策略以保障信息系統(tǒng)的正常運(yùn)行。
我國(guó)對(duì)于人工智能安全非常重視。2024年9月，全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)發(fā)布了《人工智能安全治理框架》10版，框架以鼓勵(lì)人工智能創(chuàng)新發(fā)展為第一要?jiǎng)?wù)，以有效防范、化解人工智能安全風(fēng)險(xiǎn)為出發(fā)點(diǎn)和落腳點(diǎn)，提出了包容審慎、確保安全，風(fēng)險(xiǎn)導(dǎo)向、敏捷治理，技管結(jié)合、協(xié)同應(yīng)對(duì)，開(kāi)放合作、共治共享等人工智能安全治理的原則。
根據(jù)相關(guān)資料顯示，截止到2024年9月，我國(guó)已有535所普通高校開(kāi)設(shè)了人工智能專(zhuān)業(yè)，217所高校開(kāi)設(shè)了智能科學(xué)與技術(shù)專(zhuān)業(yè)，300余所高校開(kāi)設(shè)了網(wǎng)絡(luò)空間安全或信息安全專(zhuān)業(yè)。由此可見(jiàn)，在高等教育方面，國(guó)家對(duì)于人工智能和網(wǎng)絡(luò)安全也非常重視。
當(dāng)前，我國(guó)雖然有許多高校開(kāi)設(shè)了與人工智能安全相關(guān)的專(zhuān)業(yè)，但是與人工智能安全相關(guān)的教材卻相對(duì)較少，與人工智能安全相關(guān)的實(shí)踐類(lèi)教材更是少之又少。本書(shū)主要從幫助學(xué)生進(jìn)行人工智能安全實(shí)踐的角度出發(fā)，通過(guò)Python編程的方式幫助學(xué)生了解人工智能安全知識(shí)。
全書(shū)共16章，第1章是人工智能安全概述，主要講述人工智能安全的概念；第2章是生成對(duì)抗網(wǎng)絡(luò)的安全應(yīng)用，原理部分主要講述生成對(duì)抗網(wǎng)絡(luò)及其改進(jìn)模型，實(shí)踐部分主要講述生成對(duì)抗網(wǎng)絡(luò)模擬sin曲線、模型竊�。坏�3章是卷積神經(jīng)網(wǎng)絡(luò)的安全應(yīng)用，原理部分主要講述卷積神經(jīng)網(wǎng)絡(luò)，實(shí)踐部分主要講述基于卷積神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)投毒攻擊、人臉活體檢測(cè)、驗(yàn)證碼識(shí)別；第4章是對(duì)抗樣本生成算法的安全應(yīng)用，原理部分主要講述對(duì)抗樣本生成算法，實(shí)踐部分主要講述基于對(duì)抗樣本生成算法的圖像對(duì)抗；第5章是隨機(jī)森林算法的安全應(yīng)用，原理部分主要講述隨機(jī)森林算法，實(shí)踐部分主要講述基于隨機(jī)森林算法的圖像去噪；第6章是貝葉斯和SVM分類(lèi)算法的安全應(yīng)用，原理部分主要講述貝葉斯分類(lèi)算法、SVM分類(lèi)算法，實(shí)踐部分主要講述基于貝葉斯和SVM分類(lèi)算法的垃圾郵件過(guò)濾；第7章是長(zhǎng)短期記憶網(wǎng)絡(luò)的安全應(yīng)用，原理部分主要講述長(zhǎng)短期記憶網(wǎng)絡(luò)，實(shí)踐部分主要講述基于雙向LSTM模型的網(wǎng)絡(luò)攻擊檢測(cè)；第8章是梯度下降算法的安全應(yīng)用，原理部分主要講述梯度下降算法，實(shí)踐部分主要講述基于梯度下降算法的模型逆向攻擊；第9章是深度偽造原理與安全應(yīng)用，原理部分主要講述深度偽造技術(shù)，實(shí)踐部分主要講述基于深度偽造技術(shù)的人臉偽造；第10章是成員推理攻擊原理與實(shí)踐，原理部分主要講述成員推理攻擊方法、影子模型攻擊技術(shù)，實(shí)踐部分主要講述基于影子模型的成員推理攻擊；第11章是屬性推理攻擊原理與實(shí)踐，原理部分主要講述神經(jīng)網(wǎng)絡(luò)，實(shí)踐部分主要講述基于神經(jīng)網(wǎng)絡(luò)的屬性推理攻擊；第12章是模型公平性檢測(cè)及提升原理與實(shí)踐，原理部分主要講述算法歧視，實(shí)踐部分主要講述模型公平性檢測(cè)與提升；第13章是水印去除原理與實(shí)踐，原理部分主要講述去水印技術(shù)，實(shí)踐部分主要講述基于Skip Encoder-Decoder網(wǎng)絡(luò)的圖像水印去除；第14章是語(yǔ)音合成原理與實(shí)踐，原理部分主要講述Tacotron模型、梅爾頻譜圖、長(zhǎng)短期記憶網(wǎng)絡(luò)、混合注意力機(jī)制、聲碼器，實(shí)踐部分主要講述基于Tacotron2的語(yǔ)音合成；第15章是視頻分析原理與實(shí)踐，原理部分主要講述視頻分析和目標(biāo)檢測(cè)，實(shí)踐部分主要講述基于YOLOv5的安全帽識(shí)別；第16章是代碼漏洞檢測(cè)原理與實(shí)踐，原理部分主要講述圖神經(jīng)網(wǎng)絡(luò)、遷移學(xué)習(xí)，實(shí)踐部分主要講述基于圖神經(jīng)網(wǎng)絡(luò)的代碼漏洞檢測(cè)。
感謝我的學(xué)生郭永躍、付安棋、梁成、趙梓涵、張德俊、胡昀昊、王乃樂(lè)、張春暉、李舒雅、代睿祺、王卓。他們對(duì)于本書(shū)的寫(xiě)作給予了極大的支持與幫助。其他參與本書(shū)編寫(xiě)和審閱工作的還有孟玲玉、李勝斌、陳彥俠、趙國(guó)安，這里一并表示感謝。
本書(shū)在撰寫(xiě)和出版過(guò)程中得到了國(guó)家自然科學(xué)基金(NoU1636106、No61472048)、北京郵電大學(xué)2024年本科教育教學(xué)改革項(xiàng)目人工智能安全實(shí)踐實(shí)訓(xùn)平臺(tái)設(shè)計(jì)與實(shí)現(xiàn)(No2024YB34)、2024年北京郵電大學(xué)優(yōu)秀實(shí)踐教學(xué)案例建設(shè)項(xiàng)目人工智能安全實(shí)踐（No2024025）、2024年北京郵電大學(xué)十四五規(guī)劃教材建設(shè)項(xiàng)目（No108）的資助。本書(shū)也是北京郵電大學(xué)國(guó)家人工智能產(chǎn)教融合創(chuàng)新平臺(tái)的研究成果。
本書(shū)得到啟明星辰信息技術(shù)集團(tuán)股份有限公司產(chǎn)學(xué)合作協(xié)同育人項(xiàng)目人工智能安全課程建設(shè)研究的支持。
由于作者水平有限，書(shū)中疏漏與不妥之處在所難免，懇請(qǐng)廣大同行和讀者指導(dǎo)和斧正。
李劍，北京郵電大學(xué)網(wǎng)絡(luò)空間安全學(xué)院教授，博士生導(dǎo)師，北京市思政教學(xué)名師。長(zhǎng)期從事網(wǎng)絡(luò)空間安全、量子密碼、人工智能等方面的研究。在《IEEE Transactions on Information Forensics and Security》《IEEE Internet of Things Journal》《Information Sciences》《EPJ Quantum Technology》《中國(guó)科學(xué)》《科學(xué)通報(bào)》等國(guó)內(nèi)外期刊發(fā)表論文300余篇，其中SCI檢索論文100篇余篇；出版信息安全方面教材10余本，包括《信息安全概論》《信息安全導(dǎo)論》《信息安全專(zhuān)業(yè)英語(yǔ)》《操作系統(tǒng)安全》《區(qū)塊鏈技術(shù)與實(shí)踐》等國(guó)家級(jí)規(guī)劃教材和北京市精品教材。2023年8月出版的十三五國(guó)家重點(diǎn)出版物規(guī)劃教材《信息安全概論（第3版）》被評(píng)為北京市優(yōu)質(zhì)本科教材、-華為智能基座優(yōu)秀教材，累計(jì)銷(xiāo)售7萬(wàn)余冊(cè)，在網(wǎng)絡(luò)空間安全相關(guān)教材領(lǐng)域全國(guó)銷(xiāo)售量位居前列。承擔(dān)多項(xiàng)國(guó)家自然科學(xué)基金、密碼基金、北京市自然基金等項(xiàng)目；參與多項(xiàng)國(guó)家863、973等項(xiàng)目。目前是中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)反惡意軟件技術(shù)組組長(zhǎng)，中國(guó)電子學(xué)會(huì)高級(jí)會(huì)員，中國(guó)密碼學(xué)會(huì)高級(jí)會(huì)員，中國(guó)計(jì)算機(jī)學(xué)會(huì)高級(jí)會(huì)員，中國(guó)人工智能學(xué)會(huì)高級(jí)會(huì)員�！缎畔踩芯俊菲诳幬�。
前言
第1章人工智能安全概述
11人工智能安全的引入
12人工智能安全的概念
13人工智能安全的架構(gòu)、風(fēng)險(xiǎn)及應(yīng)對(duì)方法
131人工智能安全架構(gòu)
132人工智能安全風(fēng)險(xiǎn)
133人工智能安全風(fēng)險(xiǎn)的應(yīng)對(duì)方法
14人工智能安全現(xiàn)狀
15本書(shū)的組成、學(xué)習(xí)和講授方法
151本書(shū)的組成
152本書(shū)的學(xué)習(xí)方法
153本書(shū)的講授方法
16習(xí)題
參考文獻(xiàn)
第2章生成對(duì)抗網(wǎng)絡(luò)的安全應(yīng)用
21知識(shí)要點(diǎn)
211生成對(duì)抗網(wǎng)絡(luò)概述
212生成對(duì)抗網(wǎng)絡(luò)原理
213生成對(duì)抗網(wǎng)絡(luò)的應(yīng)用
214生成對(duì)抗網(wǎng)絡(luò)的訓(xùn)練步驟
22實(shí)踐2-1基于生成對(duì)抗網(wǎng)絡(luò)的sin曲線樣本模擬
221實(shí)踐目的
222實(shí)踐內(nèi)容
223實(shí)踐環(huán)境
224實(shí)踐前準(zhǔn)備工作
225實(shí)踐步驟
226實(shí)踐結(jié)果
227參考代碼
23實(shí)踐2-2基于對(duì)抗性攻擊無(wú)數(shù)據(jù)替代訓(xùn)練的模型竊取
231實(shí)踐概述
232攻擊場(chǎng)景
233對(duì)抗性攻擊
234對(duì)抗性生成器-分類(lèi)器訓(xùn)練
235標(biāo)簽可控的數(shù)據(jù)生成
236實(shí)踐目的
237實(shí)踐環(huán)境
238實(shí)踐步驟
239實(shí)踐結(jié)果
2310實(shí)踐要求
2311參考代碼
24習(xí)題
第3章卷積神經(jīng)網(wǎng)絡(luò)的安全應(yīng)用
31知識(shí)要點(diǎn)
311神經(jīng)網(wǎng)絡(luò)
312卷積神經(jīng)網(wǎng)絡(luò)概述
313卷積神經(jīng)網(wǎng)絡(luò)核心組件
314AlexNet模型
315VGG模型
316MNIST數(shù)據(jù)集
32實(shí)踐3-1基于卷積神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)投毒攻擊
321投毒攻擊概述
322實(shí)踐目的
323實(shí)踐環(huán)境
324實(shí)踐步驟
325實(shí)踐要求
326實(shí)踐結(jié)果
327參考代碼
33實(shí)踐3-2基于卷積神經(jīng)網(wǎng)絡(luò)的人臉活體檢測(cè)
331人臉活體檢測(cè)概述
332人臉活體檢測(cè)的應(yīng)用
333實(shí)踐目的
334實(shí)踐架構(gòu)
335實(shí)踐環(huán)境
336實(shí)踐步驟
337實(shí)踐要求
338實(shí)踐結(jié)果
339參考代碼
34實(shí)踐3-3基于卷積神經(jīng)網(wǎng)絡(luò)的驗(yàn)證碼識(shí)別
341驗(yàn)證碼識(shí)別介紹
342實(shí)踐目的
343實(shí)踐內(nèi)容
344實(shí)踐環(huán)境
345實(shí)踐步驟
346實(shí)踐結(jié)果
347參考代碼
35習(xí)題
第4章對(duì)抗樣本生成算法的安全應(yīng)用
41知識(shí)要點(diǎn)
411對(duì)抗樣本生成攻擊
412對(duì)抗樣本生成算法
42實(shí)踐4-1基于對(duì)抗樣本生成算法的圖像對(duì)抗
421圖像對(duì)抗
422實(shí)踐步驟
423實(shí)踐目的
424實(shí)踐環(huán)境
425實(shí)踐前準(zhǔn)備工作
426FGSM生成數(shù)字灰度圖對(duì)抗樣本
427PGD算法生成數(shù)字灰度圖對(duì)抗樣本
428參考代碼
43習(xí)題
第5章隨機(jī)森林算法的安全應(yīng)用
51知識(shí)要點(diǎn)
511隨機(jī)森林算法的概念
512隨機(jī)森林算法的原理
513隨機(jī)森林算法的工作流程
514隨機(jī)森林算法的優(yōu)缺點(diǎn)
52實(shí)踐5-1基于隨機(jī)森林算法的圖像去噪
521圖像去噪
522實(shí)踐目的
523實(shí)踐環(huán)境
524實(shí)踐步驟
525實(shí)踐結(jié)果
526實(shí)踐要求
527參考代碼
53習(xí)題
第6章貝葉斯和SVM分類(lèi)算法的安全應(yīng)用
61知識(shí)要點(diǎn)
611貝葉斯分類(lèi)算法
612SVM分類(lèi)算法
613垃圾郵件過(guò)濾
62實(shí)踐6-1基于貝葉斯和SVM分類(lèi)算法的垃圾郵件過(guò)濾
621實(shí)踐目的
622實(shí)踐流程
623實(shí)踐環(huán)境
624實(shí)踐步驟
625實(shí)踐結(jié)果
626庫(kù)文件和數(shù)據(jù)集
63習(xí)題
第7章長(zhǎng)短期記憶網(wǎng)絡(luò)的安全應(yīng)用
71知識(shí)要點(diǎn)
711網(wǎng)絡(luò)安全概述
712LSTM模型
713雙向LSTM模型
72實(shí)踐7-1基于雙向LSTM模型的網(wǎng)絡(luò)攻擊檢測(cè)
721實(shí)踐內(nèi)容
722實(shí)踐目的
723實(shí)踐環(huán)境
724實(shí)踐步驟
725實(shí)踐結(jié)果
726庫(kù)文件和數(shù)據(jù)集
73習(xí)題
第8章梯度下降算法的安全應(yīng)用
81知識(shí)要點(diǎn)
811梯度下降算法概述
812梯度下降算法優(yōu)化方法
813梯度下降算法的應(yīng)用
82實(shí)踐8-1基于梯度下降算法的模型逆向攻擊
821模型逆向攻擊概述
822實(shí)踐目的
823常見(jiàn)的模型逆向攻擊方法
824實(shí)踐流程
825實(shí)踐內(nèi)容
826實(shí)踐環(huán)境
827實(shí)踐步驟
828實(shí)踐結(jié)果
829參考代碼
83習(xí)題
參考文獻(xiàn)
第9章深度偽造原理與安全應(yīng)用
91知識(shí)要點(diǎn)
911深度偽造概述
912人臉圖像偽造技術(shù)
92實(shí)踐9-1基于深度偽造技術(shù)的人臉偽造
921實(shí)踐概述
922實(shí)踐目的
923實(shí)踐內(nèi)容
924實(shí)踐環(huán)境
925實(shí)踐步驟
926實(shí)踐結(jié)果
927參考代碼
93習(xí)題
第10章成員推理攻擊原理與實(shí)踐
101知識(shí)要點(diǎn)
1011成員推理攻擊介紹
1012成員推理攻擊分類(lèi)
1013常見(jiàn)的成員推理攻擊方法
1014影子模型攻擊
1015影子模型攻擊的步驟
102實(shí)踐10-1基于影子模型的成員推理攻擊
1021實(shí)踐目的
1022實(shí)踐內(nèi)容
1023實(shí)踐環(huán)境
1024實(shí)踐步驟
1025實(shí)踐結(jié)果
1026參考代碼
1027實(shí)踐總結(jié)
103習(xí)題
參考文獻(xiàn)
第11章屬性推理攻擊原理與實(shí)踐
111知識(shí)要點(diǎn)
1111屬性推理攻擊概述
1112屬性推理攻擊的場(chǎng)景
1113屬性推理攻擊常用方法
112實(shí)踐11-1基于神經(jīng)網(wǎng)絡(luò)的屬性推理攻擊
1121實(shí)踐內(nèi)容
1122實(shí)踐目的
1123實(shí)踐環(huán)境
1124實(shí)踐步驟
書(shū)單推薦
