矩陣是重要的數(shù)學工具,也是當今人工智能、機器學習等領域重要的數(shù)據(jù)處理對象。本書作為矩陣理論的教材,將由淺入深地介紹矩陣的基本理論,包括矩陣的概念與運算、線性方程組、線性映射和線性變換、行列式、向量空間、特征值和特征向量、相似矩陣、二次型等,還有這些基本理論在機器學習上的簡單應用。此外在本書各章還附上了對應的Python與MATLAB編程實踐代碼,以供需要工程實踐的讀者參考應用。
本書可作為高等院校工科專業(yè)的本科生教材,也可作為研究生入學考試的參考書,還可供對矩陣理論有需求的工程技術人員閱讀參考。
矩陣是應用廣泛的數(shù)學工具之一,也是現(xiàn)代數(shù)學的一個基礎性分支,它在科學、工程、經濟學等領域都扮演著重要的角色。通過學習矩陣理論,讀者將會獲得處理高維數(shù)據(jù)、解決復雜系統(tǒng)、理解空間變換等能力,從而在各個領域中游刃有余地應用所學的知識。在我國高等院校的理工科專業(yè),一般在本科階段都會設置和矩陣理論相關的線性代數(shù)或高等代數(shù)課程,它們也是進入研究生階段深造的 數(shù)學理論基礎。
不過從諸多高校多年的教學實踐來看,學生普遍反映矩陣理論難學、難懂以及學了不知道有什么用。究其原因,除了矩陣理論本身頗為抽象這一客觀原因以外,很多課程中對矩陣理論的介紹往往很少有從具體到抽象的轉換,即缺乏將理性而嚴謹?shù)臄?shù)學思想和感性的直觀認知相結合這一過程,同時也未能和初等數(shù)學的諸多知識有機銜接。此外,有關矩陣理論的教學往往浮于表面,沒能進一步引導學生理解矩陣諸理論之間的本質邏輯聯(lián)系。而實際上,矩陣理論的學習起點是很低的,即稍有中小學階段的初等數(shù)學基礎即可開始學習,并逐步由淺入深地理解矩陣及其重要的作用。因此筆者認為,要引導學生掌握矩陣這一重要工具,在教學中需以初等數(shù)學作為切入點,同時由淺入深地以一定的邏輯,慢慢從具象、感性的直觀視角過渡到抽象、理性的代數(shù)認知。對于國內的學生來講,一本合適的中文教材在此過程中是不可或缺的。
本書共包括16章,內容涵蓋了從基本概念到高級運算技巧的諸多方面,旨在以通俗易懂的語言詳細講解矩陣理論。其中第1章以初等數(shù)學為起點引出矩陣; 第2~14章是本書的主體部分,主要包括矩陣的概念、線性方程組、矩陣運算、線性映射與線性變換、行列式、向量空間、特征值與特征向量、相似矩陣、二次型等重要理論; 第15章介紹了矩陣理論在機器學習中的簡單應用,借此拋磚引玉,以供機器學習方面的研究者參考和進一步學習; 第16章介紹了矩陣理論的歷史發(fā)展,并給出使用本書的讀者在未來學習中的建議。
本書在講解矩陣理論知識的同時配有相當數(shù)量的例題,每章末還附有一定數(shù)量的習題,以幫助讀者在鞏固所學知識的同時,深化對理論知識的理解。與此同時,本書還具有針對性地融入了一些常見的應試技巧,以便需要應試的讀者在深入理解和掌握理論知識的基礎上進一步提高解題能力。此外,第2~14章的最后一節(jié)均為MATLAB編程實踐內容,有工程實踐需求的讀者可以使用MATLAB編程工具將本章所學到的矩陣理論通過相關函數(shù)或程序加以實現(xiàn),這不僅能深化本章知識的理解,還能熟悉MATLAB工具的使用。本書還配有Python代碼和配套的視頻講解,可以掃描下方的二維碼獲取。本書可作為國內相關理工科學生學習矩陣的教材,也可作為以線性代數(shù)高等代數(shù)等課程為應試科目的基礎復習用書,還可供相關工程實踐從業(yè)人員閱讀和參考。
在本書的編寫過程中,我們參閱了國內外的大量優(yōu)秀教材以及相關資料,在此向其作者由衷地表示感謝!
由于編者水平有限,書中難免有疏漏之處,懇請廣大讀者批評指正。
編者2024年12月于西安
Python代碼
視頻講解
蘇臨之,本科畢業(yè)于西安電子科技大學智能科學與技術專業(yè),后在西安電子科技大學獲得電路與系統(tǒng)專業(yè)博士學位,現(xiàn)任教于西北大學,是人工智能、機器學習領域的教學與技術應用專家。從事機器學習、深度學習的基礎阿數(shù)學理論與工作,主持國家自然科學基金青年基金、陜西省自然科學基礎研究計劃等項目。目前專注于人工智能領域的基礎數(shù)學教學與應用研究工作。
曹欣,本科畢業(yè)于西安電子科技大學探測與制導專業(yè),后在西安電子科技大學獲得電路與系統(tǒng)專業(yè)博士學位,現(xiàn)任教于西北大學。近年來一直致力于機器學習、醫(yī)學圖像處理、光學分子影像分析等研究工作。主持國家自然科學基金青年基金、中國博士后科學基金面上項目、陜西省自然科學基礎研究計劃青年項目、陜西省教育廳專項基金等項目。目前專注于機器學習領域和影像處理的工作研究。
第1章從初等數(shù)學到高等數(shù)學
習題1
第2章矩陣是什么
2.1面包機里的學問
2.2矩陣的基本運算
2.3是矩陣,也是映射
2.3.1映射的概念和實例
2.3.2矩陣的映射屬性
2.3.3線性映射
2.4編程實踐: MATLAB和矩陣
習題2
第3章線性方程組
3.1從二元一次方程組說起
3.1.1齊次線性方程組
3.1.2非齊次線性方程組
3.1.3線性方程組的矩陣表示
3.2高斯消元法和矩陣初等行變換
3.2.1方程組的整體等價變換與高斯消元法
3.2.2矩陣的初等行變換和階梯矩陣
3.3齊次方程組的求解
3.3.1通解的概念
3.3.2齊次方程組解的判斷
3.3.3非零解和基礎解系
3.3.4主變量和自由變量
3.3.5齊次方程組的求解步驟
3.4非齊次方程組的求解
3.4.1增廣矩陣
3.4.2非齊次方程組解的判斷
3.4.3具有無窮解方程組的通解
3.4.4非齊次方程組的求解步驟
3.5初識矩陣的秩
3.5.1秩的概念與求法
3.5.2矩陣秩的基本性質
3.5.3特殊矩陣的秩
3.6線性方程組理論的應用
3.6.1含有參數(shù)的線性方程組問題
3.6.2線性方程組和空間解析幾何
3.6.3使用線性方程組配平化學方程式
3.6.4使用線性方程組求解牛吃草問題
3.7編程實踐: MATLAB求解線性方程組
習題3
第4章矩陣乘法
4.1矩陣乘法: 線性映射的復合法則
4.1.1再從線性方程組說起
4.1.2矩陣乘法運算法則
4.1.3左乘和右乘
4.1.4矩陣乘法的條件
4.2矩陣乘法代數(shù)表示及性質
4.2.1矩陣乘法代數(shù)表示的推導
4.2.2矩陣乘法的基本性質
4.3特殊矩陣的乘法
4.3.1含有零矩陣的乘法
4.3.2含有對角陣和單位陣的乘法
4.3.3向量之間的乘法
4.3.4可交換矩陣的乘法
4.4矩陣乘法的拓展
4.4.1轉置矩陣的乘法
4.4.2矩陣乘方
4.4.3矩陣多項式
4.5矩陣乘法的應用: Kappa系數(shù)計算式的推導
4.5.1Kappa系數(shù)
4.5.2Kappa系數(shù)的矩陣表達公式
4.5.3Kappa系數(shù)計算舉例
4.6編程實踐: MATLAB實現(xiàn)矩陣乘法
習題4
第5章逆矩陣
5.1矩陣乘法和初等變換的紐帶: 初等矩陣
5.1.1初等變換
5.1.2初等矩陣
5.1.3矩陣的連續(xù)初等變換
5.2矩陣的倒數(shù): 逆矩陣
5.2.1逆矩陣的概念
5.2.2逆矩陣的存在條件
5.2.3逆矩陣與逆映射
5.2.4逆矩陣的性質
5.3逆矩陣的求法
5.3.1初等行變換法求逆矩陣
5.3.2特殊矩陣的逆矩陣
5.4逆矩陣的拓展與延伸
5.4.1抽象矩陣的逆矩陣問題
5.4.2簡單矩陣方程的求解
5.5編程實踐: MATLAB求逆矩陣
習題5
第6章線性映射和線性變換
6.1再談矩陣的映射屬性
6.1.1復習與延伸: 映射及其分類
6.1.2矩陣的映射屬性
6.2平面上的線性變換
6.2.1復習: 平面向量基本定理
6.2.2平面線性變換
6.2.3單位正方形的變化和變換比例系數(shù)
6.3編程實踐: 平面圖形的變換和討論
習題6
第7章行列式
7.1行列式的基本運算和化簡
7.1.12階、3階行列式的運算
7.1.2三角行列式和初等變換化簡
7.1.3n階行列式的計算
7.2行列式的降階和展開
7.2.1行列式左上角元素降階
7.2.2行列式一般元素的降階
7.2.3行列式按行按列展開
7.2.4行列式展開公式的進一步討論
7.3行列式的綜合計算方法與技巧
7.4行列式在矩陣理論上的應用
7.4.1行列式和矩陣乘法
7.4.2行列式和矩陣的秩
7.4.3行列式和線性方程組
7.4.4行列式和逆矩陣
7.4.5零值行列式結論匯總
7.5編程實踐: MATLAB計算行列式
習題7
第8章分塊矩陣
8.1將大矩陣切成小矩陣
8.1.1矩陣分塊初體驗
8.1.2矩陣的幾種分塊方式
8.2分塊矩陣的運算
8.2.1分塊矩陣的轉置
8.2.2分塊矩陣的加減法和數(shù)乘
8.2.3分塊矩陣的乘法
8.2.4分塊矩陣的求逆
8.2.5分塊矩陣的行列式計算
8.3分塊初等變換
8.3.1分塊矩陣的初等變換
8.3.2分塊初等矩陣
8.4編程實踐: MATLAB實現(xiàn)矩陣的分塊與合并
習題8
第9章矩陣的秩
9.1矩陣的秩: 深度刻畫
9.1.1由線性映射刻畫矩陣的秩
9.1.2由行列式刻畫矩陣的秩
9.2矩陣秩的性質
9.3矩陣的秩性質應用
9.4編程實踐: MATLAB計算矩陣的秩
習題9
第10章伴隨矩陣
10.1伴隨矩陣及其構建
10.1.12階方陣的伴隨矩陣
10.1.2任意方陣伴隨矩陣的構建
10.1.3逆矩陣的另一種構建方式
10.1.4關于伴隨矩陣的術語說明
10.2伴隨矩陣十大公式
10.2.1伴隨矩陣公式推導
10.2.2伴隨矩陣十大公式匯總
10.3伴隨矩陣公式應用
10.4克拉默法則
10.5編程實踐: MATLAB計算伴隨矩陣
習題10
第11章矩陣、向量和空間
11.1多維空間向量基本定理
11.1.1平面向量基本定理的矩陣分析
11.1.2更高維度空間向量的基本定理
11.2線性無關和線性相關
11.2.1線性無關和線性相關的概念和意義
11.2.2線性無關和線性相關的拓展與應用
11.2.3線性無關和線性相關的性質總結
11.3向量組及其表示空間
11.3.1向量組的秩和極大線性無關組
11.3.2等價向量組
11.4單位正交基向量組
11.4.1復習與延伸: 數(shù)量積、正交與單位向量
11.4.2單位正交基向量組
11.4.3格拉姆施密特正交化
11.4.4正交矩陣
11.5空間的基變換和坐標變換
11.5.1基向量和坐標
11.5.2基變換和坐標變換
11.6編程實踐: 有關向量組的綜合任務
習題11
第12章特征值和特征向量
12.1特征值和特征向量的概念
12.1.1對角陣的特征值和特征向量
12.1.2一般方陣的特征值和特征向量
12.1.3特征值和特征向量的代數(shù)定義
12.2特征值和特征向量的計算
12.3特征值和特征向量的性質
12.3.1單根、重根特征值的性質
12.3.2特征值的和與積
12.3.3關聯(lián)矩陣的特征值和特征向量
12.3.4凱萊哈密爾頓定理
12.4特征值和特征向量舉例應用
12.5編程實踐: MATLAB計算特征值和特征向量
習題12
第13章相似矩陣與相似對角化
13.1相似矩陣
13.1.1相似矩陣的概念和意義
13.1.2相似矩陣的性質
13.2相似對角化
13.2.1相似對角化的概念和意義
13.2.2相似對角化的條件和計算
13.2.3相似對角化的應用
13.3實對稱矩陣
13.3.1實對稱矩陣的特征值和特征向量
13.3.2實對稱矩陣的相似對角化
13.3.3實對稱矩陣綜合舉例
13.4編程實踐: MATLAB實現(xiàn)相似對角化
習題13
第14章二次型
14.1二次型及其矩陣表示
14.1.1多元二次函數(shù)和二次型
14.1.2二次型的矩陣表示
14.2合同變換化二次型為標準形
14.2.1合同變換與合同對角化
14.2.2配方法化二次型為標準形
14.2.3正交變換法化二次型為標準形
14.3二次型和圓錐曲線、二次曲面
14.3.1二次型和平面圓錐曲線
14.3.2二次型和空間二次曲面
14.4規(guī)范形和正定、負定二次型
14.4.1二次型的規(guī)范形和慣性指數(shù)
14.4.2正定二次型和負定二次型
14.4.3順序主子式判定法則
14.5編程實踐: 二次型的綜合任務
習題14
第15章機器學習中的矩陣基礎
15.1多元函數(shù)的導數(shù)、極值和優(yōu)化
15.1.1多元函數(shù)的導數(shù): 梯度和海森矩陣
15.1.2多元函數(shù)極值求法
15.1.3梯度和海森矩陣優(yōu)化算法
15.2最小二乘法
15.2.1散點的線性擬合問題舉例
15.2.2向量函數(shù)及其導數(shù)
15.2.3最小二乘法公式推導
15.3主成分分析法(PCA)
15.3.1數(shù)據(jù)的降維壓縮
15.3.2主成分分析基本原理
15.3.3主成分分析基本步驟和實例
15.4奇異值分解(SVD)
15.4.1矩陣和線性映射的分解
15.4.2奇異值分解的計算方法
15.4.3奇異值分解在圖像處理中的應用
習題15
第16章矩陣理論的發(fā)展與未來
16.1矩陣理論的起源和發(fā)展
16.2矩陣理論的學習和進階
習題16
附錄A數(shù)理邏輯及證明基礎知識
A.1命題邏輯
A.2充分條件和必要條件
A.3數(shù)學證明常用方法
A.3.1反證法
A.3.2分析法
A.3.3數(shù)學歸納法