目錄
《計算與應(yīng)用數(shù)學(xué)叢書》序
前言
第1章 預(yù)備知識 1
1.1 凸集和凸函數(shù) 1
1.1.1 凸集 1
1.1.2 凸函數(shù) 2
1.2 凸優(yōu)化和變分不等式 7
1.2.1 變分不等式和盲人爬山原理 7
1.2.2 線性約束可微凸優(yōu)化問題的*優(yōu)性條件 13
1.2.3 線性約束凸優(yōu)化問題和等價的單調(diào)變分不等式 15
1.3 凸優(yōu)化和單調(diào)變分不等式的鄰近點算法 18
1.4 凸優(yōu)化的鄰近點算法及其加速方法的收斂速率 24
1.4.1 求解凸優(yōu)化問題PPA算法的收斂速率 24
1.4.2 預(yù)測-校正的具有加速性質(zhì)的PPA算法 27
第2章 投影收縮算法和投影梯度法 33
2.1 投影的定義和基本性質(zhì) 33
2.2 凸二次優(yōu)化投影收縮算法帶來的啟示 38
2.2.1 求解凸二次優(yōu)化問題的投影收縮算法 38
2.2.2 凸二次優(yōu)化投影收縮算法的數(shù)值表現(xiàn) 40
2.3 自適應(yīng)投影梯度收縮算法 45
2.4 自適應(yīng)投影梯度下降算法 50
2.5 具有加速性質(zhì)的投影梯度下降算法 56
第3章 鞍點問題的原始-對偶算法 62
3.1 鞍點問題對應(yīng)的變分不等式 62
3.2 不能保證收斂的原始-對偶混合梯度法 63
3.3 求解鞍點問題的鄰近點算法 67
3.4 鞍點問題PPA算法的一些應(yīng)用 70
3.5 子問題目標(biāo)函數(shù)含非平凡二次項的PPA算法 74
第4章 乘子交替方向法 79
4.1 從增廣Lagrange乘子法到ADMM 79
4.2 ADMM的收斂性分析 84
4.3 線性化的ADMM90
4.4 ADMM及線性化ADMM的收斂性證明 95
4.4.1 ADMM及線性化ADMM的全局收斂性 95
4.4.2 ADMM點列意義下的收斂速率 96
4.4.3 ADMM遍歷意義下的收斂速率 99
4.5 Glowinski交替方向法中更新乘子的步長法則 102
第5章 凸優(yōu)化分裂收縮算法的預(yù)測-校正統(tǒng)一框架 105
5.1 分裂收縮算法的預(yù)測-校正統(tǒng)一框架 105
5.1.1 統(tǒng)一框架中的預(yù)測 105
5.1.2 統(tǒng)一框架中的校正 106
5.2 按照統(tǒng)一框架修正的一些算法 108
5.2.1 平凡松弛校正的算法 108
5.2.2 必要非平凡校正的算法 110
5.3 統(tǒng)一框架中的算法收斂性質(zhì) 113
5.3.1 采用固定步長校正的算法收斂性 113
5.3.2 采用計算步長校正的算法收斂性 115
5.4 統(tǒng)一框架下算法的迭代復(fù)雜性 117
5.4.1 遍歷意義下的迭代復(fù)雜性 117
5.4.2 點列意義下的迭代復(fù)雜性 120
5.5 合格預(yù)測確定后選取校正矩陣的通用法則 122
第6章 統(tǒng)一框架與**單調(diào)變分不等式的投影收縮算法 128
6.1 單調(diào)變分不等式及與其等價的投影方程 128
6.1.1 保護資源-保障供給中的互補問題 129
6.1.2 交通疏導(dǎo)中的互補問題 131
6.1.3 與變分不等式等價的投影方程 132
6.2 PPA算法和投影收縮算法的三個基本不等式 133
6.3 投影收縮算法和分裂收縮算法中的預(yù)測 135
6.3.1 求解**變分不等式的投影收縮算法中的預(yù)測 135
6.3.2 求解混合變分不等式的分裂收縮算法中的預(yù)測 137
6.4 投影收縮算法和分裂收縮算法的校正 137
6.4.1 兩類方法中采用固定步長的校正 138
6.4.2 兩類算法中計算步長的校正 139
6.5 投影收縮算法中的孿生方向和姊妹方法 142
6.6 單調(diào)變分不等式投影收縮算法遍歷意義下的收斂速率 146
6.7 投影收縮算法在求解可分離凸優(yōu)化上的應(yīng)用 151
第7章 統(tǒng)一框架與單調(diào)線性變分不等式的投影收縮算法 160
7.1 單調(diào)線性變分不等式及相應(yīng)的優(yōu)化問題 160
7.2 線性變分不等式的投影收縮算法和算法統(tǒng)一框架 166
7.3 求解線性變分不等式的孿生方向和姊妹方法 171
7.4 線性變分不等式投影收縮算法的收斂速率 175
7.5 孿生方向姊妹方法在*短距離和問題中的計算表現(xiàn) 180
第8章 統(tǒng)一框架下求解鞍點問題的收縮算法 185
8.1 修正Chambolle-Pock算法的預(yù)測-校正方法 186
8.2 基于C-P方法的自適應(yīng)預(yù)測-校正方法 193
8.3 采用平行預(yù)測的預(yù)測-校正方法 200
8.4 子問題目標(biāo)函數(shù)中含非平凡二次項的PPA算法 203
8.5 求解鞍點問題的投影收縮算法 206
第9章 統(tǒng)一框架下求解單塊凸優(yōu)化問題的收縮算法 210
9.1 從增廣Lagrange乘子法到PPA算法 210
9.2 非平凡校正的ALM類算法 212
9.3 平凡松弛校正的PPA算法 217
9.4 均困平衡的增廣Lagrange乘子法 220
9.5 非平凡校正的均困ALM 223
9.6 平凡松弛校正的均困PPA算法 226
9.7 平行處理預(yù)測子問題的均困方法 229
第10章 統(tǒng)一框架下兩可分離塊凸優(yōu)化問題的ADMM類方法 232
10.1 **ADMM在統(tǒng)一框架中的演譯 233
10.2 交換順序的ADMM 239
10.3 對稱的ADMM 242
10.4 利用統(tǒng)一框架設(shè)計的PPA算法 247
10.5 線性化ADMM和自適應(yīng)線性化ADMM 249
10.5.1 線性化ADMM在統(tǒng)一框架下的演譯 249
10.5.2 自適應(yīng)的線性化ADMM 251
10.6 統(tǒng)一框架下計算步長的線性化ADMM 255
10.7 利用統(tǒng)一框架設(shè)計的均困PPA算法 260
第11章 三個可分離塊凸優(yōu)化問題的修正ADMM類方法 264
11.1 直接推廣的ADMM對三個可分離塊問題不保證收斂 264
11.2 部分平行分裂的ADMM預(yù)測-校正方法 269
11.3 帶Gauss回代的ADMM類方法 275
11.4 線性化的帶Gauss回代的ADMM類方法 283
11.5 部分平行并加正則項的ADMM類方法 288
11.6 利用統(tǒng)一框架設(shè)計的PPA算法 291
第12章 線性化ALM和ADMM中的不定正則化準(zhǔn)則 294
12.1 不定正則化方法的意義和兩個引理 294
12.2 等式約束優(yōu)化問題的不定正則化 ALM 298
12.2.1 不定正則化方法 ALM 的變分不等式表示 298
12.2.2 不定正則化方法 ALM 的收斂性證明 300
12.3 不等式約束問題的不定正則化 ALM 303
12.3.1 不定正則化方法 ALM 的預(yù)測-校正格式 305
12.3.2 不定正則化 ALM 的收斂性證明 308
12.4 不定正則的*優(yōu)線性化ADMM 313
12.4.1 不定正則化方法ADMM的預(yù)測-校正格式 315
12.4.2 不定正則化ADMM的收斂性證明 318
12.5 不定正則化ADMM類方法求解三個可分離塊問題 322
第13章 多個可分離塊凸優(yōu)化問題的ADMM類方法 327
13.1 帶Gauss回代的ADMM類方法 329
13.2 線性化的帶Gauss回代的ADMM類方法 337
13.3 子問題平行正則化的ADMM類方法 341
13.4 利用統(tǒng)一框架設(shè)計的PPA算法 347
第14章 平行預(yù)測的求解多塊問題的方法 350
14.1 平行預(yù)測不加正則項的方法 351
14.1.1 方法轉(zhuǎn)換成統(tǒng)一框架下的模式 352
14.1.2 基于同一預(yù)測的其他校正方法 356
14.2 平行預(yù)測加正則項的方法 358
14.2.1 采用統(tǒng)一框架中計算步長的校正方法 359
14.2.2 采用統(tǒng)一框架中單位步長的校正方法 361
14.3 Jacobi預(yù)測的PPA算法 365
14.4 均困平衡的PPA算法 368
第15章 求解多塊可分離問題的廣義秩一預(yù)測-校正方法 373
15.1 變分不等式變量代換下的預(yù)測-校正框架 374
15.2 多塊可分離問題的串行預(yù)測 378
15.3 基于Primal-Dual預(yù)測構(gòu)造校正矩陣 385
15.4 基于Dual-Primal預(yù)測構(gòu)造校正矩陣 388
15.5 統(tǒng)一框架中的串行預(yù)測和廣義秩一校正 391
第16章 求解多塊可分離問題的廣義秩二預(yù)測-校正方法 394
16.1 用統(tǒng)一框架指導(dǎo)設(shè)計方法 394
16.2 根據(jù)統(tǒng)一框架設(shè)計串型預(yù)測 395
16.2.1 Primal-Dual預(yù)測后再校正的方法 395
16.2.2 Dual-Primal預(yù)測后再校正的方法 400
16.3 根據(jù)統(tǒng)一框架設(shè)計平行預(yù)測的方法 404
第17章 預(yù)測-校正的廣義PPA算法 410
17.1 變分不等式**算法的兩個主要性質(zhì) 410
17.2 預(yù)測-校正的廣義PPA算法.412
17.3 變量替換下的廣義PPA算法 414
17.4 基于秩一預(yù)測的廣義PPA算法 416
17.4.1 Primal-Dual預(yù)測的廣義PPA算法 417
17.4.2 Dual-Primal預(yù)測的廣義PPA算法 419
17.5 基于秩二預(yù)測的廣義PPA算法 421
17.5.1 Primal-Dual預(yù)測的廣義PPA算法 422
17.5.2 Dual-Primal預(yù)測的廣義PPA算法 425
17.6 平行秩二預(yù)測的廣義PPA算法 427
后記 429
參考文獻 434
《計算與應(yīng)用數(shù)學(xué)叢書》已出版書目 442