本書主要包含以下內(nèi)如：最優(yōu)化問題的簡介，凸分析基礎(chǔ)，無約束優(yōu)化的理論及線搜索算法框架，信賴域算法，線搜索收斂性分析及收斂速度分析，半光滑牛頓算法，共軛梯度算法，約束優(yōu)化理論及延伸理論，罰方法，增廣拉格朗日算法及算法在實際問題(支持向量機模型、超圖匹配)中的應(yīng)用。本書對知識點的分析緊密結(jié)合當(dāng)前研究前沿問題，并通過對應(yīng)用問題使用優(yōu)化算法，讓學(xué)生看到優(yōu)化理論與實際數(shù)據(jù)的結(jié)合，將知識點以全方位的立體感呈現(xiàn)給學(xué)生。
更多科學(xué)出版社服務(wù)，請掃碼獲取。
目錄
前言
第1章 支持向量機1
1.1 分類問題與標(biāo)準(zhǔn)支持向量機1
1.1.1 分類問題1
1.1.2C-支持向量機1
1.1.3 最小二乘支持向量機4
1.2 超平面非平行的支持向量機6
1.2.1 雙子支持向量機6
1.2.2 非平行超平面支持向量機10
1.3 拓展閱讀14
1.3.1 二分類支持向量機及其拓展15
1.3.2 多分類支持向量機及其拓展19
參考文獻20
第2章 優(yōu)化算法26
2.1 確定型優(yōu)化算法26
2.1.1 序列最小最優(yōu)化算法26
2.1.2 交替方向乘子算法27
2.1.3 坐標(biāo)下降算法30
2.1.4 逐次超松弛迭代算法31
2.1.5 凸函數(shù)差分算法33
2.1.6 原始估計次梯度算法35
2.1.7 截斷牛頓共軛梯度算法37
2.2 隨機型優(yōu)化算法39
2.2.1 梯度下降算法39
2.2.2 方差縮減算法41
2.2.3 加速算法43
2.2.4 自適應(yīng)學(xué)習(xí)速率算法45
2.2.5 高階算法47
2.2.6 鄰近算法50
2.3 拓展閱讀51
2.3.1 應(yīng)用領(lǐng)域51
2.3.2 隨機型優(yōu)化算法的拓展52
參考文獻52
第3章 損失函數(shù)58
3.1 分類問題的損失函數(shù)58
3.1.1 損失函數(shù)58
3.1.2 總結(jié)與分析66
3.2 回歸問題的損失函數(shù)67
3.2.1 損失函數(shù)68
3.2.2 總結(jié)與分析70
3.3 無監(jiān)督問題的損失函數(shù).71
3.3.1 損失函數(shù)71
3.3.2 總結(jié)與分析73
3.4 拓展閱讀73
3.4.1 目標(biāo)檢測中的損失函數(shù)73
3.4.2 人臉識別中的損失函數(shù)76
3.4.3 圖像分割中的損失函數(shù)78
參考文獻80
第4章 正則技術(shù)85
4.1 向量稀疏正則.85
4.1.1 應(yīng)用場景85
4.1.2 正則項86
4.1.3 總結(jié)與分析90
4.2 矩陣稀疏正則.91
4.2.1 應(yīng)用場景91
4.2.2 正則項92
4.2.3 總結(jié)與分析94
4.3 矩陣低秩正則.95
4.3.1 應(yīng)用場景95
4.3.2 正則項96
4.3.3 總結(jié)與分析98
4.4 拓展閱讀99
4.4.1 數(shù)據(jù)增強100
4.4.2 Dropout101
4.4.3 歸一化103
參考文獻105
第5章 多視角學(xué)習(xí).109
5.1 多視角學(xué)習(xí)問題與處理原則109
5.2 兩視角支持向量機SVM-2K111
5.3 基于特權(quán)信息學(xué)習(xí)理論的兩視角支持向量機113
5.3.1 模型構(gòu)建114
5.3.2 理論分析117
5.4 拓展閱讀119
5.4.1 協(xié)同訓(xùn)練119
5.4.2 多核學(xué)習(xí)121
5.4.3 子空間學(xué)習(xí)121
5.4.4 深度多視角學(xué)習(xí)124
參考文獻125
第6章 多標(biāo)簽學(xué)習(xí).131
6.1 多標(biāo)簽學(xué)習(xí)問題與評價指標(biāo)131
6.1.1 多標(biāo)簽分類問題131
6.1.2 多標(biāo)簽學(xué)習(xí)的評價指標(biāo)132
6.2 多標(biāo)簽學(xué)習(xí)的經(jīng)典算法133
6.2.1 二元關(guān)聯(lián)133
6.2.2 排序支持向量機134
6.3 考慮標(biāo)簽相關(guān)性的代價敏感多標(biāo)簽學(xué)習(xí)135
6.3.1 模型構(gòu)建136
6.3.2 模型求解138
6.3.3 理論分析140
6.4 拓展閱讀141
6.4.1 傳統(tǒng)多標(biāo)簽學(xué)習(xí)141
6.4.2 深度多標(biāo)簽學(xué)習(xí)142
參考文獻143
第7章 多示例學(xué)習(xí).146
7.1 多示例學(xué)習(xí)問題146
7.2 多示例支持向量機148
7.3 稀疏多示例支持向量機150
7.3.1 模型構(gòu)建151
7.3.2 模型求解152
7.4 拓展閱讀154
7.4.1 常見算法154
7.4.2 深度多示例學(xué)習(xí)算法156
7.4.3 與其他學(xué)習(xí)范式結(jié)合158
參考文獻160
第8章 多任務(wù)學(xué)習(xí).166
8.1 多任務(wù)學(xué)習(xí)問題166
8.2 多任務(wù)支持向量機167
8.3 多任務(wù)特征選擇168
8.3.1 模型構(gòu)建169
8.3.2 模型求解169
8.3.3 理論分析172
8.4 拓展閱讀172
8.4.1 傳統(tǒng)多任務(wù)學(xué)習(xí)173
8.4.2 深度多任務(wù)學(xué)習(xí)173
8.4.3 與其他學(xué)習(xí)范式結(jié)合176
參考文獻177
第9章 度量學(xué)習(xí)181
9.1 度量學(xué)習(xí)問題181
9.1.1 距離181
9.1.2 度量學(xué)習(xí)問題182
9.2 全局與局部度量學(xué)習(xí)183
9.2.1 全局度量學(xué)習(xí)183
9.2.2 局部度量學(xué)習(xí)184
9.3 基于特征分解的度量學(xué)習(xí)185
9.3.1 全局算法185
9.3.2 局部算法186
9.3.3 比較與分析188
9.4 拓展閱讀188
9.4.1 傳統(tǒng)度量學(xué)習(xí)188
9.4.2 深度度量學(xué)習(xí)190
參考文獻192
索引196
書單推薦
