近年來(lái)，隨著云計(jì)算、大數(shù)據(jù)、人工智能等新興技術(shù)的蓬勃發(fā)展，分布式優(yōu)化在大規(guī)模計(jì)算、機(jī)器學(xué)習(xí)等領(lǐng)域得到了廣泛應(yīng)用。針對(duì)算法中關(guān)于步長(zhǎng)的嚴(yán)格約束和理論收斂速度局限性導(dǎo)致算法收斂速度慢的科學(xué)問(wèn)題。本專(zhuān)著主要研究?jī)?nèi)容包括：分布式優(yōu)化與常微分方程之間的關(guān)系、加速分布式優(yōu)化算法設(shè)計(jì)與分析�；谔荻鹊募铀俜植际絻�(yōu)化算法存在收斂速度慢的現(xiàn)象。一方面，當(dāng)目標(biāo)函數(shù)為光滑強(qiáng)凸函數(shù)時(shí)，現(xiàn)有加速算法的步長(zhǎng)嚴(yán)格依賴(lài)于目標(biāo)函數(shù)條件數(shù)，使得步長(zhǎng)充分小時(shí)才能保證算法收斂，而算法收斂速度與步長(zhǎng)正相關(guān)，從而導(dǎo)致了算法收斂速度較慢。另一方面，當(dāng)目標(biāo)函數(shù)為光滑凸函數(shù)時(shí)，現(xiàn)有加速算法最優(yōu)收斂速度為（k是迭代次數(shù)）。本文針對(duì)上述小步長(zhǎng)、理論收斂速度局限性導(dǎo)致算法收斂速度慢的問(wèn)題展開(kāi)深入研究。
陳蕊娟，河南開(kāi)封人，中共黨員，漢族，博士，講師。2014年本科畢業(yè)于許昌學(xué)院，2016年碩士畢業(yè)于華中科技大學(xué)，2021年博士畢業(yè)于華中科技大學(xué)，期間于2017年10月至2018年10月獲國(guó)家留學(xué)基金委資助公派到加拿大滑鐵盧大學(xué)開(kāi)展博士聯(lián)合培養(yǎng)，2021年12月進(jìn)入武漢紡織大學(xué)工作。主要從事分布式優(yōu)化算法設(shè)計(jì)與分析、機(jī)器學(xué)習(xí)算法分析及應(yīng)用。以第一/通訊作者在國(guó)內(nèi)外期刊如Science China-Technological Sciences、Journal of the Franklin Institute -Engineering and Applied Mathematics、Advances in Mathematical Physics等國(guó)際學(xué)術(shù)期刊上發(fā)表學(xué)術(shù)論文4篇。
目 錄
第1 章 緒論 001
1 1 研究背景與意義 001
1 2 國(guó)內(nèi)外研究現(xiàn)狀 006
1 3 本書(shū)主要內(nèi)容 012
第2 章 隱式Euler 加速分布式優(yōu)化算法 015
2 1 問(wèn)題描述 015
2 2 線性微分方程收斂性分析 022
2 3 算法Im-DGD 設(shè)計(jì)與分析 029
2 4 算法實(shí)現(xiàn)與分析 034
2 5 本章小結(jié) 038
第3 章 辛格式加速分布式梯度下降算法 040
3 1 問(wèn)題描述 041
3 2 非線性微分方程 042
3 3 算法Sym-DGD 設(shè)計(jì)與分析 053
3 4 算法實(shí)現(xiàn)與分析 059
3 5 本章小結(jié) 064
第4 章 校正加速分布式優(yōu)化算法 065
4 1 問(wèn)題描述 066
4 2 算法CoAcc-DGD 設(shè)計(jì)與分析 067
4 3 算法實(shí)現(xiàn)與分析 076
4 4 本章小結(jié) 079
第5 章 隱式Runge-Kutta 加速分布式優(yōu)化算法 080
5 1 問(wèn)題描述 081
5 2 Runge-Kutta 加速優(yōu)化算法 087
5 3 算法D-ImRK 設(shè)計(jì)與分析 100
5 4 算法實(shí)現(xiàn)與分析 104
5 5 本章小結(jié) 108
第6 章 總結(jié)與展望 109
6 1 本書(shū)主要內(nèi)容及結(jié)論109
6 2 本書(shū)的主要?jiǎng)?chuàng)新點(diǎn)110
6 3 展望 111
參考文獻(xiàn) 113
書(shū)單推薦
