機(jī)器學(xué)習(xí)數(shù)學(xué)基礎(chǔ)(Python語言實(shí)現(xiàn))
本書是一本系統(tǒng)介紹機(jī)器學(xué)習(xí)所涉及的數(shù)學(xué)知識(shí)和相關(guān)Python編程的實(shí)例工具書,同時(shí)還介紹了非常經(jīng)典的綜合案例,除了編寫機(jī)器學(xué)習(xí)的代碼,還編寫了深度學(xué)習(xí)的代碼。本書一共分為兩部分。
第一部分為數(shù)學(xué)基礎(chǔ)知識(shí)部分,包含 8個(gè)章節(jié),介紹了微積分、線性代數(shù)、概率統(tǒng)計(jì)、信息論、模糊數(shù)學(xué)、隨機(jī)過程、凸優(yōu)化和圖論的系統(tǒng)知識(shí)體系及幾個(gè)數(shù)學(xué)知識(shí)點(diǎn)對(duì)應(yīng)的Python編程實(shí)例。通過這些實(shí)例,讀者能夠了解Scikit-learn、Scikit-fuzzy、Theano、SymPy、NetworkX和CVXPY中相應(yīng)的庫(kù)函數(shù)的應(yīng)用。
第二部分為案例部分,包含4個(gè)章節(jié),介紹了微積分、線性代數(shù)和概率統(tǒng)計(jì)問題的建模方法、求解流程和編程實(shí)現(xiàn),以及工業(yè)生產(chǎn)領(lǐng)域的Python實(shí)戰(zhàn),包含了機(jī)器學(xué)習(xí)算法和深度學(xué)習(xí)PyTorch框架的應(yīng)用。
在學(xué)習(xí)本書內(nèi)容前,建議讀者先掌握基本的Python編程知識(shí)和數(shù)學(xué)基礎(chǔ),然后將本書通讀一遍,了解本書的大概內(nèi)容,最后再跟著實(shí)例進(jìn)行操作。
本書既注重?cái)?shù)學(xué)理論,又偏重編程實(shí)踐,實(shí)用性強(qiáng),適用于對(duì)編程有一定基礎(chǔ),對(duì)系統(tǒng)的數(shù)學(xué)知識(shí)非常渴望,想從事人工智能、大數(shù)據(jù)等方向研究的讀者。同時(shí)也適合作為廣大職業(yè)院校相關(guān)專業(yè)的教材或參考用書。
周洋,成都嘉捷信誠(chéng)解決方案專家,擁有12年toB行業(yè)大數(shù)據(jù)相關(guān)經(jīng)驗(yàn),對(duì)工業(yè)大數(shù)據(jù)、智慧電廠、智慧城市、智慧交通、智慧安防等行業(yè)趨勢(shì)發(fā)展有前瞻性判斷力。對(duì)機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、大數(shù)據(jù)、知識(shí)圖譜等技術(shù)有深入研究。
張小霞,控制理論與控制工程專業(yè)碩士。曾從事軍工電子硬件和軟件開發(fā)、機(jī)器人視覺檢測(cè)、工業(yè)檢測(cè)數(shù)據(jù)建模分析等相關(guān)工作,擅長(zhǎng)機(jī)器學(xué)習(xí)和深度學(xué)習(xí)算法,對(duì)機(jī)器視覺中的目標(biāo)檢測(cè)、圖像分割、三維點(diǎn)云檢測(cè)及自然語言處理等方面有深入研究,F(xiàn)就職于成都航空職業(yè)技術(shù)學(xué)院,從事教學(xué)科研工作。
第1章 微積分1
1.1 函數(shù)和極限2
小試牛刀01:Python編程實(shí)現(xiàn)函數(shù)極限10
1.2 導(dǎo)數(shù)11
1.3 方向?qū)?shù)和梯度19
小試牛刀02:Python編程實(shí)現(xiàn)雅可比矩陣、黑塞矩陣21
1.4 積分24
專家點(diǎn)撥28
NO1.從事編程開發(fā)的人員如何學(xué)習(xí)微積分?28
NO2.學(xué)習(xí)微積分需要全部掌握嗎?28
NO3.學(xué)習(xí)微積分需要大量做題嗎?28
本章小結(jié)28
第2章 線性代數(shù)29
2.1 行列式30
2.2 用向量描述空間35
2.3 內(nèi)積、正交向量組和范數(shù)36
小試牛刀03:Python編程實(shí)現(xiàn)求范數(shù)39
2.4 矩陣和線性變換41
小試牛刀04:Python編程實(shí)現(xiàn)求逆矩陣、行列式的值、秩49
2.5 二次型50
2.6 矩陣分解52
小試牛刀05:Python編程實(shí)現(xiàn)矩陣的QR分解58
專家點(diǎn)撥61
NO1.線性代數(shù)有多重要?61
NO2.向量?jī)?nèi)積的幾何解釋是什么?61
NO3.奇異值分解的應(yīng)用場(chǎng)景有哪些?62
本章小結(jié)62
第3章 概率統(tǒng)計(jì)63
3.1 隨機(jī)事件和概率64
小試牛刀06:Python編程實(shí)現(xiàn)貝葉斯公式69
3.2 隨機(jī)變量及其分布70
小試牛刀07:Python編程實(shí)現(xiàn)正態(tài)分布75
3.3 數(shù)字特征及隨機(jī)變量間的關(guān)系76
小試牛刀08:Python編程實(shí)現(xiàn)Pearson相關(guān)系數(shù)80
3.4 概率統(tǒng)計(jì)的其他方面82
小試牛刀09:Python編程實(shí)現(xiàn)參數(shù)估計(jì)92
小試牛刀10:Python編程實(shí)現(xiàn)假設(shè)檢驗(yàn)94
專家點(diǎn)撥96
NO1.“互斥事件”和“對(duì)立事件”的關(guān)系如何?96
NO2.大數(shù)定律有什么用?96
本章小結(jié)97
第4章 信息論98
4.1 信息熵99
小試牛刀11:Python編程實(shí)現(xiàn)交叉熵和KL散度101
4.2 自信息和互信息102
4.3 困惑度103
4.4 信道噪聲模型104
專家點(diǎn)撥105
NO1.信息熵的用途是什么?105
NO2.TF?IDF的信息論依據(jù)是什么?106
NO3.如何訓(xùn)練最大熵模型?107
本章小結(jié)107
第5章 模糊數(shù)學(xué)108
5.1 基礎(chǔ)概念109
5.2 模糊數(shù)學(xué)的應(yīng)用110
小試牛刀12:Python編程實(shí)現(xiàn)模糊聚類114
專家點(diǎn)撥116
NO1.模糊數(shù)學(xué)對(duì)于我們學(xué)習(xí)算法重要嗎?116
NO2.模糊控制理論和模糊數(shù)學(xué)的關(guān)系?117
NO3.模糊數(shù)學(xué)在數(shù)字圖像處理方面的應(yīng)用有哪些?117
本章小結(jié)117
第6章 隨機(jī)過程118
6.1 基本概念119
6.2 馬爾可夫過程120
小試牛刀13:Python編程實(shí)現(xiàn)HMM模型及Viterbi算法122
6.3 泊松過程124
小試牛刀14:Python編程實(shí)現(xiàn)泊松過程127
專家點(diǎn)撥130
NO1.馬爾可夫過程思維在建模中的重要性有哪些?130
NO2.泊松過程和更新過程的區(qū)別和聯(lián)系是什么?130
本章小結(jié)131
第7章 凸優(yōu)化132
7.1 凸優(yōu)化問題133
7.2 無約束的優(yōu)化問題138
小試牛刀15:Python編程實(shí)現(xiàn)簡(jiǎn)單的梯度下降法146
7.3 等式約束的優(yōu)化問題147
7.4 不等式約束的優(yōu)化問題150
7.5 帶L1范數(shù)正則的優(yōu)化問題159
7.6 工程中常用的優(yōu)化算法165
小試牛刀16:Python編程求解凸優(yōu)化問題170
專家點(diǎn)撥179
NO1.對(duì)于工程應(yīng)用來說如何學(xué)習(xí)凸優(yōu)化?179
NO2.為什么拉格朗日對(duì)偶函數(shù)一定是凹函數(shù)?179
本章小結(jié)180
第8章 圖論181
8.1 圖論基礎(chǔ)182
8.2 有向圖和無向圖184
小試牛刀17:Python編程繪制有向圖和無向圖186
8.3 拓?fù)渑判?92
8.4 最短路徑193
小試牛刀18:Python編程解決最短路徑問題196
8.5 最小生成樹205
小試牛刀19:Python編程解決最小生成樹問題208
專家點(diǎn)撥215
NO1.圖論的作用是什么?215
NO2.怎么去學(xué)習(xí)圖論呢?215
本章小結(jié)215
第9章 微積分的應(yīng)用案例216
9.1 案例01:家禽出售的時(shí)機(jī)217
9.2 案例02:允許缺貨模型219
本章小結(jié)222
第10章 線性代數(shù)的應(yīng)用案例223
10.1 案例03:投入產(chǎn)出問題224
10.2 案例04:金融公司支付基金的流動(dòng)問題225
本章小結(jié)228
第11章 概率統(tǒng)計(jì)的應(yīng)用案例229
11.1 案例05:貝葉斯網(wǎng)絡(luò)實(shí)現(xiàn)交通事故預(yù)測(cè)230
11.2 案例06:HMM實(shí)現(xiàn)天氣預(yù)測(cè)235
本章小結(jié)237
第12章 綜合應(yīng)用案例238
12.1 案例07:工業(yè)異常參數(shù)的離群點(diǎn)檢測(cè)239
12.2 案例08:工廠發(fā)電量預(yù)測(cè)246
本章小結(jié)253
參考文獻(xiàn)254