目錄

第　1章 探索性數(shù)據(jù)分析　1

1.1　結(jié)構(gòu)化數(shù)據(jù)的要素　2

1.2　矩形數(shù)據(jù)　4

1.2.1　數(shù)據(jù)框和索引　5

1.2.2　非矩形數(shù)據(jù)結(jié)構(gòu)　6

1.2.3　擴展閱讀　6

1.3　位置估計　6

1.3.1　均值　8

1.3.2　中位數(shù)和健壯的估計　9

1.3.3　示例：人口和謀殺率的位置估計　10

1.3.4　擴展閱讀　11

1.4　變異性估計　11

1.4.1　標準差以及相關估計　13

1.4.2　基于百分位數(shù)的估計　14

1.4.3　示例：美國各州人口數(shù)量的變異性估計　15

1.4.4　擴展閱讀　16

1.5　探索數(shù)據(jù)分布　16

1.5.1　百分位數(shù)與箱線圖　17

1.5.2　頻數(shù)表和直方圖　18

1.5.3　密度圖和密度估計　20

1.5.4　擴展閱讀　22

1.6　探索二元數(shù)據(jù)和分類型數(shù)據(jù)　22

1.6.1　眾數(shù)　24

1.6.2　期望值　24

1.6.3　概率　25

1.6.4　擴展閱讀　25

1.7　相關性　25

1.7.1　散點圖　28

1.7.2　擴展閱讀　29

1.8　探索兩個及以上的變量　29

1.8.1　六邊形分箱圖和等高線圖（繪制數(shù)值型數(shù)據(jù)之間的關系）　30

1.8.2　兩個分類變量　32

1.8.3　分類型數(shù)據(jù)和數(shù)值型數(shù)據(jù)　33

1.8.4　多個變量的可視化　35

1.8.5　擴展閱讀　37

1.9　小結(jié)　37

第　2 章 數(shù)據(jù)與抽樣分布　39

2.1　隨機抽樣和樣本偏差　40

2.1.1　偏差　42

2.1.2　隨機選擇　43

2.1.3　數(shù)量和質(zhì)量：什么時候數(shù)量更重要　44

2.1.4　樣本均值與總體均值　45

2.1.5　擴展閱讀　45

2.2　選擇偏差　45

2.2.1　均值回歸　46

2.2.2　擴展閱讀　48

2.3　統(tǒng)計量的抽樣分布　48

2.3.1　中心極限定理　51

2.3.2　標準誤差　51

2.3.3　擴展閱讀　52

2.4　Bootstrap 方法　52

2.4.1　重抽樣與Bootstrap 方法　55

2.4.2　擴展閱讀　55

2.5　置信區(qū)間　55

2.6　正態(tài)分布　57

2.7　長尾分布　60

2.8　學生的t 分布　62

2.9　二項分布　64

2.10　卡方分布　67

2.11　F 分布　68

2.12　泊松及其相關分布　68

2.12.1　泊松分布　69

2.12.2　指數(shù)分布　69

2.12.3　估計故障率　70

2.12.4　韋布爾分布　70

2.12.5　擴展閱讀　71

2.13　小結(jié)　71

第3　章 統(tǒng)計實驗與顯著性檢驗　72

3.1　A/B 測試　73

3.1.1　為什么要有對照組　75

3.1.2　為什么只有A/B，沒有C/D……　76

3.1.3　擴展閱讀　77

3.2　假設檢驗　77

3.2.1　零假設　78

3.2.2　備擇假設　79

3.2.3　單向假設檢驗與雙向假設檢驗　79

3.2.4　擴展閱讀　80

3.3　重抽樣　80

3.3.1　置換檢驗　80

3.3.2　示例：Web 黏性　81

3.3.3　窮盡置換檢驗和Bootstrap 置換檢驗　84

3.3.4　置換檢驗：數(shù)據(jù)科學的底線　85

3.3.5　擴展閱讀　85

3.4　統(tǒng)計顯著性和p 值　85

3.4.1　p 值　88

3.4.2　　88

3.4.3　第 一類錯誤和第二類錯誤　90

3.4.4　數(shù)據(jù)科學與p 值　9

3.4.5　擴展閱讀　90

3.5　t 檢驗　91

3.6　多重檢驗　92

3.7　自由度　95

3.8　ANOVA　97

3.8.1　F 統(tǒng)計量　99

3.8.2　雙向ANOVA　101

3.8.3　擴展閱讀　101

3.9　卡方檢驗　101

3.9.1　卡方檢驗：一種重抽樣方法　102

3.9.2　卡方檢驗：統(tǒng)計理論　104

3.9.3　費希爾精確檢驗　105

3.9.4　與數(shù)據(jù)科學的關聯(lián)　107

3.9.5　擴展閱讀　107

3.10　多臂老虎機算法　107

3.11　檢驗力與樣本容量　110

3.11.1　樣本容量　111

3.11.2　擴展閱讀　113

3.12　小結(jié)　114

第4　章 回歸與預測　115

4.1　簡單線性回歸　115

4.1.1　回歸方程　117

4.1.2　擬合值與殘差　119

4.1.3　小二乘法　120

4.1.4　預測與解釋（分析）　121

4.1.5　擴展閱讀　121

4.2　多元線性回歸　122

4.2.1　示例：金縣房屋數(shù)據(jù)　123

4.2.2　模型評估　124

4.2.3　交叉驗證　126

4.2.4　模型選擇與逐步回歸　127

4.2.5　加權(quán)回歸　130

4.2.6　擴展閱讀　131

4.3　使用回歸進行預測　131

4.3.1　外推風險　131

4.3.2　置信區(qū)間與預測區(qū)間　132

4.4　回歸中的因子變量　133

4.4.1　虛擬變量的表示方法　134

4.4.2　多水平因子變量　136

4.4.3　有序因子變量　138

4.5　解釋回歸方程　138

4.5.1　相關的預測變量　139

4.5.2　多重共線性　140

4.5.3　混淆變量　141

4.5.4　交互作用與主效應　142

4.6　回歸診斷　143

4.6.1　離群點　144

4.6.2　強影響值　146

4.6.3　異方差、非正態(tài)與相關誤差　148

4.6.4　偏殘差圖與非線性　151

4.7　多項式回歸與樣條回歸　152

4.7.1　多項式回歸　153

4.7.2　樣條回歸　155

4.7.3　廣義可加模型　156

4.7.4　擴展閱讀　158

4.8　小結(jié)　158

第5　章 分類　159

5.1　樸素貝葉斯算法　160

5.1.1　為什么進行精確貝葉斯分類是不現(xiàn)實的　161

5.1.2　樸素貝葉斯問題求解　161

5.1.3　數(shù)值型預測變量　164

5.1.4　擴展閱讀　164

5.2　判別分析　164

5.2.1　協(xié)方差矩陣　165

5.2.2　費希爾線性判別分析　166

5.2.3　一個簡單的例子　166

5.2.4　擴展閱讀　169

5.3　邏輯回歸　169

5.3.1　邏輯響應函數(shù)和logit 函數(shù)　170

5.3.2　邏輯回歸和廣義線性模型　171

5.3.3　廣義線性模型　172

5.3.4　邏輯回歸的預測值　173

5.3.5　系數(shù)和優(yōu)勢比的解釋　174

5.3.6　線性回歸與邏輯回歸：共性與差異　175

5.3.7　評估模型　176

5.3.8　擴展閱讀　179

5.4　分類模型評估　179

5.4.1　混淆矩陣　180

5.4.2　稀有類問題　182

5.4.3　精確度、召回率和特異度　182

5.4.4　ROC 曲線　183

5.4.5　AUC　185

5.4.6　提升度　186

5.4.7　擴展閱讀　187

5.5　非平衡數(shù)據(jù)的處理策略　187

5.5.1　欠采樣　188

5.5.2　過采樣與上（下）加權(quán)　189

5.5.3　數(shù)據(jù)生成　190

5.5.4　基于成本的分類　191

5.5.5　探索預測結(jié)果　191

5.5.6　擴展閱讀　192

5.6　小結(jié)　193

第6　章 統(tǒng)計機器學習　194

6.1　KNN　195

6.1.1　一個小例子：預測貸款違約　196

6.1.2　距離的度量　198

6.1.3　獨熱編碼　198

6.1.4　標準化（歸一化，z 分數(shù)）　199

6.1.5　K 的選擇　201

6.1.6　KNN 作為特征引擎　202

6.2　樹模型　204

6.2.1　一個簡單的例子　205

6.2.2　遞歸分割算法　207

6.2.3　測量同質(zhì)性或不純度　208

6.2.4　讓樹停止生長　209

6.2.5　預測連續(xù)的值　211

6.2.6　如何使用樹　211

6.2.7　擴展閱讀　212

6.3　裝袋法與隨機森林　212

6.3.1　裝袋法　213

6.3.2　隨機森林　213

6.3.3　變量的重要性　217

6.3.4　超參數(shù)　220

6.4　提升方法　221

6.4.1　提升算法　222

6.4.2　XGBoost　222

6.4.3　正則化：避免過擬合　225

6.4.4　超參數(shù)與交叉驗證　228

6.5　小結(jié)　231

第7　章 無監(jiān)督學習　232

7.1　主成分分析　233

7.1.1　一個簡單的例子　234

7.1.2　計算主成分　236

7.1.3　解釋主成分　236

7.1.4　對應分析　239

7.1.5　擴展閱讀　240

7.2　K-均值聚類　241

7.2.1　一個簡單的例子　241

7.2.2　K-均值算法　244

7.2.3　簇的解釋　245

7.2.4　選擇簇的數(shù)量　247

7.3　層次聚類　248

7.3.1　一個簡單的例子　249

7.3.2　樹狀圖　250

7.3.3　凝聚算法　251

7.3.4　測量相異度　252

7.4　基于模型的聚類　253

7.4.1　多元正態(tài)分布　253

7.4.2　混合正態(tài)分布　254

7.4.3　選擇簇的數(shù)量　257

7.4.4　擴展閱讀　259

7.5　數(shù)據(jù)縮放與分類變量　259

7.5.1　縮放變量　260

7.5.2　主導變量　261

7.5.3　分類數(shù)據(jù)和Gower 距離　263

7.5.4　混合數(shù)據(jù)聚類中的問題　265

7.6　小結(jié)　266

擴展閱讀　267

作者介紹　269

封面介紹　269