統(tǒng)計分析:從小數(shù)據到大數(shù)據
定 價:79 元
叢書名:CDA數(shù)據分析師系列叢書
- 作者:丁亞軍
- 出版時間:2020/1/1
- ISBN:9787121377532
- 出 版 社:電子工業(yè)出版社
- 中圖法分類:C819
- 頁碼:252
- 紙張:
- 版次:01
- 開本:16開
面對小數(shù)據和大數(shù)據,數(shù)據分析師應該如何收集數(shù)據信息?傳統(tǒng)的業(yè)務框架如何與統(tǒng)計學相關聯(lián)?測量學扮演著什么角色?建模過程有哪些預分析技術和修正技術?建模工作完成后,如何解析?如何歸因?如何預測?等等,這些數(shù)據分析能力構成了本書的分析框架。本書分為8章,小數(shù)據與大數(shù)據分析模式的動態(tài)切換貫穿全書,展示了數(shù)據分析案例的模塊化分析思路。第1~3章為數(shù)據預分析部分,強調業(yè)務問題與統(tǒng)計問題的銜接;第4~6章為統(tǒng)計建模階段,其中附有對行業(yè)案例和業(yè)務敏感度的訓練、對統(tǒng)計和業(yè)務整合的審美建議,進而構造出一套具有靈活調校的數(shù)據分析模式。第7~8章解決的問題是,如何將晦澀難懂的統(tǒng)計解釋轉換成業(yè)務解釋。由衷地希望本書能夠成為數(shù)據運營人員與初中級數(shù)據分析師分析數(shù)據的行動指南。
丁亞軍自由職業(yè)者,兼CDA數(shù)據科學研究院研究員、電子工業(yè)出版社大數(shù)據專家委員會成員、學習路徑圖國際技術中心顧問、經管之家培訓中心講師。研究方向:統(tǒng)計軟件與數(shù)據分析、市場調查研究、電商CRM數(shù)據挖掘、銀行申請與行為評分卡。
目錄
第1 部分 數(shù)據分析準備
第1 章 從業(yè)務到統(tǒng)計
1.1 業(yè)務需求從哪來 / 002
1.1.1 學習業(yè)務的最快途徑:閱讀運營報告 / 002
1.1.2 當務之急:研究痛點 / 004
1.1.3 數(shù)據分析之錨:未來戰(zhàn)略方向 / 005
1.1.4 對數(shù)據分析“小白”的有益建議 / 005
1.2 從小數(shù)據到大數(shù)據:數(shù)據體量與信息分布 / 008
1.2.1 實驗室:理論驗證 / 009
1.2.2 問卷:理論驗證+ 探索 / 011
1.2.3 數(shù)據庫:業(yè)務驗證+ 探索 / 012
1.2.4 數(shù)據信息與統(tǒng)計模型 / 013
1.2.5 算法應用:是否跨界 / 015
1.2.6 算法特征:角色 / 016
1.3 數(shù)據分析流程的啟示 / 019
1.3.1 假設:驗證與歸因 / 021
1.3.2 小概率:黑天鵝的不確定 / 025
1.3.3 抽樣技術:經濟是根本 / 026
1.3.4 選擇模型:方法論 / 028
1.3.5 顯著性判斷:可證偽 / 029
第2 章 變量角色與描述
2.1 如何描述變量 / 032
2.1.1 分類變量與連續(xù)變量的分界線 / 032
2.1.2 分類變量及可視化 / 033
2.1.3 連續(xù)變量及可視化 / 037
2.2 因變量的測量 / 040
2.2.1 測量級別問題 / 040
2.2.2 是否存在測量誤差 / 045
2.2.3 誰會成為“主角” / 047
2.2.4 y 的量化場景 / 050
2.3 自變量的選擇 / 053
2.3.1 驗證性:x 的選擇 / 054
2.3.2 探索性:x 的選擇 / 054
第3 章 數(shù)據預分析
3.1 填補缺失 / 056
3.1.1 描述缺失數(shù)據:行、列、單元格 / 056
3.1.2 缺失類型:隨機性 / 060
3.1.3 小數(shù)據填補方案:精確性探討 / 061
3.1.4 大數(shù)據填補方案:速度問題探討 / 068
3.2 處理異常值 / 069
3.2.1 單變量與雙變量異常 / 069
3.2.2 無監(jiān)督異常:聚類分析 / 070
3.2.3 監(jiān)督異常:回歸殘差分析 / 073
3.2.4 小數(shù)據與大數(shù)據如何看待異常值 / 076
3.3 消除共線性 / 080
3.3.1 共線性及其危害 / 081
3.3.2 小數(shù)據的方案:嶺回歸 / 082
3.3.3 大數(shù)據方案:項目合并與逐步回歸 / 084
3.4 內生性問題 / 088
3.4.1 內生性及其危害 / 088
3.4.2 問題核心:特征選擇 / 089
3.4.3 三駕馬車之一:數(shù)據庫的應對策略 / 094
3.5 變量變換技術 / 102
3.5.1 正態(tài)分布變換:對數(shù)變換 / 102
3.5.2 從0 到1:老板最喜歡的符號% / 104
3.5.3 強異常值:秩的應用 / 105
3.5.4 量綱:標準化變換 / 106
3.6 編碼技術 / 107
3.6.1 為什么需要分箱化 / 107
3.6.2 分箱技術要義:數(shù)據拐點 / 111
3.7 避免過擬合 / 113
3.7.1 導致過擬合:行列問題 / 113
3.7.2 小數(shù)據為什么不談過擬合 / 114
3.7.3 避免過擬合:方法學 / 115
第2部分 構建模型與修正技術
第4 章 線性回歸與統(tǒng)計家族
4.1 差異性問題:方差分析 / 121
4.1.1 差異的來源:主效應 / 121
4.1.2 差異的來源:交互效應 / 128
4.1.3 交互性解釋:交互效應圖制作 / 129
4.2 結構性問題:回歸分析 / 131
4.2.1 回歸分析流程 / 131
4.2.2 相關的風向標作用:文氏圖 / 135
4.2.3 偏相關的歸因:中介和調節(jié) / 137
4.2.4 回歸系數(shù)解釋:偏回歸圖 / 142
4.2.5 如何相信R2 / 149
4.2.6 以殘差看假設 / 152
4.2.7 殘差信息的有和無 / 158
4.2.8 小數(shù)據需求歸納:重結構輕預測 / 158
4.3 算法進化REG:小數(shù)據專家的努力 / 159
4.3.1 算法1.0:精確度+ 結構 / 160
4.3.2 算法2.0:精確度+ 結構與預測 / 163
4.3.3 算法3.0:速度+ 預測 / 164
4.3.4 算法4.0:加速度 / 167
第5 章 Logistic 回歸與統(tǒng)計家族
5.1 預測性問題:Logistic 回歸 / 168
5.1.1 卡方的風向標作用 / 169
5.1.2 不一樣的R2:預測分類表 / 170
5.1.3 回歸系數(shù)解釋:or 值與rr 值 / 171
5.1.4 修正技術:是x 而不是y / 174
5.1.5 大數(shù)據需求歸納:輕結構重預測 / 177
5.2 算法進化Logistic:大數(shù)據與智能 / 178
5.2.1 算法1.0:穩(wěn)定性+ 結構 / 178
5.2.2 算法2.0:穩(wěn)定性+ 結構與預測 / 179
5.2.3 算法3.0:速度+ 預測 / 179
5.2.4 算法4.0:加速度 / 179
5.3 算法3.0 的榜樣:神經網絡 / 180
5.3.1 神經網絡算法 / 180
5.3.2 DM 算法預分析 / 183
5.3.3 基于神經網絡的常規(guī)應用 / 185
第6 章 降維技術
6.1 主成分回歸與壓縮技術 / 192
6.1.1 四駕馬車:實驗室、問卷、數(shù)據庫、云 / 192
6.1.2 主成分算法:降維 / 192
6.1.3 主成分與因子:誰應該有名字? / 194
6.1.4 主成分回歸:“回歸+ 回歸”模式 / 196
6.2 對應分析:一個市場調查案例 / 197
6.2.1 案例背景介紹 / 197
6.2.2 模型預分析 / 199
6.2.3 構建模型:“廣義”雙標圖 / 203
6.2.4 結論及營銷 / 214
第3部分 模型應用與評估
第7 章 回歸類模型應用
7.1 結構性問題:偏回歸系數(shù) / 216
7.1.1 單結構:偏的意義 / 216
7.1.2 整體結構:條件規(guī)則 / 217
7.2 預測性問題:估計值 / 217
7.2.1 老樣本預測:內衍與市場細分 / 218
7.2.2 新樣本預測:外推與潛在行為 / 219
7.3 模型優(yōu)劣與模型評價 / 219
7.3.1 R2 變形記 / 219
7.3.2 圖示R2:R2 圖與ROC 曲線 / 221
7.4 模型優(yōu)劣與業(yè)務評價 / 221
7.4.1 小數(shù)據的標準:R2 / 221
7.4.2 大數(shù)據的標準:老板 / 222
第8 章 數(shù)據分析報告
8.1 可視化圖形制作 / 223
8.1.1 條形圖與折線圖 / 223
8.1.2 頻數(shù)與分布 / 223
8.1.3 多變箱體圖 / 224
8.1.4 散點圖與氣泡圖 / 225
8.2 圖形制作與格式 / 227
8.2.1 圖形制作:繪圖、顏色 / 227
8.2.2 圖形模板制作與調用 / 229
8.3 表格制作與格式 / 230
8.3.1 表格制作:制表、格式 / 230
8.3.2 表格模板制作與調用 / 232
8.3.3 OMS 控制面板 / 234
附錄A 數(shù)據集__