目錄
第1章　爬蟲基礎 1
1.1 認識爬蟲 2
1.2 Python環(huán)境 4
1.3 Python語法 11
1.4 網頁結構 62
1.5 HTTP協(xié)議 68
1.6 本章小結 84
1.7 實戰(zhàn)練習 84
第2章　開始爬蟲 85
2.1 urllib模塊 86
2.2 requests模塊 88
2.3 re模塊 110
2.4 項目案例：爬百度貼吧 122
2.5 本章小結 128
2.6 實戰(zhàn)練習 128
第3章　更多數據提取的方式 129
3.1 XPath和LXml 130
3.2 BeautifulSoup4 137
3.3 JsonPath 143
3.4 性能和選擇 148
3.5 項目案例：爬騰訊招聘網 148
3.6 本章小結 154
3.7 實戰(zhàn)練習 154
第4章　并發(fā) 155
4.1 100萬個網頁 156
4.2 進程 161
4.3 線程 181
4.4 鎖 191
4.5 協(xié)程 202
4.6 線程、進程、協(xié)程對比 206
4.7 并發(fā)爬蟲 207
4.8 本章小結 216
4.9 實戰(zhàn)練習 216
第5章　數據存儲 217
5.1 文件存儲 218
5.2 關系型數據庫存儲 221
5.3 非關系型數據庫存儲 231
5.4 項目案例：爬豆瓣電影 266
5.5 本章小結 270
5.6 實戰(zhàn)練習 270
第6章　Ajax數據爬取 271
6.1 Ajax的概念 272
6.2 實現Ajax 272
6.3 項目案例：爬斗魚直播 282
6.4 本章小結 286
6.5 實戰(zhàn)練習 286
第7章　動態(tài)渲染頁面爬取 287
7.1 Selenium 288
7.2 項目案例：爬京東商品 306
7.3 本章小結 311
7.4 實戰(zhàn)練習 312
第8章　圖形驗證碼識別 313
8.1 使用pytesseract 314
8.2 使用打碼平臺 317
8.3 項目案例：識別驗證碼完成登錄 323
8.4 本章小結 326
8.5 實戰(zhàn)練習 326
第9章　模擬登錄 327
9.1 Cookie 328
9.2 Session 330
9.3 Cookie池的搭建 332
9.4 項目案例：登錄GitHub 335
9.5 本章小結 340
9.6 實戰(zhàn)練習 340
第10章　代理IP的使用 341
10.1 代理IP 342
10.2 代理IP池 348
10.3 付費代理的使用 351
10.4 項目案例：使用代理IP爬微信公眾號 358
10.5 本章小結 368
10.6 實戰(zhàn)練習 368
第11章　Scrapy框架 369
11.1 認識Scrapy 370
11.2 編寫Scrapy的第一個案例 373
11.3 Spider詳情 384
11.4 操作數據 403
11.5 模擬登錄 432
11.6 中間件 446
11.7 分布式 458
11.8 項目案例：爬新浪新聞 500
11.9 本章小結 510
11.10 實戰(zhàn)練習 510
第12章　項目案例：爬�；ňW信息 511
12.1 分析網站 512
12.2 開始爬取 515
第13章　項目案例：爬北京地區(qū)短租房信息 523
13.1 分析網站 524
13.2 開始爬取 525
第14章　項目案例：爬簡書專題信息 531
14.1 分析網站 532
14.2 開始爬取 535
第15章　項目案例：爬QQ音樂歌曲 539
15.1 分析網站 540
15.2 開始爬取 542
第16章　項目案例：爬百度翻譯 545
16.1 分析網站 546
16.2 開始爬取 550
第17章　項目案例：爬百度地圖API 555
17.1 分析網站 556
17.2 開始爬取 560
第18章　項目案例：爬360圖片 571
18.1 分析網站 572
18.2 開始爬取 573
第19章　項目案例：爬當當網 577
19.1 分析網站 578
19.2 開始爬取 580
第20章　項目案例：爬唯品會 585
20.1 分析網站 586
20.2 開始爬取 589
第21章　項目案例：爬智聯招聘 593
21.1 分析網站 594
21.2 開始爬取 597