網頁爬蟲 - Python爬蟲入門知識
問題描述
本人快大二了,自習了Python,語法基本會。想學下爬蟲,但是感覺這涉及到好多知識啊,有沒有過來人總結下都有什么知識,或者Python爬蟲該怎么學?
問題解答
回答1:爬蟲學習要從需求學習,你看網上那么多初級爬蟲都是爬些什么段子,美女圖什么的,三天就能搞定這些簡單的爬蟲。
但是深入的話就是很難的,涉及到的方面也很多。
入門不是什么難事,可以看下這個--如何學習Python爬蟲[入門篇] https://zhuanlan.zhihu.com/p/...
回答2:原理上就是http請求,再多一點就是session和cookie,再多就是驗證碼識別。工具上就是請求工具可以用urllib2,更好是request庫,請求過來需要解析,那就是beautifulsoup。
Python 基礎教程 | 菜鳥教程 http://www.runoob.com/python/...
Beautiful Soup 4.2.0 文檔 — Beautiful Soup 4.2.0 documentation https://www.crummy.com/softwa...
爬蟲性能:NodeJs VS Python - QueenKing - SegmentFault /a/11...
用KNN來進行驗證碼識別 - QueenKing - SegmentFault /a/11...
回答3:可以參考 Python-Scrapy 爬蟲框架,這有中文手冊。
相關文章:
1. html5 - 有可以一次性把所有 css外部樣式轉為html標簽內style=" "的方法嗎?2. javascript - 原生canvas中如何獲取到觸摸事件的canvas內坐標?3. javascript - 如何將一個div始終固定在某個位置;無論屏幕和分辨率怎么變化;div位置始終不變4. html - vue項目中用到了elementUI問題5. python - 如何判斷爬蟲已經成功登陸?6. javascript - 求解答:實例對象調用constructor,此時constructor內的this的指向?7. javascript - 這不是對象字面量函數嗎?為什么要new初始化?8. javascript - vscode alt+shift+f 格式化js代碼,通不過eslint的代碼風格檢查怎么辦。。。9. javascript - 有什么比較好的網頁版shell前端組件?10. javascript - [js]為什么畫布里不出現圖片呢?在線等
