文章詳情頁
python - 請教如何爬取簡書某一時間段發帖。
瀏覽:139日期:2022-07-11 10:45:01
問題描述
我想爬取簡書在某一時間段的帖子,比如 2013 年 4 月 13 — 2013 年 5 月 13
想嘗試的思路如下:
百度
利用百度的 site 語法
限定日期
觀察大約有 70 個帖子
google 的 site 語法
限定日期
觀察大約有 120 個帖子
實現:用 Python 直接請求搜索的結果,然后把得到的網址重定向一下得到真正的簡書網址,然后對真正的網址進行請求
問題
用這種方法得到的結果是否靠譜?請問有更靠譜的方法嗎?
用 Google 還是用百度呢?
問題解答
回答1:為了全面,你可以把主流的搜索引擎接口都拿來用,不一定要限制在某個搜索引擎接口上。我們有隊友搜索某些話題就是這么干的,因為有的網站站內沒提供滿足需求的搜索方式,這個時候也只有借助搜索引擎了。不過通過搜索引擎搜索的方式信息可能不全面,robots協議規定了不能搜索的,搜索引擎不會收錄
相關文章:
1. css - 新手做響應式布局, 斷點過后右側出現空白,求幫助,謝謝。2. python - 啟動Eric6時報錯:’qscintilla_zh_CN’ could not be loaded3. javascript - vue 怎么渲染自定義組件4. javascript - 關于<a>元素與<input>元素的JS事件運行問題5. mysql - 查詢字段做了索引為什么不起效,還有查詢一個月的時候數據都是全部出來的,如果分拆3次的話就沒問題,為什么呢。6. mysql - 記得以前在哪里看過一個估算時間的網站7. 大家好,我想請問一下怎么做搜索欄能夠搜索到自己網站的內容。8. ID主鍵不是自增的嗎 為什么還要加null9. MySQL中的enum類型有什么優點?10. python - 安裝pyspider時出錯:No space left on device:
排行榜
