文章詳情頁(yè)
python爬蟲(chóng)防封IP的方法應(yīng)該放到代碼的哪個(gè)位置
瀏覽:86日期:2022-09-21 13:56:12
問(wèn)題描述
想要爬豆瓣電影,但是很容易403,就想代理IP或者修改請(qǐng)求頭,但是看了很多資料,不知道他們那些代碼應(yīng)該放到整個(gè)程序的哪個(gè)位置,我用的是美麗湯和request,應(yīng)該增添什么代碼,增添到什么位置
問(wèn)題解答
回答1:BeautifulSoup的中文名原來(lái)叫美麗湯。。。
吐槽完畢,服務(wù)端一般是通過(guò)IP報(bào)文來(lái)檢測(cè)請(qǐng)求的IP的地址的,所以單純的修改HTTP請(qǐng)求的內(nèi)容一般來(lái)說(shuō)是不起作用的,最好的方式是使用 Requests 的代理功能來(lái)進(jìn)行訪問(wèn),可以解除 IP 限制的問(wèn)題。
回答2:請(qǐng)看看Python爬蟲(chóng)聯(lián)想詞視頻和代碼https://zhuanlan.zhihu.com/p/...
跟黃哥學(xué)Python爬蟲(chóng)抓取代理IP和驗(yàn)證。https://zhuanlan.zhihu.com/p/...跟黃哥學(xué)Python爬蟲(chóng)抓取代理IPhttps://zhuanlan.zhihu.com/p/...
相關(guān)文章:
1. mysql - AttributeError: ’module’ object has no attribute ’MatchType’2. github - 利用Python 自動(dòng)化部署問(wèn)題3. 求大神幫我看看是哪里寫(xiě)錯(cuò)了 感謝細(xì)心解答4. npm鏡像站全新上線5. javascript - 圖片能在網(wǎng)站顯示,但控制臺(tái)仍舊報(bào)錯(cuò)403 (Forbidden)6. python - from ..xxxx import xxxx到底是什么意思呢?7. php自學(xué)從哪里開(kāi)始?8. MySQL客戶端吃掉了SQL注解?9. phpstady在win10上運(yùn)行10. 數(shù)據(jù)庫(kù) - MySQL 單表500W+數(shù)據(jù),查詢超時(shí),如何優(yōu)化呢?
排行榜

熱門(mén)標(biāo)簽