国产成人精品亚洲777人妖,欧美日韩精品一区视频,最新亚洲国产,国产乱码精品一区二区亚洲

您的位置:首頁技術(shù)文章
文章詳情頁

python爬蟲快速響應(yīng)服務(wù)器的做法

瀏覽:189日期:2022-07-04 14:17:29

不論是打開網(wǎng)頁或者爬取一些資料的時(shí)候,我們想要的是計(jì)算機(jī)能在最短的時(shí)間內(nèi)運(yùn)行出結(jié)果,不然等待的時(shí)間過長會(huì)影響下一步工作的計(jì)劃。這時(shí)候我們可以給計(jì)算機(jī)一個(gè)指令,限制最久能等待的時(shí)間,在我們能接受的時(shí)間內(nèi)運(yùn)行出結(jié)果。那么這個(gè)指令方法是什么呢?接下來我們一起看看吧。

requests之所以稱為“HTTP for human”,因?yàn)槠浞庋b層次很高,其中一處體現(xiàn)就在:requests會(huì)自動(dòng)處理服務(wù)器響應(yīng)的重定向。我在做搜狗微信公眾號抓取的時(shí)候,搜狗搜索列表頁面的公眾號文章地址,其實(shí)不是微信的地址而需要請求到搜狗到服務(wù)器做重定向,而requests的默認(rèn)處理則是將整個(gè)過程全部搞定,對此可以這樣:

In [1]: r = requests.get(’http://xlzd.me’, allow_redirects=False)

allow_redirects參數(shù)為False則表示不會(huì)主動(dòng)重定向。

另外,有時(shí)候?qū)Ψ骄W(wǎng)站的響應(yīng)時(shí)間太長了,我們希望在指定時(shí)間內(nèi)完事,或者直接停止這個(gè)請求,這時(shí)候的做法是:

In [1]: r = requests.get(’http://xlzd.me’, timeout=3)

timeout表示這次請求最長我最長只等待多少秒

拓展:

為requests套上一層代理的做法也非常簡單:

import requestsproxies = { 'http': 'http://192.168.31.1:3128', 'https': 'http://10.10.1.10:1080',}requests.get('http://xlzd.me', proxies=proxies)

到此這篇關(guān)于python爬蟲快速響應(yīng)服務(wù)器的做法的文章就介紹到這了,更多相關(guān)python爬蟲中如何快速響應(yīng)服務(wù)器內(nèi)容請搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!

標(biāo)簽: Python 編程
相關(guān)文章:
主站蜘蛛池模板: 孝昌县| 喜德县| 成武县| 建宁县| 昆山市| 塘沽区| 福泉市| 莱阳市| 辉县市| 潞西市| 民乐县| 宁安市| 咸阳市| 天气| 大厂| 大同县| 晋江市| 油尖旺区| 崇礼县| 武冈市| 札达县| 阿巴嘎旗| 蒙山县| 阳曲县| 青田县| 石门县| 库尔勒市| 勐海县| 浦江县| 淮南市| 安吉县| 天津市| 建德市| 广安市| 当雄县| 德保县| 和平区| 得荣县| 巢湖市| 苏尼特右旗| 武邑县|