国产成人精品亚洲777人妖,欧美日韩精品一区视频,最新亚洲国产,国产乱码精品一区二区亚洲

您的位置:首頁技術(shù)文章
文章詳情頁

python - 2億++的網(wǎng)址,怎樣快速確認(rèn)網(wǎng)頁狀態(tài)碼?

瀏覽:135日期:2022-07-10 11:36:21

問題描述

用requests寫了個多線程,感覺有點慢,還有其他方法么?

問題解答

回答1:

使用 Tornado 的 curl 客戶端支持,讀到請求頭就關(guān)閉連接。(我還沒試過。如果它提供的 HTTP 客戶端不支持中途關(guān)閉連接的話,可以像我這樣使用 TCP 然后用 http-parser 來解析。)

好吧,其實你可以直接給 fetchtitle 加個取狀態(tài)碼的擴展就可以了……(記得裝 pycurl 哦)

回答2:

python本來就慢,想速度快就直接寫tcp請求然后讀回復(fù),讀到狀態(tài)后就關(guān)掉socket。

回答3:

使用grequests,對requests進行了并發(fā)封裝

https://github.com/kennethrei...

回答4:

這種情況可以考慮使用gevent,tornado,scrapy-redis,asyncio!

回答5:

用Head請求能快一點吧?

標(biāo)簽: Python 編程
主站蜘蛛池模板: 绥德县| 平舆县| 临湘市| 太仆寺旗| 军事| 新乡县| 嵊泗县| 兴仁县| 宁强县| 龙泉市| 义马市| 大关县| 龙江县| 布拖县| 呼图壁县| 六枝特区| 开封县| 常山县| 布尔津县| 乌苏市| 涟源市| 资阳市| 宁南县| 珲春市| 乌拉特后旗| 满洲里市| 南漳县| 香港 | 马尔康县| 辽阳市| 永平县| 辉南县| 福安市| 申扎县| 青海省| 江油市| 镇巴县| 江西省| 平利县| 谢通门县| 渝北区|