溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

python中Scrapy數據流是什么

發布時間:2020-11-17 09:25:56 來源:億速云 閱讀:269 作者:小新 欄目:編程語言

這篇文章主要介紹了python中Scrapy數據流是什么,具有一定借鑒價值,需要的朋友可以參考下。希望大家閱讀完這篇文章后大有收獲。下面讓小編帶著大家一起了解一下。

什么是異步:

工作涉及一次執行多個IO操作。

什么是多線程:

多線程:允許單個任務分成不同的部分運行

相互之間是有一定的相似之處的,那我們接下來解說下 scrapy框架,然后大家自己來抉擇下哈~

Scrapy框架是通過命令行來創建項目的,代碼的編寫還是需要IDE。項目創建之后,項目文件結構如下所示:

scrapy.cfg
project/
 __init__.py
 items.py
 pipelines.py
 settings.py
 middlewares.py
 spiders/
 __init__.py
 spider1.py
 spider2.py
 ...復制代碼

Scrapy數據流是由執行的核心引擎控制,流程是這樣的:

1、爬蟲引擎獲得初始請求開始抓取。

2、爬蟲引擎開始請求調度程序SCHEDULER,并準備對下一次的請求進行抓取。

3、爬蟲調度器返回下一個請求給爬蟲引擎。

4、引擎請求發送到下載器DOWNLOADER,通過下載中間件下載網絡數據。

5、一旦下載器完成頁面下載,將下載結果返回給爬蟲引擎。

感謝你能夠認真閱讀完這篇文章,希望小編分享python中Scrapy數據流是什么內容對大家有幫助,同時也希望大家多多支持億速云,關注億速云行業資訊頻道,遇到問題就找億速云,詳細的解決方法等著你來學習!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女