溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

python定時爬蟲啟用時怎么減少內存

發布時間:2020-11-30 10:44:11 來源:億速云 閱讀:214 作者:小新 欄目:編程語言

這篇文章給大家分享的是有關python定時爬蟲啟用時怎么減少內存的內容。小編覺得挺實用的,因此分享給大家做個參考。一起跟隨小編過來看看吧。

我們在同時處理多個事情的時候,可能同時打開瀏覽器、辦公軟件等不同的幾個程序,一旦過多電腦運行就會變慢。要是還不斷地加入新的程序,電腦就會卡的動不了,然后宣布它不跟我們玩了。我們定時獲取數據的時候,程序啟動的也是非常多的,而且還不斷有新的數據獲取保存下來,那么我們有沒有什么方法可以減少程序運行所占有的cpu率呢?

現在需要啟動一個selenium的爬蟲,使用火狐驅動+多線程,大家都明白的,現在電腦管家顯示CPU占用率20%,啟動selenium后不停的開啟瀏覽器+多線程。

沒過5分鐘,CPU占用率直接拉到90%+,電腦卡到飛起,定時程序雖然還在運行,但是已經類似于待機狀態。

代碼解決:

from datetime import datetime
from threading import Timer
import time
 
# 定時任務
def task():
  print(datetime.now().strftime("%Y-%m-%d %H:%M:%S"))
 
def timedTask():
  '''
  第一個參數: 延遲多長時間執行任務(秒)
  第二個參數: 要執行的函數
  第三個參數: 調用函數的參數(tuple)
  '''
  Timer(5, task, ()).start()
 
while True:
  timedTask()
  time.sleep(5)

7行代碼,是不是很優雅?

2020-06-05 14:06:39
2020-06-05 14:06:44
2020-06-05 14:06:49
2020-06-05 14:06:54
2020-06-05 14:06:59
2020-06-05 14:07:04
2020-06-05 14:07:09
2020-06-05 14:07:14
2020-06-05 14:07:19
2020-06-05 14:07:24

感謝各位的閱讀!關于python定時爬蟲啟用時怎么減少內存就分享到這里了,希望以上內容可以對大家有一定的幫助,讓大家可以學到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到吧!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女