這篇文章給大家分享的是有關python定時爬蟲啟用時怎么減少內存的內容。小編覺得挺實用的,因此分享給大家做個參考。一起跟隨小編過來看看吧。
我們在同時處理多個事情的時候,可能同時打開瀏覽器、辦公軟件等不同的幾個程序,一旦過多電腦運行就會變慢。要是還不斷地加入新的程序,電腦就會卡的動不了,然后宣布它不跟我們玩了。我們定時獲取數據的時候,程序啟動的也是非常多的,而且還不斷有新的數據獲取保存下來,那么我們有沒有什么方法可以減少程序運行所占有的cpu率呢?
現在需要啟動一個selenium的爬蟲,使用火狐驅動+多線程,大家都明白的,現在電腦管家顯示CPU占用率20%,啟動selenium后不停的開啟瀏覽器+多線程。
沒過5分鐘,CPU占用率直接拉到90%+,電腦卡到飛起,定時程序雖然還在運行,但是已經類似于待機狀態。
代碼解決:
from datetime import datetime from threading import Timer import time # 定時任務 def task(): print(datetime.now().strftime("%Y-%m-%d %H:%M:%S")) def timedTask(): ''' 第一個參數: 延遲多長時間執行任務(秒) 第二個參數: 要執行的函數 第三個參數: 調用函數的參數(tuple) ''' Timer(5, task, ()).start() while True: timedTask() time.sleep(5)
7行代碼,是不是很優雅?
2020-06-05 14:06:39 2020-06-05 14:06:44 2020-06-05 14:06:49 2020-06-05 14:06:54 2020-06-05 14:06:59 2020-06-05 14:07:04 2020-06-05 14:07:09 2020-06-05 14:07:14 2020-06-05 14:07:19 2020-06-05 14:07:24
感謝各位的閱讀!關于python定時爬蟲啟用時怎么減少內存就分享到這里了,希望以上內容可以對大家有一定的幫助,讓大家可以學到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到吧!
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。