溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

python3爬取各類天氣信息

發布時間:2020-10-22 12:14:18 來源:腳本之家 閱讀:208 作者:京局京段DF11G0025 欄目:開發技術

本來是想從網上找找有沒有現成的爬取空氣質量狀況和天氣情況的爬蟲程序,結果找了一會兒感覺還是自己寫一個吧。

主要是爬取北京包括北京周邊省會城市的空氣質量數據和天氣數據。

過程中出現了一個錯誤:UnicodeDecodeError: 'utf-8' codec can't decode byte 0xa1 in position 250。

原來發現是頁面的編碼是gbk,把語句改成data=urllib.request.urlopen(url).read().decode("gbk")就可以了。

然后我把爬到的數據寫到文本文檔里了,往后可以導入到excel表中使用。

實驗室的電腦不經常開,然后就放到服務器上了,讓它自己慢慢一小時爬一次吧~哈哈哈~

后面有一次晚上出現了異常,因為沒加入異常處理,所以從零點到早上五點的數據都沒爬到。。。

(⊙﹏⊙)然后這次修改就加入了異常處理。如果出現URLError,就一分鐘后重試。

代碼:

#coding=utf-8 
#北京及周邊省會城市污染數據、天氣數據每小時監測值爬蟲程序 
import urllib.request 
import re 
import urllib.error 
import time 
#模擬成瀏覽器 
headers=("User-Agent","Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36") 
opener = urllib.request.build_opener() 
opener.addheaders=[headers] 
#將opener安裝為全局 
urllib.request.install_opener(opener) 
def get_pm25_and_weather(city): 
 #首先執行獲取空氣質量數據,返回數據更新時間 
 data_time=getpm25(city) 
 #然后將獲取到的數據更新時間賦值給獲取天氣數據函數使用 
 getweather(city,data_time) 
def getpm25(city): 
 try: 
 #設置url地址 
 url="http://pm25.in/"+city 
 data=urllib.request.urlopen(url).read().decode("utf-8") 
 print("城市:"+city) 
 #構建數據更新時間的表達式 
 data_time='<div class="live_data_time">\s{1,}<p>數據更新時間:(.*?)</p>' 
 #尋找出數據更新時間 
 datatime=re.compile(data_time, re.S).findall(data) 
 print("數據更新時間:"+datatime[0]) 
 #構建數據收集的表達式 
 data_pm25 = '<div class="span1">\s{1,}<div class="value">\n\s{1,}(.*?)\s{1,}</div>' 
 data_o3='<div class="span1">\s{1,}<div class ="value">\n\s{1,}(.*?)\s{1,}</div>' 
 #尋找出所有的監測值 
 pm25list = re.compile(data_pm25, re.S).findall(data) 
 o3list=re.compile(data_o3, re.S).findall(data) 
 #將臭氧每小時的值插入到原列表中 
 pm25list.append(o3list[0]) 
 print("AQI指數,PM2.5,PM10,CO,NO2,SO2,O3:(單位:μg/m3,CO為mg/m3)") 
 print(pm25list) 
 #將獲取到的值寫入文件中 
 writefiles_pm25(city,datatime,pm25list) 
 #返回數據更新時間值 
 return datatime 
 except urllib.error.URLError as e: 
 print("出現URLERROR!一分鐘后重試……") 
 if hasattr(e,"code"): 
  print(e.code) 
 if hasattr(e,"reason"): 
  print(e.reason) 
 time.sleep(60) 
 #出現異常則過一段時間重新執行此部分 
 getpm25(city) 
 except Exception as e: 
 print("出現EXCEPTION!十秒鐘后重試……") 
 print("Exception:"+str(e)) 
 time.sleep(10) 
 # 出現異常則過一段時間重新執行此部分 
 getpm25(city) 
def writefiles_pm25(filename,datatime,pm25list): 
 #將獲取的數據寫入文件中,數據分別為時間,AQI指數,PM2.5,PM10,CO,NO2,SO2,O3。(單位:μg/m3,CO為mg/m3) 
 f = open("D:\Python\Python35\myweb\data_pm25\data_pm25_"+filename+".txt", "a") 
 f.write(datatime[0]) 
 f.write(",") 
 for pm25 in pm25list: 
 f.write(str(pm25)) 
 f.write(",") 
 f.write("\n") 
 print("該條空氣質量數據已添加到文件中!") 
 f.close() 
def getweather(city,datatime): 
 try: 
 #構建url 
 url="http://"+city+".tianqi.com/" 
 data=urllib.request.urlopen(url).read().decode("gbk") 
 #構建數據收集的表達式 
 data_weather = '<li class="cDRed">(.*?)</li>' 
 data_wind='<li >(.*?)</li>' 
 data_temperature='<div id="rettemp"><strong>(.*?)°' 
 data_humidity='</strong><span>相對濕度:(.*?)</span>' 
 #尋找出所有的監測值 
 weatherlist = re.compile(data_weather, re.S).findall(data) 
 windlist=re.compile(data_wind, re.S).findall(data) 
 temperaturelist = re.compile(data_temperature, re.S).findall(data) 
 humiditylist = re.compile(data_humidity, re.S).findall(data) 
 #將其他值插入到天氣列表中 
 weatherlist.append(windlist[0]) 
 weatherlist.append(temperaturelist[0]) 
 weatherlist.append(humiditylist[0]) 
 print("天氣狀況,風向風速,實時溫度,相對濕度:") 
 print(weatherlist) 
 #將獲取到的值寫入文件中 
 writefiles_weather(city,datatime,weatherlist) 
 except urllib.error.URLError as e: 
 print("出現URLERROR!一分鐘后重試……") 
 if hasattr(e,"code"): 
  print(e.code) 
 if hasattr(e,"reason"): 
  print(e.reason) 
 time.sleep(60) 
 # 出現異常則過一段時間重新執行此部分 
 getweather(city,datatime) 
 except Exception as e: 
 print("出現EXCEPTION!十秒鐘后重試……") 
 print("Exception:"+str(e)) 
 time.sleep(10) 
 # 出現異常則過一段時間重新執行此部分 
 getweather(city, datatime) 
def writefiles_weather(filename,datatime,weatherlist): 
 #將獲取的數據寫入文件中,數據分別為時間,天氣狀況,風向風速,實時溫度,相對濕度。 
 f = open("D:\Python\Python35\myweb\data_weather\data_weather_"+filename+".txt", "a") 
 f.write(datatime[0]) 
 f.write(",") 
 for weather in weatherlist: 
 f.write(str(weather)) 
 f.write(",") 
 f.write("\n") 
 print("該條天氣數據已添加到文件中!") 
 f.close() 
#退出循環可用Ctrl+C鍵 
while True: 
 print("開始工作!") 
 get_pm25_and_weather("beijing") 
 get_pm25_and_weather("tianjin") 
 get_pm25_and_weather("shijiazhuang") 
 get_pm25_and_weather("taiyuan") 
 get_pm25_and_weather("jinan") 
 get_pm25_and_weather("shenyang") 
 get_pm25_and_weather("huhehaote") 
 get_pm25_and_weather("zhengzhou") 
 #每一小時執行一次 
 print("休息中……") 
 print("\n") 
 time.sleep(3600) 

運行狀態圖:

python3爬取各類天氣信息

更多內容請參考專題《python爬取功能匯總》進行學習。

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持億速云。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女