今天練習了抓取多頁天涯帖子，重點復習的知識包括
這里有一個疑問：有時候一個標簽可以有多個屬性，不知道soup.find_all()能不能接受不止一個屬性以縮小查找的范圍。
# 引入庫和請求頭文件
import requests
from bs4 import BeautifulSoup
headers = {
'User-Agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36'
}
# 定義主體函數。函數主體由四部分組成：
#1.請求網址
#2.解析網頁，形成可查找的html格式
#3.通過soup.select或者sopu.find_all查找需要的標簽
#4.通過zip()代碼將多個內容合并在一起
def get_content(url):
res = requests.get(url,headers = headers)
res.encoding = 'utf-8'
soup = BeautifulSoup(res.text,'html.parser')
contents = soup.find_all('div','bbs-content')
authors = soup.find_all('a','js-vip-check')
for author,content in zip(authors,contents):
data = {
'author':author.get_text().strip(),
'content': content.get_text().strip()
}
print(data)
# 在這里構造一個兩層鏈接結構：帖子的1、2、3、4頁和帖子的詳情頁的關系在這里實現
if __name__ == '__main__':
urls = ['http://bbs.tianya.cn/post-develop-2271894-{}.shtml'.format(str(i)) for i in range (1,5)] # 要注意，這里的‘5'是不包括在范圍里的
for url in urls:
get_content(url)
免責聲明：本站發布的內容（圖片、視頻和文字）以原創、轉載和分享為主，文章觀點不代表本網站立場，如果涉及侵權請聯系站長郵箱：is@yisu.com進行舉報，并提供相關證據，一經查實，將立刻刪除涉嫌侵權內容。
