溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

python爬取網站數據,如何繞過反爬蟲策略

發布時間:2020-07-10 13:40:27 來源:網絡 閱讀:994 作者:156881887 欄目:編程語言

1、使用session對象

session = requests.session()
strhtml = session.get(url) #與當前網站的首次會話

2、設置headers

headers = {"User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) "
                         "Chrome/69.0.3497.100 Safari/537.36",
           "Accept": "application/json"}
session.headers = headers

3、設置cookies

設置與網站首次會話時的cookies為默認的cookies

cookies = session.cookies
session.headers.setdefault('cookies', cookies)

此后,可以復用之前會話中的cookies了

strhtml2 = session.get(url2)


向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女