溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

python使用xpath獲取頁面元素的使用示例

發布時間:2021-09-10 15:46:17 來源:億速云 閱讀:167 作者:柒染 欄目:開發技術

本篇文章給大家分享的是有關python使用xpath獲取頁面元素的使用示例,小編覺得挺實用的,因此分享給大家學習,希望大家閱讀完這篇文章后可以有所收獲,話不多說,跟著小編一起來看看吧。

1、xpath的使用方法?

XPath 使用路徑表達式來選取 XML 文檔中的節點或節點集。節點是通過沿著路徑 (path) 或者步 (steps) 來選取的。

常用路徑表達式含義

表達式描述
/從根節點選?。ㄈ∽庸濣c)
//選擇的當前節點選擇文檔中的節點
.選取當前節點。
選取當前節點的父節點。
@選取屬性
*表示任意內容(通配符)
|運算符可以選取多個路徑

常用功能函數

函數用法解釋
startswith()xpath(‘//div[starts-with(@id,”ma”)]‘)#選取id值以ma開頭的div節點
contains()xpath(‘//div[contains(@id,”ma”)]‘)#選取id值包含ma的div節點
and()xpath(‘//div[contains(@id,”ma”) and contains(@id,”in”)]‘)#選取id值包含ma的div節點
text()_.xpath('./div/div[4]/a/em/text()')#選取em標簽下文本內容

備注:

1、html中當相同層次存在多個標簽例如div,它們的順序是從1開始,不是0
2、瀏覽器中使用開發者工具可以快速獲取節點信息

python使用xpath獲取頁面元素的使用示例

2、實例:

#!/usr/bin/python3
# -*- coding: utf-8 -*-
# @Time    : 2021/9/7 9:35
# @Author  : Sun
# @Email   : 8009@163.com
# @File    : sun_test.py
# @Software: PyCharm


import requests
from lxml import etree


def get_web_content():
    try:
        url = "htpps://***keyword=%E6%97%A0%E9%92%A2%E5%9C%88&wq=%E6%97%A0%E"
  "9%92%A2%E5%9C%88&ev=1_68131%5E&pvid=afbf41410b164c1b91d"
        "abdf18ae8ab5c&page=5&s=116&click=0 "
        header = {
            "user-agent": "Mozilla/5.0 (Windows NT 10.0; WOW64)"
            "AppleWebKit/537.36 (KHTML, like Gecko) "
                          "Chrome/75.0.3770.100 Safari/537.36 "}
        response = requests.request(method="Get", url=url, headers=header)
        result = response.text
        return result
    except TimeoutError as e:
        return None


def parsing():
    result = get_web_content()
    if result is not None:
        html = etree.HTML(result)
        # 先獲取一個大的節點,包含了想要獲取的所有信息
        ii = html.xpath('//*[@id="J_goodsList"]/ul/li')
       
        for _ in ii:
        # 采用循環,依次從大節點中獲取小的節點內容
            # ''.join() 將列表中的內容拼接成一個字符串
            infoResult = {
            	# @href 表示:獲取屬性為href的內容
                'href': "https:" + _.xpath('./div/div[1]/a/@href')[0],
                'title': ''.join(
                        _.xpath('./div/div[2]/div/ul/li/a/@title')),
                # text()表示獲取節點i里面的文本信息
                'price': _.xpath('./div/div[3]/strong/i/text()')[0],
                'info': ''.join(
                        _.xpath('./div/div[4]/a/em/text()')).strip(),
                'province': _.xpath('./div/div[9]/@data-province')[0]}
            print(infoResult)
    else:
        raise Exception("Failed to get page information, please check!")
    
    return None


if __name__ == '__main__':
    parsing()

結果圖片:

python使用xpath獲取頁面元素的使用示例

以上就是python使用xpath獲取頁面元素的使用示例,小編相信有部分知識點可能是我們日常工作會見到或用到的。希望你能通過這篇文章學到更多知識。更多詳情敬請關注億速云行業資訊頻道。

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女