Python XPath解析定位:从基础语法到高级组合应用
本文详解Python中XPath解析定位的六种核心方法。内容涵盖绝对路径与相对路径的区别、基于索引的定位、节点属性精确匹配、部分属性值模糊匹配(如contains、starts-with),以及多条件组合定位技巧。通过具体代码示例,帮助开发者掌握高效精准的网页数据抓取定位策略。
XPath定位基础与示例环境
本次示例选取的网站为:http://jbk.39.net/chancegz/。
此处仅针对个别属性值进行说明:
实际爬取场景中的XPath应用
#例如:'别名'下的span标签文本,‘发病部位'下的span标签文本以及‘挂号科室‘下的span标签文本
#
def disease(url):
text = get_html(url)
tree = etree.HTML(text)
bm = tree.xpath('//ul[@class="information_ul"]/li/i[text()="别名:"]/following-sibling::span/text()')
bw = tree.xpath('//ul[@class="information_ul"]/li/i[text()="发病部位:"]/following-sibling::span/a/text()')
ks = tree.xpath('//ul[@class="information_ul"]/li/i[text()="挂号科室:"]/following-sibling::span/a/text()')
return bm, bw, ks
补充其他相关知识点:
XPath基础语法与常用表达式
# /从根元素开始,相当于绝对路径
print(tree.xpath('/html/body/ul'))
# //全局搜索,找到所有
print(tree.xpath('//li'))
ul = tree.xpath('//ul')
# . 当前
# 返回的都是列表,查找到所有
li = ul[0].xpath('./li')
print(li)
for l in li:
# 获取属性id的值 @id
print(l.xpath('./@id'))
# 定位 /标签[@属性='值']
liClass = tree.xpath("//li[@class='liClass']")
print(liClass)
#判断,@属性='值' --->返回True或False
print(tree.xpath("//li/@id='12'"))
print("===========================")
#直接使用下标访问,下标从1开始 获取对个li里面的文本
print(tree.xpath('//li[2]/text()'))
#last()最后一个
print(tree.xpath('//li[last()]/text()'))
#倒数第二个
print(tree.xpath('//li[last()-1]/text()'))
# position() 位置 > < = >= <=
print(tree.xpath('//li[position()>1]'))
#* 通配
print(tree.xpath('//*[@class="liClass"]'))
# 或 |
print(tree.xpath('//li[@class="liClass"] | //div[@class="liClass"]'))
XPath基本语法概述
基础节点选取表达式
| 表达式 | 说明 |
|---|---|
| article | 选取所有article元素的所有子节点 |
| /article | 选取根元素article |
| article/a | 选取所有属于article的子元素的a元素 |
| //div | 选取所有div元素(不管出现在文档里的任何地方) |
| article//div | 选取所有属于article元素的后代的div元素,不管它出现在article之下的任何位置 |
| //@class | 选取所有名为class的属性 |
索引与属性选取表达式
| 表达式 | 说明 |
|---|---|
| /article/div[1] | 选取属于article子元素的第一个div元素 |
| /article/div[last()] | 选取属于article子元素的最后一个div元素 |
| /article/div[last()-1] | 选取属于article子元素的倒数第二个div元素 |
| //div[@color] | 选取所有拥有color属性的div元素 |
| //div[@color=‘red'] | 选取所有color属性值为red的div元素 |
通配符与多节点选取
| 表达式 | 说明 |
|---|---|
| /div/* | 选取属于div元素的所有子节点 |
| //* | 选取所有元素 |
| //div[@*] | 选取所有带属性的div 元素 |
| //div/a 丨//div/p | 选取所有div元素的a和p元素 |
| //span丨//ul | 选取文档中的span和ul元素 |
| article/div/p丨//span | 选取所有属于article元素的div元素的p元素以及文档中所有的 span元素 |
补充说明:
高级定位技巧:相邻元素与复杂条件
相邻元素定位,
前一位:
preceding-sibling::div[1]
后一位:
following-sibling::div[1]
前N位:
preceding-sibling::div[N]
后N位:
following-sibling::div[N]
# 爬取i标签中包含相关检查节点的兄弟 a节点(找到i节点—>找到其父节点->找到该父节点的子节点a)
content = tree.xpath('//i[contains(text(),"相关检查:")]/../a[@class="blue"]/text()')
xpath多个class限制
//div[contains(@class, 'demo') and contains(@class, 'other')]
xpath 同时多个标签用| 分隔
//div[contains(@class, "jib-lh-articl")]/p | //div[contains(@class, "jib-lh-articl")]/h3
选择不包含某一属性的节点
//div[not(@class)] 没有class属性的div
//tbody/tr[not(@class or @id)]
获取当前节点的是什么类型的html标签
xpath_element.tag
XPath元素定位核心方法详解
补充知识:如何利用XPath定位元素(涉及元素定位相关的XPath语法)
本文重点讲解XPath语法中与元素定位直接相关的部分。
方法一:绝对路径定位
第一种方法:通过绝对路径进行定位(通常不建议使用这种方式)。
代码示例:By.xpath("html/body/div/form/input")
方法二:相对路径定位
第二种方法:通过相对路径进行定位。
双斜杠(//)代表相对路径搜索。
代码示例:By.xpath("//input//div")
方法三:索引定位
第三种方法:通过元素索引进行定位。
代码示例:By.xpath("//input[4]")
方法四:属性精确匹配
第四种方法:使用XPath结合节点属性进行定位(可结合第2、第3种方法使用)。
代码示例: By.xpath("//input[@id='kw1']") By.xpath("//input[@type='name' and @name='kw1']")
方法五:部分属性值模糊匹配
第五种方法:使用部分属性值匹配(这是最强大的方法之一)。
代码示例: By.xpath("//input[start-with(@id,'nice')]") By.xpath("//input[ends-with(@id,'很漂亮')]") By.xpath("//input[contains(@id,'那么美')]")
方法六:多重条件组合定位
第六种方法:使用前几种方法的组合应用。
代码示例:By.xpath("//input[@id='kw1']//input[start-with(@id,'nice']/div[1]/form[3])"。注意:原文此处括号匹配可能存在笔误,实际使用时需确保括号闭合正确。
以上关于Python中XPath解析定位的内容即为分享的全部,希望能为大家提供参考,也希望大家多多支持本站。
本站声明
本文内容仅供参考,不代表本站观点。转载或引用请注明出处。如发现内容问题,请通过联系我们页面反馈。













