您当前的位置: 首页 >  Python

python爬虫:scrapy框架xpath和css选择器语法

彭世瑜 发布时间:2018-05-26 09:23:21 ,浏览量:4

Xpath基本语法

一、常用的路径表达式:

表达式描述实例nodename选取nodename节点的所有子节点//div/从根节点选取/div//选取所有的节点,不考虑他们的位置//div.选取当前节点./div..选取当前节点的父节点..@选取属性//@calss

举例元素标签为artical标签

语法说明artical选取所有artical元素的子节点/artical选取根元素artical./artical选取当前元素下的artical../artical选取父元素下的articalartical/a选取所有属于artical的子元素a元素//div选取所有div 子元素,无论div在任何地方artical//div选取所有属于artical的div 元素,无论div元素在artical的任何位置//@class选取所有名为class 的属性的a/@href选取a标签的href属性a/text()选取a标签下的文本string(.)解析出当前节点下所有文字string(..)解析出父节点下所有文字

二、谓语 谓语被嵌在方括号内,用来查找某个特定的节点或包含某个制定的值的节点

语法说明/artical/div[1]选取所有属于artical 子元素的第一个div元素/artical/div[last()]选取所有属于artical子元素的最后一个div元素/artical/div[last()-1]选取所有属于artical子元素的倒数第2个div元素/artical/div[position()3.5]选取所有div下元素值price大于3.5的节点

三、通配符 Xpath通过通配符来选取未知的XML元素

表达式结果//*选取所有元素//div/*选取所有属于div元素的所有子节点//div[@*]选取所有带属性的元素

四、取多个路径 使用“|”运算符可以选取多个路径

表达式结果//div | //table选取文档中所有的div和table节点//div/a | //div/p选取所有div元素的a和p 元素artical/div/pl | //span选取所有div下的pl和文档中所有span

五、Xpath轴 轴可以定义相对于当前节点的节点集

轴名称表达式描述ancestor./ancestor::*选取当前节点的所有先辈节点(父、祖父)ancestor-or-self./ancestor-or-self::*选取当前节点的所有先辈节点以及节点本身descendant./descendant::*返回当前节点的所有后代节点(子节点、孙节点)child./child::*返回当前节点的所有子节点parent./parent::*选取当前节点的父节点following./following::*选取文档中当前节点结束标签后的所有节点following-sibling./following-sibling::*选取当前节点之后的兄弟节点preceding./preceding::*选取文档中当前节点开始标签前的所有节点preceding-sibling./preceding-sibling::*选取当前节点之前的兄弟节点self./self::*选取当前节点attribute./attribute::*选取当前节点的所有属性

六、功能函数 使用功能函数能够更好的进行模糊搜索

函数用法解释starts-with//div[starts-with(@id,”ma”)]选取id值以ma开头的div节点contains//div[contains(@id,”ma”)]选取所有id值包含ma的div节点and//div[contains(@id,”ma”) and contains(@id,”in”)]选取id值包含ma和in的div节点text()//div[contains(text(),”ma”)]选取节点文本包含ma的div节点

注意事项:

1) 按照审查元素的写法不一定正确,要按照网页源码的才行

因为不一样,网页源码才是你看到的

2) 浏览器有自带的复制xpath功能,firefox下载firebug插件

3) xpath有c的速度,所以按照[@class=""]准确性较高
CCS选择器语法 语法说明*选择所有节点#container选择id为container的节点.container选择所有class包含container的节点div,p选择所有 div 元素所有 p 元素li a选取所有li 下所有a节点ul + p选取ul后面的第一个p元素div#container > ul选取id为container的div的第一个ul子元素ul ~p选取与ul相邻的所有p元素a[title]选取所有有title属性的a元素a[href=”http://baidu.com”]选取所有href属性为http://baidu.com的a元素a[href*=”baidu”]选取所有href属性值中包含baidu的a元素a[href^=”http”]选取所有href属性值中以http开头的a元素a[href$=”.jpg”]选取所有href属性值中以.jpg结尾的a元素input[type=radio]:checked选择选中的radio的元素div:not(#container)选取所有id为非container 的div属性li:nth-child(3)选取第三个li元素li:nth-child(2n)选取第偶数个li元素a::attr(href)选取a标签的href属性a::text选取a标签下的文本

关于更多css语法,可以查看 http://www.w3school.com.cn/cssref/css_selectors.asp

提取内容 方法返回Selector.xpath()返回SelectorList对象Selector.css()返回SelectorList对象SelectorList.extract()返回List对象SelectorList.extract_first(default)返回String对象,可以有默认值,类似dict.get(key, default)

参考链接:

  1. 三、用Css来提取网页
  2. Python爬虫:Xpath语法笔记
关注
打赏
1688896170
查看更多评论

彭世瑜

暂无认证

  • 4浏览

    0关注

    2727博文

    0收益

  • 0浏览

    0点赞

    0打赏

    0留言

私信
关注
热门博文
立即登录/注册

微信扫码登录

0.0497s