前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
PS：如有需要Python学习资料的小伙伴可以加点击下方链接自行获取
python免费学习资料以及群交流解答点击即可加入
微博热搜的爬取较为简单，我只是用了lxml和requests两个库
url= https://s.weibo.com/top/summary?Refer=top_hot&topnav=1&wvr=6
1.分析网页的源代码：右键--查看网页源代码.
从网页代码中可以获取到信息
(1)热搜的名字都在的子节点里
(2)热搜的排名都在的里(注意置顶微博是没有排名的！)
(3)热搜的访问量都在的子节点里
2.requests获取网页
(1)先设置url地址，然后模拟浏览器(这一步可以不用)防止被认出是爬虫程序。
(2)利用req uests库的get()和lxml的etr ee()来获 取网页代码
###获取html页面
html=etree.HTML(requests.get(url,headers=header).text)
3.构造xpath路径
上面第一步中三个xath路径分别是：
xpath的返回结果是列表，所以affair、rank、view都是字符串列表
4.格式化输出
需要注意的是affair中多了一个置顶热搜，我们先将他分离出来。
top=affair[0]
affair=affair[1:]
这里利用了python的切片。
这里还是没能做到完全对齐。。。
5.全部代码
结果展示:
