5行Python提取海量新闻网站内容

目录

1、安装模块

2、提取网页内容

本篇博客又双叒叕为各位分享一个Python库：GeneralNewsExtractor（GNE），其是一个通用新闻网站正文抽取模块，输入一篇新闻网页的 HTML， 输出正文内容、标题、作者、发布时间、正文中的图片地址和正文所在的标签源代码。GNE在提取今日头条、网易新闻、游民星空、 观察者网、凤凰网、腾讯新闻、ReadHub、新浪新闻等数百个中文新闻网站上效果非常出色，几乎能够达到100%的准确率。

需要明白：GeneralNewsExtractor（GNE）不是 爬虫 ，是为了规避不必要的风险，因此，本项目的输入是 HTML源代码，输出是一个字典，请自行使用恰当的方法获取目标网站的 HTML。