阅读737 返回首页    go 火车采集器


文章采集器抓取列表分页示例

文章采集器抓取列表分页示例

作者:dong 发布于:2016-6-23 14:38 Thursday 分类:官方公告

在使用文章采集器采集文章的过程中,我们经常需要对分页进行抓取,比如列表分页或内容分页,这里我们就以列表分页为例,为大家讲解一下火车采集器是如何操作分页的。

对于设置列表分页,通过下图的起始网址——批量网址来设置是最常见也是最常用的。

火车采集器1.png

    现在我们用另外一种获取分页的办法,即通过列表上下页无限分页采集获取功能来自动获取分页。使用这个功能,起始页就只需要把首页地址添加进去就可以了,如下图:

火车采集器2.png

    然后进入[高级模式]——分页设置,设置区域开始字符串、区域结束字符串、地址样式、分页地址等字段。

火车采集器3.png

我们以https://news.qq.com/newsgn/zhxw/shizhengxinwen.htm 为例,先查看下第一页分页源代码的情况,如下图:

火车采集器4.png 继续查看下第二页分页源代码的情况如下:

火车采集器5.png 分析得出:当前页都是在<div>后的<strong></strong>这个代码后面紧接着一个<a href="">就是下一页地址。 也就是说我们是要通过当前页获取下一页,这样一级一级的向下获取,直至把所有分页获取到。 所以,区域开始字符串为:<div>(*)</strong> 区域结束字符串为:</a>(*)</div>

火车采集器6.png

地址样式根据截取区域的格式来写:<a href="[参数]">,效果如下:

火车采集器7.png

    另外上图 “4” 是表示获取4页的意思,默认为“0”表示不限,将采集所有分页。这样就可以用火车采集器获取到我们需要的上下页列表分页了,用火车采集器抓取内容页上下页模式也是可以参考这种操作的,更多使用教程可以访问官网进行学习。


标签: 火车采集器 文章采集器

相关日志:

福利来啦:6.8折优惠码太给力!

网页抓取工具带你走进大数据营销

玩转网页抓取工具,2016年让大数据更接地气!

网页抓取工具透析大数据生态圈技术层

网页抓取工具助力大数据基础建设

« 抓取网页数据工具的内容获取方式 | 社会信任感缺失,受害的是谁?»

发表评论:

最后更新:2017-05-09 01:06:04

  上一篇:go 网页抓取工具火车采集器发布模块制作示例
  下一篇:go 文章采集器采集规则和发布模块的对接