阅读35 返回首页    go 火车采集器


火车采集器V9起始网址页即为内容页和标签循环采集功能使用

火车采集器V9起始网址页即为内容页和标签循环采集功能使用

作者:dong 发布于:2017-4-19 14:39 Wednesday

今天给大家分享财富网股票业绩预告信息采集规则。今天的规则相对比较简单,但简单中又有技巧,  

比如看到这个图的规则,会不会晕呢,怎么就标点符号和通配符呢?今天的规则主要使用了起始网址页即为内容页和标签循环采集功能,下方案例讲解为大家详细说明。


【案例讲解】
今天主要讲解 起始网址页即为内容页和标签循环采集功能,其他略过!

我们要采集的网址:https://data.eastmoney.com/bbsj/201703/yjyg.html

 

如上图,我们需要采集表格中的信息。

 
底部有分页,总共29页,发现点击分页,网址并无变化,那就这就需要我们使用抓包软件Fiddler(学习抓包)来抓取真实地址,如下图:

 


通过抓包我们找到了有我们需要的数据的页面地址,我们将网址复制出来,参照下图:

 

通过网址规则分析到分页的参数变量,一般可以通过抓取多个分页的网址进行对比就知道哪个是分页变量了,找到变量规则后,我就可可以通过网址分页规则进行设置,共29页,如下图:

 

通过抓包软件,我们看到我们所要采的数据就在抓取的分页中,就并不需要再采集内容页,我们要的内容就在起始网址页中,那么我们就需要使用火车采集器的起始网址就是内容页网址,我们点击“点击设置”,如下图:

 

点击出现下图,是灰色的,不能进行任何设置,因为我们不需要设置采集内容页网址了,所以这里不操作。

 

直接进入内容采集规则设置界面,如下图,因为我们需要采的内容是表格内容并且都在一个页面上,所以我们需要使用循环采集,所以设置标签的时候,每个标签都要将循环匹配√选上。(每个标签的内容采集规则这里不多说,大家可以下载规则自行测试学习,其实还是有一定的小技巧的)

 

网页上的表格数据,一行一条信息,所以我们采集下来也是需要一行一条信息,那在左侧下方的循环设置中我们要进行设置,改为“添加新记录”,这样我们采集的信息就会一行一条,否则所有信息将堆积在一起,只有一条信息。参照下图:

 

设置好后我们进行测试,出现下图即为设置成功

 


另外讲下,在采集该页面信息进行循环时,发现第一条信息和其他信息的规则不一样,经过分析,只能循环采集每页的除第一条的其他信息。那这应该怎么办?这个没有更好的方法,页面数据规则太过简单,无法找到一个能够匹配所有信息的规则,解决方法只有一个笨方法,但是也是唯一可以解决此问题的。那就是先循环采集所有信息,然后再设一个规则只针对第一条信息,再采一次最后合并。这里分享的规则不能采集到第一条信息,大家可以按照我的思路去尝试采集第一条信息。
 


本案例规则下载:【东哥福利】火车采集器V9财富网业绩预告信息采集规则分享

相关日志:

【东哥福利】火车采集器V9京东商城商品信息采集规则分享

火车采集器软件-今日头条娱乐新闻采集规则分享

最新火车采集器V9用户使用手册PDF版

火车采集器软件V9.3最新视频教程-YY直播课程录屏合集

网页抓取工具:帮助电子商务获取大数据财富

« 福利来啦:6.8折优惠码太给力! | 【东哥福利】豆瓣电影采集规则及发布到本地CSV格式文件»

发表评论:

最后更新:2017-05-09 01:06:04

  上一篇:go 【东哥福利】豆瓣电影采集规则及发布到本地CSV格式文件
  下一篇:go 火车采集器软件-今日头条娱乐新闻采集规则分享