php 58房源采集,如何用火车采集器采集二手房数据 您所在的位置:网站首页 房源采集软件 php 58房源采集,如何用火车采集器采集二手房数据

php 58房源采集,如何用火车采集器采集二手房数据

2024-01-07 10:27| 来源: 网络整理| 查看: 265

火车采集器,一款专业的互联网数据抓取、处理、分析,挖掘软件,可以灵活迅速地抓取网页上散乱分布的数据信息,并通过一系列的分析处理,准确挖掘出所需数据。对于免费版的用户来说,用火车采集器V8版比V9版更好,一是因为V8版可存储csv文件,而V9不能;二是在多级网页信息爬取方面,V9的免费版用户体验不如V8。下面以链家网中深圳南山区二手房为例,介绍V8版的数据爬取过程。

Step1:打开火车采集器,点击新建—分组,在弹出的对话框中输入分组名“链家网”称后,点击保存。

801be85af82d3ce5ec0a69d6b118167a.png

4b3a107b5693a000d27eeda3ee5782eb.png

Step2:选择“链家网”组,右键新建任务,弹出如下对话框。在任务名中输入“深圳南山区二手房”。在起始网页栏中点击添加,如图所示。

0fd605ee731d6ee5a2d3eed5768a7f42.png5a8f822f378bf3eb738156d54f0b1096.png

Step3:选择“批量/多页”,以链家网第二页为起始页网址,将其复制在地址格式栏中。我们可以从链家网的网页看到,随着页数的变化,只有pg后面的数字发生变化,其他不变(https://sz.lianjia.com/

ershoufang/nanshanqu/pg(*)/,)。因此,在地址格式栏中,把pg后的数字替换成(*)。为了防止链家网启动反爬程序,本次介绍只爬取两页数据。选择“等差数列”,首相为1,项数为2,公差为1。依次点击添加、完成。

21cef888e9268242c9eb531801ed46be.png

Step4:在多级网址获取中,点击添加,弹出如下对话框。每个房源信息的网址中,只有中间的数字会变化,其余的均不变(https://sz.lianjia.com/ershoufang/(*).html)。因此,在必须包含的信息中,只需把html前的数字换成(*)即可,然后点击保存。

1d95f480ec8e4ef5d16072a81e321284.png

Step5:点击测试网址采集,将会对1级网页进行采集测试,采集成功后如图。

6b010b037f9831b1d9bb9296c63e4e0c.png

Step6:进入“第二步:采集内容规则”的编辑。点击添加,进入标签编辑界面。在标签名中先填写名称。进入链家网的二级网页,即每个房源信息的页面,包括了名称、价格、户型、面积等信息,如图所示。

6033ab809b757735316f8ee1d4639542.png

0acffc064861c7918d5cdebe506256a5.png

接下来便是爬取相应的信息。在网页空白处单击右键,选择查看源代码,进入该网页的源代码,按Ctrl+F,将名称复制粘贴至搜索框中,以便快速找到其所在源代码的位置。下图所示便是名称的源代码

e5f539b9763426d147d708f7d9a9148c.png

eccc641a95ee9a2c09ed0a68c7a60d3f.png

在开始字符和结束字符分别输入相应的源代码,如图所示。单击确定后,按照上述方法进行价格、户型、面积等信息的爬取。需要特别说明的是,之所以通过网页源代码爬取相关信息,而不是在每个房源信息的页面中右键单击相应的信息,然后选择审查元素,然后利用前后截取的原则爬取相应信息,是因为通过审查元素这种方式有时候无法准确爬取相应信息。例如,房源信息中显示该房子的面积为88.52平米,若选择审查元素,则对应的信息为

3cfdabf3ba9419e4f4fece7580535181.png

输入网址测试时爬取出来的结果如右图所示。

560ded04d1f5a0974249b85c51961f24.png

95b29a65331141cf3d3c4d310b77e3fd.png

若在网页源代码中搜索88.52,则可搜索到如下信息

b804a7c2d6bd6f27b46e6d46954b09be.png

......

温馨提醒:

下面还有几步就快完成啦!如需查看完整内容,请成为【城市数据派会员】,点击查看

本站声明

本文仅代表作者观点,不代表城市数据派立场;

本文系作者授权城市数据派发表,未经许可,不得转载;

本网站上的所有内容均为虚拟服务,一经购买成功概不退款,请您理解。



【本文地址】

公司简介

联系我们

今日新闻

    推荐新闻

    专题文章
      CopyRight 2018-2019 实验室设备网 版权所有