如何正确识别百度蜘蛛?只需做这两点

很多SEO从业人员在刚刚接触这个行业的时候,经常会问——百度蜘蛛是什么?我们可以理解为百度蜘蛛就是用来抓取网站链接的IP,小编经常会听到百度蜘蛛来的太频繁,服务器要被抓

  很多SEO从业人员在刚刚接触这个行业的时候,经常会问——百度蜘蛛是什么?我们可以理解为百度蜘蛛就是用来抓取网站链接的IP,小编经常会听到百度蜘蛛来的太频繁,服务器要被抓爆了,如果你无法识别百度蜘蛛,你怎么知道是百度蜘蛛抓 […]

  很多SEO从业人员在刚刚接触这个行业的时候,经常会问——百度蜘蛛是什么?我们可以理解为百度蜘蛛就是用来抓取网站链接的IP,小编经常会听到百度蜘蛛来的太频繁,服务器要被抓爆了,如果你无法识别百度蜘蛛,你怎么知道是百度蜘蛛抓爆的呢?也有出现百度蜘蛛都不来了的情况,还有很多站点想得到百度蜘蛛的IP段,想把IP加入白名单,但无法识别百度IP。

  那怎么才能识别正确的百度蜘蛛呢?来来来,只需做着两点,就能正确识别百度蜘蛛

  一、查看UA,如果UA都不对,可以直接判断非百度搜索的蜘蛛,目前对外公布过的UA是:

  移动UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,likeGecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

  PC UA:Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

  新增渲染UA:

  移动UA:Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 likeMac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

  PC UA:Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

  二、反查IP

  站长可以通过DNS反查IP的方式判断某只spider是否来自百度搜索引擎。根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:

正确识别百度蜘蛛

  (1)、在linux平台下,您可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

  (2)、在windows平台或者IBM OS/2平台下,您可以使用nslookup ip命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com 或*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

  (3)、 在mac os平台下,您可以使用dig 命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以 *.baidu.com 或*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

版权声明:原创文章,作者(大鹏),如若转载,请注明出处。如何正确识别百度蜘蛛?只需做这两点:https://www.31seo.com/10.html

(0)
打赏 支付宝扫一扫 支付宝扫一扫
大鹏的头像大鹏
上一篇 2020-07-27 13:06:42
下一篇 2020-07-09 16:38:05

相关推荐

  • 浅谈SEO优化的三大要素

    小编相信每个SEO的从业者都被搜索引擎折磨过!只有被搜索引擎打击过才能真正成长起来,而seo从业者也是经过搜索引擎折磨之后才能积累到丰富的SEO操作经验。他们可能不会开发程序

    2020-07-09
    3.0K0
  • 个人对seo概念的理解

    个人认为与微信一样,搜索引擎有固定的用户群体,有人有流量的地方,就存在商机或者利益,seo的概念就是搜索引擎优化,其目的是在搜索引擎中获得精准用户,获得流量。从更深层

    2020-07-09
    3.2K0
  • CSS样式:对SEO的影响有哪些?

    虽然利用外貌去评判一个人,并非是一个客户的判断,但有的时候它确实给人们创下良好的第一印象,网站亦是如此,“内容为王”是我们无法忽略的价值,但外在的视觉体验,也是用户体验的一个参考因…

    2020-08-21
    3.3K0
  • SEO中,量变与质变的区别有哪些?

    有的时候我们在做SEO工作的过程中,总是在思考快速的获得一个万能的排名公式,但是我们都非常清楚,影响网站关键词排名的因素有很多,比如:  ①网站内容更新的数量  ②页面内容的质量与网站框架  ③外部链接情况等  因此,我们基于搜索引擎工作的原理,只要将某一个指

    2020-08-18
    2.1K0
  • 经常搜索并点击自己排名,会有什么后果?

    在做SEO的过程中,我们总是会有一个小习惯,那就是当我们刚开始做网站排名的时候,总是习惯性的去搜索自己的关键词,并且去点击相关的页面。  其中,主要的目的就是:  ①看看网站特定关键词,目前在什么位置,顺手点击一下。  ②添加内链锚文本,不知道自己的URL是什

    2020-08-18
    3.2K0
  • 如何对网站进行seo

    从需求结果分析来看,任何网站都需要进行seo操作,没有不想获取流量的网站,网站建设与seo是有契合点的。不同的群体建设网站后,由于各种原因,会采用不同的方式来对网站进行

    2020-07-09
    3.1K0

发表回复

登录后才能评论