如何正确识别百度蜘蛛?只需做这两点

很多SEO从业人员在刚刚接触这个行业的时候,经常会问——百度蜘蛛是什么?我们可以理解为百度蜘蛛就是用来抓取网站链接的IP,小编经常会听到百度蜘蛛来的太频繁,服务器要被抓

  很多SEO从业人员在刚刚接触这个行业的时候,经常会问——百度蜘蛛是什么?我们可以理解为百度蜘蛛就是用来抓取网站链接的IP,小编经常会听到百度蜘蛛来的太频繁,服务器要被抓爆了,如果你无法识别百度蜘蛛,你怎么知道是百度蜘蛛抓 […]

  很多SEO从业人员在刚刚接触这个行业的时候,经常会问——百度蜘蛛是什么?我们可以理解为百度蜘蛛就是用来抓取网站链接的IP,小编经常会听到百度蜘蛛来的太频繁,服务器要被抓爆了,如果你无法识别百度蜘蛛,你怎么知道是百度蜘蛛抓爆的呢?也有出现百度蜘蛛都不来了的情况,还有很多站点想得到百度蜘蛛的IP段,想把IP加入白名单,但无法识别百度IP。

  那怎么才能识别正确的百度蜘蛛呢?来来来,只需做着两点,就能正确识别百度蜘蛛

  一、查看UA,如果UA都不对,可以直接判断非百度搜索的蜘蛛,目前对外公布过的UA是:

  移动UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,likeGecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

  PC UA:Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

  新增渲染UA:

  移动UA:Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 likeMac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

  PC UA:Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)

  二、反查IP

  站长可以通过DNS反查IP的方式判断某只spider是否来自百度搜索引擎。根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:

正确识别百度蜘蛛

  (1)、在linux平台下,您可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以 *.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

  (2)、在windows平台或者IBM OS/2平台下,您可以使用nslookup ip命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com 或*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

  (3)、 在mac os平台下,您可以使用dig 命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入dig xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以 *.baidu.com 或*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

版权声明:原创文章,作者(大鹏),如若转载,请注明出处。如何正确识别百度蜘蛛?只需做这两点:https://www.31seo.com/10.html

(0)
打赏 支付宝扫一扫 支付宝扫一扫
大鹏的头像大鹏
上一篇 2020-08-13 18:14:18
下一篇 2020-07-09 16:38:05

相关推荐

  • 经常搜索并点击自己排名,会有什么后果?

    在做SEO的过程中,我们总是会有一个小习惯,那就是当我们刚开始做网站排名的时候,总是习惯性的去搜索自己的关键词,并且去点击相关的页面。  其中,主要的目的就是:  ①看看网站特定关键词,目前在什么位置,顺手点击一下。  ②添加内链锚文本,不知道自己的URL是什

    2020-08-18
    3.0K0
  • 「关键词seo培训」黑帽seo多久可以学会

    网站优化SEO如何进行绩效考核-百度知道【黑帽seo多久可以学会】 SEO的工作内容主要负责哪些事情-百度知道【黑帽seo多久可以学会】 1、seo优化专家,seo是一个基本功,需…

    2020-08-22
    1.8K0
  • 百度搜索7月最新动态,有哪些内容值得关注?

    最近这一段时间周期,百度搜索频繁的进行相关性的调整,同时对于站长资源平台而言,也给出了一些相关性的消息推送给各大站长。  但由于大家工作时间相对比较忙,经常容易漏掉这些相关性的信息,我们认为如果你长期从事SEO工作,我们有必要时时关注百度最新动态。  根据以往

    2020-08-18
    2.7K0
  • 什么是SEO搜索引擎优化?

    SEO搜索引擎优化,是一种常见的网站优化手段。它是利用搜索引擎收录规则,使网站在百度、谷歌等搜索引擎平台上的自然排名得到提高。SEO优化的目的是让网站在相关关键词排名结果中占据领先…

    2020-07-27
    3.4K0
  • 如何对网站进行seo

    从需求结果分析来看,任何网站都需要进行seo操作,没有不想获取流量的网站,网站建设与seo是有契合点的。不同的群体建设网站后,由于各种原因,会采用不同的方式来对网站进行

    2020-07-09
    2.9K0
  • 【seo进阶】python批量修改文件名称(付代码)

    我们下载别人的教程的时候,经常会看到有被那些分享站点重命名的文件或者是加入一些它们的宣传文件,这些文件与实际的教程是无关的。但是又非常影响我们的体验,因此我们得对文件进行重命名,但…

    优化技术 2021-07-22
    3.0K0

发表回复

登录后才能评论