如何正确识别百度蜘蛛需要做到这两点!

当前位置: 首页 > 常见问题

很多SEO从业者刚接触这个行业的时候经常会问-百度什么是蜘蛛?我们可以理解为百度蜘蛛是用来抓取网站链接的IP。边肖经常听到百度蜘蛛来的太频繁,服务器会被抓爆。如果不能识别百度蜘蛛,怎么知道百度蜘蛛抓到爆炸了?也有百度蜘蛛不来的情况,还有很多站点想拿到百度蜘蛛的IP段,把IP加入白名单,但是无法识别百度IP。



那如何正确识别百度蜘蛛呢?只要做到这两点,就能正确识别百度蜘蛛


先查UA。如果UA错了,可以直接判断不是百度搜索的蜘蛛。目前向公众公布的UA是:


移动UA:Mozilla/5.0(Linux;u;安卓4 . 2 . 2;zh-cn;)AppleWebKit/534.46 (KHTML,likeGecko)版本/5.1手机Safari/10600.6.3(兼容; Baidu spider/2.0;+http://www . Baidu . com/search/spider . html)

PC UA:Mozilla/5.0(兼容;baiduspider/2.0; +http://www . Baidu . com/search/spider . html)


添加渲染UA:


移动UA:UA:Mozilla/5.0(iPhone;CPU iPhone OS 9 _ 1 like MAC OS X) apple WebKit/601 . 1 . 46(KHTML,like Gecko)版本/9.0 Mobile/13b 143 Safari/601.1 (兼容;baiduspider-render/2.0; +http://www . Baidu . com/search/spider . html)


PC UA:Mozilla/5.0(兼容;baiduspider-render/2.0; +http://www . Baidu . com/search/spider . html)


二。反向检查IP


站长可以通过DNS反向检查IP来确定一个蜘蛛是否来自百度搜索引擎。根据linux/windows/os等不同平台的验证方式不同,验证方式如下:


(1)在linux平台上,可以使用host ip命令反推ip来判断是否来自Baiduspider。以 *.baidu.com或*.baidu.jp格式命名的Baiduspider的主机名,如果不是*.baidu.com或*。百度. jp,假设。


(2)在windows平台或IBM OS/2平台上,可以使用nslookup ip命令来反转ip,以 确定它是否来自Baiduspider。打开命令处理器,输入nslookup xxx.xxx.xxx.xxx(ip地址)解析ip, 确定是否来自Baiduspider。Baiduspider的主机名以*.baidu.com或*.baidu.jp的格式命名,而不是 *.baidu.com或*。百度。


(3)在mac os平台下,可以使用dig命令反推ip,判断是否来自Baiduspider。打开命令处理器,输入dig xxx.xxx.xxx.xxx(ip地址)解析ip,确定是否来自Baiduspider。Baiduspider的主机名以 *.baidu.com或*.baidu.jp的格式命名,而不是*.baidu.com或*。百度。



免责声明:本网站内容来源网络,转载是出于传递更多信息之目的,并不意味赞成其观点或证实其内容真实性。转载稿涉及版权等问题,请立即联系网站编辑,我们会予以更改或删除相关文章,保证您的权利。

作者:徐州百都网络 | 来源:[db:出处] | 发布于:2022-02-23 12:26:50