很多SEO从业者刚接触这个行业的时候经常会问-百度什么是蜘蛛?我们可以理解为百度蜘蛛是用来抓取网站链接的IP。边肖经常听到百度蜘蛛来的太频繁,服务器会被抓爆。如果不能识别百度蜘蛛,怎么知道百度蜘蛛抓到爆炸了?也有百度蜘蛛不来的情况,还有很多站点想拿到百度蜘蛛的IP段,把IP加入白名单,但是无法识别百度IP。
那如何正确识别百度蜘蛛呢?只要做到这两点,就能正确识别百度蜘蛛
先查UA。如果UA错了,可以直接判断不是百度搜索的蜘蛛。目前向公众公布的UA是:
移动UA:Mozilla/5.0(Linux;u;安卓4 . 2 . 2;zh-cn;)AppleWebKit/534.46 (KHTML,likeGecko)版本/5.1手机Safari/10600.6.3(兼容; Baidu spider/2.0;+http://www . Baidu . com/search/spider . html)
PC UA:Mozilla/5.0(兼容;baiduspider/2.0; +http://www . Baidu . com/search/spider . html)
添加渲染UA:
移动UA:UA:Mozilla/5.0(iPhone;CPU iPhone OS 9 _ 1 like MAC OS X) apple WebKit/601 . 1 . 46(KHTML,like Gecko)版本/9.0 Mobile/13b 143 Safari/601.1 (兼容;baiduspider-render/2.0; +http://www . Baidu . com/search/spider . html)
PC UA:Mozilla/5.0(兼容;baiduspider-render/2.0; +http://www . Baidu . com/search/spider . html)
二。反向检查IP
站长可以通过DNS反向检查IP来确定一个蜘蛛是否来自百度搜索引擎。根据linux/windows/os等不同平台的验证方式不同,验证方式如下:
(1)在linux平台上,可以使用host ip命令反推ip来判断是否来自Baiduspider。以 *.baidu.com或*.baidu.jp格式命名的Baiduspider的主机名,如果不是*.baidu.com或*。百度. jp,假设。
(2)在windows平台或IBM OS/2平台上,可以使用nslookup ip命令来反转ip,以 确定它是否来自Baiduspider。打开命令处理器,输入nslookup xxx.xxx.xxx.xxx(ip地址)解析ip, 确定是否来自Baiduspider。Baiduspider的主机名以*.baidu.com或*.baidu.jp的格式命名,而不是 *.baidu.com或*。百度。
(3)在mac os平台下,可以使用dig命令反推ip,判断是否来自Baiduspider。打开命令处理器,输入dig xxx.xxx.xxx.xxx(ip地址)解析ip,确定是否来自Baiduspider。Baiduspider的主机名以 *.baidu.com或*.baidu.jp的格式命名,而不是*.baidu.com或*。百度。
作者:徐州百都网络 | 来源:[db:出处] | 发布于:2022-02-23 12:26:50