做过网络搜索引擎优化的站长们经常问百度蜘蛛是什么?也有的站长说百度蜘蛛把我的网站服务器抓爆了,也有的还说百度蜘蛛为什么不来抓我的网站呢?很多站长的网站想得到百度蜘蛛IP段,将百度蜘蛛IP段加入网站服务器的白名单,但网站服务器的IP段不固定,因此没有办法对外公布百度蜘蛛IP段。
只需要两步教你正确识别百度蜘蛛
怎样正确识别百度蜘蛛的IP段?增加网站收录量,让网站流量翻十倍,其实识别百度蜘蛛IP段只需要两步教你正确识别百度蜘蛛。
1、查看UA,如果UA都不对,则可以直接判断这不是百度搜索引擎的蜘蛛,目前百度对外公布的蜘蛛移动UA和PCUA是分别是:
移动UA:Mozilla/5.0(Linux;u;Android4.2.2;zh-cn;)AppleWebKit/534.46(KHTML,likeGecko)Version/5.1MobileSafari/10600.6.3(compatible;Baiduspider/2.0;+http://www.baidu.com/search/spider.html)
PCUA:Mozilla/5.0(compatible;Baiduspider/2.0;+http://www.baidu.com/search/spider.html)
新增渲染UA:
移动UA:Mozilla/5.0(iPhone;CPUiPhoneOS9_1likeMacOSX)AppleWebKit/601.1.46(KHTML,likeGecko)Version/9.0Mobile/13B143Safari/601.1(compatible;Baiduspider-render/2.0;+http://www.baidu.com/search/spider.html)
PCUA:Mozilla/5.0(compatible;Baiduspider-render/2.0;+http://www.baidu.com/search/spider.html)
2、反查百度蜘蛛的IP
站长们可通过DNS反查IP的方式来判断spider是不是来自百度搜索引擎,不同的网站服务器平台验证方法是不同的,例如linux/windows/os这三个平台的验证方法如下:
1)在linux平台下
在linux网站服务器中,你可以使用hostip命令反解ip来判断是不是来自百度的Baiduspider抓取,百度的spider的hostname一般都是以*.baidu.com或*.baidu.jp的格式命名的,如果不是*.baidu.com或*.baidu.jp的,就是冒充假冒的。
2)在windows平台或者IBMOS/2平台下
使用nslookupip命令反解ip来判断是不是来自Baiduspider的抓取,可打开windows平台上的命令服务器,输入nslookupxxx.xxx.xxx.xxx(IP地址)就能解析IP,以此来判断是否来自于Baiduspider的抓取,Baiduspider的hostname以*.baidu.com或*.baidu.jp的格式命名,非*.baidu.com或*.baidu.jp的即冒充的。
3)在macos平台下
在macos平台下可使用dig命令反解ip是不是来自Baiduspider的抓取,打开平台的命令处理器,输入digxxx.xxx.xxx.xxx(IP地址)就能解析ip来判断是不是来自于Baiduspider,Baiduspider的hostname以*.baidu.com或*.baidu.jp的格式命名,非*.baidu.com或*.baidu.jp的即冒充的。
本篇文章发布于大兵SEO博客,为大兵原创内容,如若转载,请注明出处:https://www.zhuzhouren.cn/jianzhanjiaocheng/fuwuqiyunwei/1081.html,否则,禁止转载,谢谢配合!