卢松松博客

百度新版Baiduspider移动ua升级

 人参与 | 时间:2015年05月21日 12:30

百度发布公告:Baiduspider针对移动抓取user agent(以下简称ua)进行了升级,与PC端的抓取ua做到版本统一,均称为Baiduspider/2.0。移动ua和pc ua详情如下:

新版移动ua:

Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;)

AppleWebKit/534.46 (KHTML,like Gecko) Version/5.1 Mobile Safari/10600.6.3

(compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

PC ua:

Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

如果robots封禁agent是Baiduspider,会对PC和移动同时生效。

有些代码适配站点(同一个url,PC ua打开的时候是PC页,移动ua打开的时候是移动页),通过设置robots的agent封禁达到只让移动Baiduspider抓取的目的,但由于 PC和移动Baiduspider的agent都是Baiduspider,所以这种方法不可取。

之前通过“+http://www.baidu.com/search/spider.html”进行识别的网站需要修改识别方式,新的正确的识别Baiduspider移动ua的方法有:

1. 通过关键词“Android”或者“Mobile”来进行识别,判断为移动访问或者抓取。

2. 通过关键词“Baiduspider/2.0”,判断为百度爬虫。

相关阅读:

百度官方:spider抓取过程中的策略

百度:巧用robots避免蜘蛛黑洞

百度:搜索引擎抓取系统概述

百度确认:蜘蛛会抓取纯文本链接的URL

顶: 0踩: 0

来源:,欢迎分享,(QQ/微信:13340454)

必填

选填

选填

◎已有 16 人评论,微信:QQ13340454

1楼逗资源  2016-06-13 09:36:41
我发现你这评论审核严重不准,我提交了几次,都是说:怀疑是垃圾,已经自动删除。。。。。。。我想了下,估计是检测了英文单词过多,所以就被当做垃圾评论了。所以删除了几个useragent,立马就提交审核了,这垃圾评论审核系统真垃圾啊,哈哈
顶: 0踩: 0 回复
2楼长沙广告公司  2015-05-25 14:32:52
希望早点收入把!
顶: 0踩: 0 回复
3楼测厚仪  2015-05-25 08:02:07
爬虫爬虫怎么不来啊
顶: 0踩: 0 回复
4楼西贝博客  2015-05-23 11:56:52
不是那么容易咯
顶: 0踩: 0 回复
5楼HDMI编码器  2015-05-23 09:48:51
百度让我们这些做推广的又爱又恨!
顶: 0踩: 0 回复
6楼无框画批发  2015-05-23 08:59:27
希望可以更好的收录
顶: 0踩: 0 回复
7楼中国竹柳树网  2015-05-22 12:33:28
随潮流而动
顶: 0踩: 0 回复
8楼9.9元包邮  2015-05-22 10:31:26
又是一个新功能啊。
顶: 0踩: 0 回复
9楼问学堂学习资料下载  2015-05-22 08:49:51
各位站长也要与时俱进哦。
顶: 0踩: 0 回复
10楼测厚仪  2015-05-22 07:31:21
百度蜘蛛也升级
顶: 0踩: 0 回复
11楼厨艺中国  2015-05-22 06:28:26
我的网站百度一直没有抓取
顶: 0踩: 0 回复
12楼梅州SEO  2015-05-21 21:39:11
百度蜘蛛也升级??
顶: 0踩: 0 回复
13楼wingsBlog  2015-05-21 20:50:27
不知对自适应站有没有提升
顶: 0踩: 0 回复
14楼献县除尘设备  2015-05-21 18:04:50
百度是中国搜索引擎中的老大
顶: 0踩: 0 回复
15楼九江旅游  2015-05-21 16:17:48
不知道升级后,对收录有没有什么帮助?
顶: 0踩: 1 回复
16楼DW手表  2015-05-21 15:32:49
早早做好自适应,等待百度给排名
顶: 0踩: 0 回复