继上次头条搜索暴力爬取网站信息后，华为移动搜索AspiegelBot爬虫近日也被站长发现开始高频抓爬网站信息，就和站长头条差不多。

了解到，这个AspiegelBot爬虫主要模拟安卓机进行抓爬 , UA标识符里也没有标注爬虫所属公司信息，显然不想让人发现，后面有站长深挖才发现这个爬虫属华为搜索旗下的AspiegelBot公司，并且AspiegelBot的爬虫超高频抓取甚至堪比上次的头条爬虫的暴力抓取，很多被爬的一些小网站很多直接瘫痪，开始屏蔽华为搜索AspiegelBot爬虫的访问。

有站长表示： 这次华为移动搜索AspiegelBot爬虫高频爬取跟就和站长头条差不多，也是大量抓取网站信息，一般搜索引擎只有开始大量建立索引库才会这么玩，跟刚上线时的头条搜索一个套路，看来华为搜索也是要准备进场了!

相关阅读：

华为推出华为搜索新业务

搜索引擎这条路，还能走多久?

华为搜索业务国内正式上线

华为推出华为搜索新业务

站长吐槽：头条搜索爬虫暴力抓取网站内容

来源：卢松松博客（QQ/微信：13340454），转载请注明出处！

本文地址：https://lusongsong.com/blog/post/13191.html