1、 分析爬取率验证模糊经验理论
分析搜索引擎蜘蛛首先会http://www.yixiin.com/quote/list/3480/考虑的一个参数就是爬取量，一般我们考虑蜘蛛爬取量的单位是以一天为一个时间段，那么我们很多时候考虑的就是一天时间内的爬取率。当然，你也可以根据自己的需要调整时间段的限定，如划分到每个小时，来充分了解各个时间段的蜘蛛的抓取情况，然后针对性的做一些调整。其中我觉得一类分析 可以给我们带来很多的成就感，即对于一些模糊经验理论的验证。
例如我们经常听到这样一句话：“做网站内容的时候要定时定量的更新，培养搜索引擎蜘蛛的抓取习惯，随意的改变更新时间，可能影响蜘蛛对网站内容的抓取”， 这句话到底正确不正确呢?这里就可以运用网站的日志进行分析搜索引擎蜘蛛的抓取率来解释。具体的操作方法就是对一个月内每天每个小时段的蜘蛛抓取情况进行拆分统计(注意数据样本选取的合理性)，然后对每个时间段进行分析，对比就可以发现哪个时间段搜索引擎蜘蛛来的比较勤，再和自己做内容更新的情况进行一个对比就可以很快的得出结论。
2、提高爬取频率提高提升收录
搜索引擎蜘蛛的爬取频率很多时候是由网站内容质量决定的，因为只有网站有更新鲜更好的内容，才能更吸引蜘蛛来反复抓取，例如很多大型的内容型网站，每天更新大量的内容，这样就把蜘蛛一直留在了站内，页面抓取的频率自然会提高。而提升了爬取频率，对于页面中内容和链接的更新就会被搜索引擎蜘蛛更快的抓取到， 能够更充分的收录网站的页面内容信息。
很多朋友都说自己的网站快照不更新，或者滞后好几天，个人觉得也是蜘蛛抓取的频率不够造成的。要想快照更新快，特别是新站，前期一定要多做内容建设，内容页面如果没有内容的更新，一般蜘蛛可能不会抓取收录，或者抓取了但是不返回数据，当下次用户搜索时候可能就会调用搜索引擎数据库中存储的一些数据。
3、研究蜘蛛爬取习惯并优化习惯 http://www.yixiin.com/quote/
至于后面谈到搜索引擎蜘蛛的爬取深度，饱和度，优先爬取，冗余度以及爬取路径都是对于蜘蛛爬取习惯和爬取策略的研究，因为自己也没有针对性的去实践分析，所以只能在理论上谈谈自己的一些想法。