蜘蛛爬取到网站中，二搜索引擎蜘蛛与网站的交互问题搜索引擎技术基础中。通常会去检索一个文本文件Robots.txt通常存放在网站的根目录下。
专门用来同网络蜘蛛交互用的专用文件。这也就是SEOer老是去屏蔽网站页面不想被搜索引擎抓取的原因，一个网站和搜索引擎蜘蛛对话的重要工具，但是蜘蛛是否都遵循站长对其实施的规则呢?其实蜘蛛遵循还是得看蜘蛛出身，素质高的会遵循规则，相反则不遵循。，并将它作为网站的入口文件，这也是蜘蛛与网站的交互方法。http://www.yixiin.com/spread/
对于交互性的SEO手段，解了就可以针对性的做出符合搜索引擎的蜘蛛喜好的网站地图。页面meta字段也是站长经常使用的搜索引擎优化技术，这个字段通常会放在文档的头部，很多站点都只是简单的写个允许百度抓取的字段，正不正确笔者不清楚，SEO其实很多现象都是基于数据分析对比才干得知。meta字段蜘蛛可以在没有读取到全部文档的情况下就了解文档的相关信息，可以防止将无效的网页取下来后又将其废弃而造成无谓的浪费。三搜索引擎蜘蛛对于文件的处置网络蜘蛛也就是搜索引擎蜘蛛，通过链接地址来寻找网页的搜索引擎蜘蛛名称根据搜索引擎都不同。那它原理是由一个启始链接开始抓取网页内容，
同时也采集网页上的链接，并将这些链接作为它下一步抓取的链接地址，如此循环，直到达到某个停止条件后才会停止。停止条件的设定通常是以时间或是数量为依据，可以通过链接的层数来**网络蜘蛛的爬取。同时页面信息的重要性为客观因素决定了蜘蛛对该网站页面的检索。站长工具中的搜索引擎蜘蛛模拟器其实它就是这个原理，准不准确笔者也不清楚。基于这蜘蛛工作原理，站长都会不自然的增加页面关键词出现次数，虽然对密度发生量的变化，但对蜘蛛而言并没达到一定质的变化。这在搜索引擎优化过程中应该要避免的 http://www.yixiin.com/news/
