249045439
网站优化

怎么样限制蜘蛛的抓取量 而不影响网站优化成效

发表日期:2023-09-19   作者来源:www.oveisi.com   浏览:0   标签:    

网站倘若使用的是虚拟空间,那样都会有肯定的流量限制,假如大多数的流量都被蜘蛛所占据,那样大家就需要额外花费一些钱去购买流量了。那样倘若一个网站不少流量都是蜘蛛抓取所浪费的,有什么方法和办法可以限制而不影响网站优化成效呢?焦大觉得,大家可以使用以下几种方法怎么样限制蜘蛛的抓取量 而不影响网站优化成效点击左下角的开始-运行-CMD-输入命令nslookup ip 回车就能看到结果了。若是真的搜索蜘蛛都有一个蜘蛛标记,而假的蜘蛛却没标记。

2,屏蔽无效的蜘蛛或对网站优化成效小的搜索蜘蛛。譬如大家了解Google蜘蛛是抓取量很大,但对于不少行业来讲Google的流量非常低,网站优化成效并不好,因此可以进行屏蔽Google蜘蛛的抓取而节省很多的流量,比如漂亮说网站就屏蔽了Google蜘蛛的抓取。除去Google以外,还有一些蜘蛛譬如的盘古搜索、bing蜘蛛等,这类流量都很低的,或者几乎没太大用途的蜘蛛其实都可以屏蔽掉。

3,用robots限制无效页面或重复页面的抓取。有一些页面可能以前存在但目前没了,或者是存在动态与静态的URL一块存在,因为存在反向链接或数据库内有如此的链接,蜘蛛仍旧会不时进行抓取,大家可以找出返回404页面的URL,把这类URL都给屏蔽掉,如此既提升了抓取屏蔽也降低了流量浪费。

4,限制页面的抓取内容来提升抓取效率与抓取速度,降低抓取流量。对于任何一个页面来讲,都有不少无效的噪音区,譬如一个网站的登录、注册部分、最下面的版权信息和一些帮助兴的链接导航等,或一些模板上存在一些没办法被蜘蛛辨别的展示模块等,这类大家都可以使用加Noffollow标签或ajax、JS等办法进行限制或屏蔽抓取,降低抓取量。

5,外部调用或cdn加速来提升蜘蛛的抓取,降低服务器的响应和流量浪费。现在的网站大多使用很多的图片、视频等多媒体来展示,而这类图片缺需要较多的下载流量,假如大家把图片使用外部调用的方法,那样就能节省很多的蜘蛛抓取流量。现在最好的办法有把图片放在其他的服务器或上传到一些网盘上都可以。

6,借助站长工具限制或提升蜘蛛的抓取,或者限制蜘蛛抓取的时间。现在百度站长平台和Google站长平台都有站长抓取的工具,可以用来限制蜘蛛抓取的时间和抓取量,大家可以参考需要进行合理调配,达到最好的成效。

以上就是焦大概要的怎么样提升蜘蛛抓取效率、减少抓取量的一些办法,当然在实质中大家也可以参考自己实质需要来解决,譬如可以对一些抓取量过大的栏目在sitemap设置较低的抓取频率、对一些要紧的内容假如网站收录不好的话也可以增加外部链接或内部链接来提升抓取等,办法是死的,大家可以参考具体的续期去进行合理化的设置,来达到更少的抓取而更高的抓取效率。

如没特殊注明,文章均为龙源技术网 原创,转载请注明来自http://www.yanlongwu.com/news/youhua/3128.html