robots协议完全屏蔽蜘蛛爬取会怎样?

时间:2022-09-17

robots协议完全屏蔽蜘蛛爬取会怎样?可能很多伙伴都有这些疑问。

屏蔽掉所有蜘蛛后,蜘蛛还会来爬取吗?

屏蔽掉所有蜘蛛后,网站会降权吗?

屏蔽掉所有蜘蛛后,网站还有排名?

robots屏蔽所有蜘蛛爬取的写法:

User-agent:

Disallow:/

下面思齐seo来说一下相关问题的解答:

屏蔽掉所有蜘蛛后,蜘蛛还会来爬取吗?

解答:是会的,robots只能屏蔽掉自动到本网站进行爬取的蜘蛛,如果你的某个页面在站外其他地方有留下外链的话,蜘蛛还是通过外链访问某个页面。并且百度并不一定能百分百遵守这个robots协议,还是会存在一些误差,导致蜘蛛依然来爬取。

屏蔽掉所有蜘蛛后,网站会降权吗?

解答:短期内是不会的,短期内,百度数据库内还会有缓存数据,当过段时间你开放蜘蛛爬取后,蜘蛛就会正常进行爬取,已收录的页面还会存在。

屏蔽掉所有蜘蛛后,网站还有排名?

解答:短期内排名是不会掉的,就和上面不会降权的解答一样。但是如果长期屏蔽的话,会造成百度或其他搜索引擎不知道当前网站的具体情况,如:有更新或者有删除页面等情况的发生,久了就会被其他长期更新的优质网站所超越,自然排名就会下降。

小提示:当我们在网站备案的时候可以把蜘蛛完全屏蔽,备案完成后再开放是可以的。




网站地图