怎样查看网站服务器是否阻挡搜索蜘蛛

来源:百度知道 编辑:UC知道 时间:2024/05/14 12:03:20
买了一个虚拟空间建站 怎样查看网站服务器是否阻挡搜索蜘蛛
我的意思是:服务器是否可以屏蔽搜索蜘蛛,或者服务器的不良设置会影响到蜘蛛抓取网站内容。

一般的网站是没有这个设置的,查看网站的robots.txt文件就可以了。
淘宝的就是全面屏蔽百度的。

--------------------
一般服务器不能,只有在网站里面设置才可以的。再说这样的服务器谁要啊。

阻挡蜘蛛的唯一方法是根目录下面的robots.txt文件,你看看你根目录下有没有,没有的话就是没有禁止,有的话,看看禁止了哪些目录。