重庆分公司,新征程启航
为企业提供网站建设、域名注册、服务器等服务
目前创新互联已为近1000家的企业提供了网站建设、域名、虚拟空间、网站托管、企业网站设计、佳木斯网站维护等服务,公司将坚持客户导向、应用为本的策略,正道将秉承"和谐、参与、激情"的文化,与客户和合作伙伴齐心协力一起成长,共同发展。
成都创新互联公司于2013年成立,先为贡嘎等服务建站,贡嘎等地企业,进行企业商务咨询服务。为贡嘎企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。
蜘蛛的爬行可以通过你空间的IIS日志查看,一般网站的根目录下都有LOG这样的文件夹。日志就保存在里面。不知道你的是不是win的系统,我用过wordpress的一个插件,是可以统计到机器人的访问记录
你好!你去站长之家chinaz那个,你申请管理工具里面的IIS日志分析就可以看到蜘蛛的爬行轨迹了
去 http://www.cnzz.com注册个账号然后拷贝人家给你的代码,放到你需要查看的页面里,就能看到你网站的整个受访情况了!
判断蜘蛛有没有来过自己的网站可以查看IIS日志代码。或者联系空间商开通了蜘蛛访问记录也可以。如果你的空间商给你的空间支持查询蜘蛛访问记录的话。可以在ftp找到WebLog的文件夹,具体步骤e799bee5baa6e997aee7ad94e4b893e5b19e31333332633038如下:1.打开FTP登陆软件(这里以FlashFxp为例),登陆你的空间FTP。登陆进FTP后,你会发现在根目录下有一个WebLog的文件夹(注:不同的IDC空间生成的日志文件目录名称不一样,仅供参考.一般文件夹中包含Log字符的都是日志文件夹)2.打开WebLog目录后,里面有一些以日期格式特征为文件名的.gz后缀结尾的文件.这些就是我们需要下载到本地的日志文件.3.打开压缩文件,发现里面只有一个以.log结尾的日志文件,我们需要的就是这个文件了.4.解压后,打开日志文件.Ctrl+F查找baidu.com/search特征字符(这里以百度蜘蛛为例)通过分析蜘蛛来访纪录,可以了解本站的大体情况,而不用再为百度不放出内页或者不收录的问题而苦恼了.蜘蛛来访正常,可以确切的说,搜索引擎对你的站很友好的,坚持更新自己的网站,会有不错的收录的.注:有些共享IP空间可能不支持日志功能.对于独立ip虚拟主机则提供每天的日志下载.而实在没有可以日志功能的空间可以参考使用蜘蛛爬行插件的一些方法进行分析.
这里介绍通过看日志来了解百度蜘蛛是否来过:很多网站目前使用的都是虚拟空间,都能够提供日志。日志是指在网站根目录下的logfiles文件夹里面日期.txt文本文件。下载到本地,用记事本打开.txt文本,一般百度蜘蛛代码是“baiduspider”,我们可以查找下文档中是否存在“baiduspider”,如果存在,看下里面的代码:2010-04-19 21:06:44 W3SVC725 58.221.29.72 GET /robots.txt - 80 - 220.181.7.14 Baiduspider+(+http://www.baidu.com/search/spider.htm) 200 0 0 305 209。下面我来解释下这段代码:
1、2010-04-19 21:06:44是日期,也就是蜘蛛来的日期和时间了。
2、 GET /robots.txt 访问的页面 get表示获取3、80是端口4、220.181.7.14是蜘蛛的ip地址5、Baiduspider+(+http://www.baidu.com/search/spider.htm)是百度蜘蛛了6、200表示抓取成功。有时会出现其他代码如:404 - 请求的网页不存在;503 - 服务器暂时不可用如果你还想知道有没有其它搜索引擎的蜘蛛来过你的站,你可以在日志文件中搜索“spider”这个词,或者搜索蜘蛛的IP,例如Soso的蜘蛛“sosospider”,可以查看Soso的蜘蛛是否来过。
看日志
查看iis日志 有baidu 字样的就是 百度蜘蛛了
通过查看网站日志,可以了解搜索引擎蜘蛛的访问情况。通过FTP访问网站的根目录。可以看到一个log的文件夹,这是存放日志的地方。可以压缩(日志文件一般很大)后通过下载到本地电脑上解压缩后打开日志文件。
1、网站刚上线,看搜索引擎蜘蛛的抓取情况;如果网站提交给搜索引擎2天后,发现日志里蜘蛛不少,并都返回200,则说明已经可以正常。只是Google展示的时间比较快,而百度则需要20天左右(经验平均值)展示出来。
2、网站异常,对比日志中蜘蛛的行为情况;正常增加时和现在异常时的日志,进行对比分析。如果没有异常,则应该是搜索引擎展示数据库出问题所致。如果蜘蛛爬取量明显减少,是否突然减少很多。如果日志依然,则认为是搜索引擎的展示问题。
3、解决网站被封问题时,日志情况。网站被封时,往往日志里有百度蜘蛛,但很少,而且往往只访问robots.txt文件和首页。经过站长检查修改一切不符合搜索引擎的优化行为后,再将自己网站提交给百度,之后的2天日志情况如果一直只是百度蜘蛛很少光临,而且往往只访问robots.txt文件和首页。这样的情况维持1个月,可以考虑放弃该域名。如果蜘蛛明显增加,而且返回200代码居多,则被百度重新收录的希望很大,只是时间问题,需要站长更加努力。
百度知道来过就会收录你的网站的,很简单的方法,就是你在百度中搜索你网站的名称或者关键词,看是否有你的网站在百度的搜索页中显示
Baiduspider会自动根据服务器的负载能力调节访问密度。在连续访问一段时间后,Baiduspider会暂停一会,以防止增大服务器的访问压力。所以在一般情况下,Baiduspider对您网站的服务器不会造成过大压力。