巧妙使用robots提升网站权重网站权重:搜索引擎对于网站整体表现的一个得分评价
影响网站权重的因素:1、网站内容因素2、服务器因素3、外链因素4、网站结构因素5、网站信用度因素
如果网站产生大量的重复页面则搜索引擎就会认为你的网站不好,权重会降低
大量的404错误也会降低权重
200正常;请求已完成
201正常;紧接POST命令
202正常;已接受用于处理,但处理尚未完成
203正常;部分信息—返回的信息只是一部分
204正常;无响应—已接收请求,但不存在要回送的信息
3xx重定向301已移动—请求的数据具有新的位置且更改是永久的
302已找到—请求的数据临时具有不同URI
303请参阅其它—可在另一URI下找到对请求的响应,且应使用GET方法检索此响应
304未修改—未按预期修改文档
305使用代理—必须通过位置字段中提供的代理来访问请求的资源
306未使用—不再使用;保留此代码以便将来使用
4xx客户机中出现的错误400错误请求—请求中有语法问题,或不能满足请求
401未授权—未授权客户机访问数据
402需要付款—表示计费系统已有效
403禁止—即使有授权也不需要访问
404找不到如果是403的则不要写在robots对用户有用,而对搜索引擎没用的页面需要DisallowRobots文件是搜索引擎访问网站时第一个要读取的文件,它告诉搜索程序服务器上哪些内容可以抓取,哪些不用抓取
目前网站的robots文件里面的抓取规则已经日趋完善,比如禁止了网页中图片的抓取,禁止蜘蛛抓取一些会员隐私(个人简历)页面、一些无用页面(之前的推广页面)、样式表文件等,但是仍然有部分页面并不需要蜘蛛程序的抓取,这部分页面只是面向用户的,搜索引擎抓取了并没有什么意义,瓜分了页面的权重
一、网站的404页面每个网站都存在一些错误页面,404页面的存在就是为了当用户访问了错误页面的时候能够将用户引导