8年网站建设、推广经验!服务客户2000+
微信关注
扫一扫,享优惠!
咨询电话:400-888-2014;座机:029-81627176;手机/微信:153 5370 4270
建站百科

您现在的位置:主页 > 心海资讯 > 建站百科 >

  • 推荐文章
  • Q0303西安休闲农庄企业网
    西安休闲农庄公司网站建设......
    201204/29
  • 如何屏蔽优酷视频广告
    在地址栏输入这个地址:C:\Windows\System32\drivers\etc 然后按下回车,站到该文件夹 在该文件夹下找到hosts文件,双击它,用txt记事本打开 在打开的记事本的最后面,输入......
    201801/09
  • q0043机械有限公司
    q0043机械有限公司 关键词:绿色机械公司企业网站模板 西安市某某机械有限公司位于京津走廊---河北省西安市,具有得天独厚的地理优势。多年来我公司一直致力于便携式地钻的......
    201203/23
  • 西安心海建站谈网络营销
    西安心海建站谈网络营销的成败 西安心海建站经过多年的努力终于得到的成功,在今天的社会环境下,很多公司在不断的建立,也有很多公司在不断的倒下。下面就有西安网站建设......
    201305/16
  • 手机网站建设对企业有哪
    手机网站建设的优势: 1、手机网站因为非常适合手机上浏览,一个你可以获得更多的客服的青睐,抢占更多的市场先机; 2、手机网站是未来的发展趋势,你提前做好了手机网站就......
    201411/12
  • 网站建设六步走
    现在想做网站的人很多,想做站长的人也很多,不仅企业要做网站,个人也要做网站。西安做网站心海建站认为:网站不是说建就能建好的,不是注册一个域名,做好几个页面,租用......
    201211/29
  • 相关文章
  • 西安网站建设业务流程
    网站建设业务流程: 客户提出需求: 客户通过电话、电子邮件或在线订单方式提出自己网站建设方面的基本需求。 涉及内容包括: 1、公司介绍 2、栏目描述 3、网站......
    201705/03
  • 做网站一年做总结网站建设行业的一些教训
    2012年8月,开始正式操作西安网站建设,和小丽一起把心海网络一点点做起来,到几年十月,积累客户140多个,算是不小的收获了,这一年多,总结了很多教训: 1、客......
    201310/10
  • 2013年2月份IDC排行榜
    作为网站建设行业的,我觉得有必要了解最新的idc行业动态,以便更好的为企业服务! 中国IDC评述网03月04日报道:据IDC评述网最新数据显示,2013年2月份,全国IDC......
    201305/24
  • 西安网站建设对于企业选购网站空间的几点见解
    西安网站建设对于企业选购网站空间的几点见解......
    201208/13

网站建设robots的书写规范

心海网络:2015-01-19 15:26     阅读数:
1、Sitemap: http://www.***.com/sitemap.xml
(此处请填写XML地图的绝对路径,即完整URL,如果按习惯填写Sitemap: /sitemap.xml,提交后会提示:检测到无效的 Sitemap 网址;语法错误。

2. 如果你的网站是动态网页,并且你为这些动态网页创建了静态副本,以供搜索蜘蛛更容易抓取。那么你需要在robots.txt文件里设置避免动态网页被蜘蛛索引,以保证这些网页不会被视为含重复内容。

3,"User-agent:*"这样的记录只能有一条
Disallow:   该项的值用于描述不希望被访问的一组URL,这个值可以是一条完整的路径,也可以是路径的非空前缀,以Disallow项的值开头的URL不会被robot访问。例如"Disallow:/help"禁止robot访问/help.html、/helpabc.html、/help/index.html,而"Disallow:/help/"则允许robot访问/help.html、/helpabc.html,不能访问/help/index.html。"Disallow:"说明允许robot访问该网站的所有url,在"/robots.txt"文件中,至少要有一条Disallow记录。如果"/robots.txt"不存在或者为空文件,则对于所有的搜索引擎robot,该网站都是开放的。


4、一个网站的所有URL默认是Allow的,所以Allow通常与Disallow搭配使用,实现允许访问一部分网页同时禁止访问其它所有URL的功能。
需要特别注意的是Disallow与Allow行的顺序是有意义的,robot会根据第一个匹配成功的Allow或Disallow行确定是否访问某个URL。

 "$" 匹配行结束符。   "*" 匹配0或多个任意字符。
在线客服
热线电话
400-888-2014
029-81627176
153 5370 4270

扫一扫微信咨询