很多建站系统，在建成网站后，都网站根目录，默认有robots。txt协议文件。在网站优化竞争日益加剧的今天，原本设立之初无优化因素的robots。txt文件也被最大化使用，掌握其写法，有备无患。一：robots。txt〔〕
　　很多建站系统，在建成网站后，都网站根目录，默认有robots。txt协议文件。在网站优化竞争日益加剧的今天，原本设立之初无优化因素的robots。txt文件也被最大化使用，掌握其写法，有备无患。
　　一：robots。txt协议文件有什么用？
　　搜索引擎访问一个网站的时候，最先访问的文件就是robots。txt。她告诉搜索引擎蜘蛛，哪些网站页面可以被抓取，哪些禁止抓取。表面来看，这个功能作用有限。从搜索引擎优化的角度来看，可以通过屏蔽页面，达到集中权重的作用，这，也是优化人员最为看重的地方。
　　以某seo站点为例，其robots。txt文件如图所示：
　　二：网站设置robots。txt的几个原因。
　　1：设置访问权限保护网站安全。
　　2：禁止搜索引擎爬取无效页面，集中权值到主要页面。
　　三：怎么用标准写法书写协议？
　　有几个概念需掌握。
　　Useragent表示定义哪个搜索引擎，如Useragent：Baiduspider，定义百度蜘蛛。
　　Disallow表示禁止访问。
　　Allow表示运行访问。
　　通过以上三个命令，可以组合多种写法，允许哪个搜索引擎访问或禁止哪个页面。
　　四：robots。txt文件放在那里？
　　此文件需放置在网站的根目录，且对字母大小有限制，文件名必须为小写字母。所有的命令第一个字母需大写，其余的小写。且命令之后要有一个英文字符空格。
　　五：哪些时候需要使用该协议。
　　1：无用页面，很多网站都有联系我们，用户协议等页面，这些页面相对于搜索引擎优化来讲，作用不大，此时需要使用Disallow命令禁止这些页面被搜索引擎抓取。
　　2：动态页面，企业类型站点屏蔽动态页面，有利于网站安全。且多个网址访问同一页面，会造成权重分散。因此，一般情况下，屏蔽动态页面，保留静态或伪静态页面。
　　3：网站后台页面，网站后台也可以归类于无用页面，禁止收录有百益而无一害。

家长应多关注孩子们的性感受很多家长们认为对孩子进行性教育是多此一举的事情，这些家长认为他们从小没有人灌输性知识这不是一样长的好好的，许多家长表示孩子对性的理解长大了自然就懂了，不需要父母们涉及其中，更是……男性前列腺炎治疗方法哪个效果最好近日，由一名据称是前列腺炎专家组的科研人员透露，千百年来缠绕男性的前列腺炎顽疾终于找到了彻底根治的治疗方法。此条消息引起医学界骚乱一片，有的人认为这是不可能的，有人则认为现代医……疫情防控期间中小学校线上教育存在的问题新冠肺炎疫情爆发后，各个行业都受到严重影响，为了保证中小学生停课不停学，2月27日，教育部专门下发了《关于深入做好中小学停课不停学工作的通知》。全国各地认真贯彻执行教育部的通知……如何钩织帽子适合初学者在本文中：准备开始钩织帽子5参考从零开始钩织帽子是不错的爱好，既可以省下买帽子的钱，也可以亲手制作礼物送给朋友。如果你是钩织新手，制作完整的帽子也许看起来有点复杂，让人望……为什么说开雷克萨斯的都是渣男每个爱车的心中都有一辆完美的车，但是事实上完美是不存在的。但是这并不妨碍我们追求完美。或者说我们每个人心中都有着各自的完美。我是如何找到自己的完美呢？运动而舒适的IS30……国内最大的活体软珊瑚展馆春节假期又去连岛，听说海洋馆增添了许多活体珊瑚，于是前往观看。连岛海洋馆是一个南连游艇俱乐部，北接大沙湾游乐园的海岛隧道，进入隧道神秘自然解开。走进隧道，水生世界尽呈眼前……比较详细的协议文件写法很多建站系统，在建成网站后，都网站根目录，默认有robots。txt协议文件。在网站优化竞争日益加剧的今天，原本设立之初无优化因素的robots。txt文件也被最大化使用，掌握……万达联手百度腾讯成立电商现场三位大佬说了什么【小编语】29日，万达集团、百度、腾讯在深圳举行战略合作签约仪式，宣布共同出资成立万达电商，目标是打造全球最大的O2O电商平台。万达电商计划一期投资人民币50亿元，万达集团持有……常用网线原来还能这么接水晶头网线也就是双绞线，有四对线，这四对线两两对绞的，分别为橙白橙、绿白绿、蓝白蓝、棕白棕。在网络传输时，网线真正在工作的只有两对线。网卡RJ45口（水晶头）里8个触点其……百宝箱一个软件替代你电脑里的多个软件Cencrack在线工具包，是一个非常实用的工具箱，里面包含了360多个小工具，涵盖电脑应用的各个方面，不要再去下载那么多收费以及广告的软件了，赶紧来下载Cencrack在线工……纯种藏香猪与藏猪的区别藏香猪抗病力极强原标题：纯种藏香猪与藏猪的区别藏香猪是西藏林芝地区的特产。也属于藏猪，是藏猪里面一个优秀的品种，市场上大部分其实都是藏猪，藏猪耳朵要稍大一些，外观多平整或下拉，鬃毛也很长……芋头黑斑病如何防治芋头黑斑病有什么症状？芋头黑斑病发生原因是什么？芋头黑斑病用什么农药可以防治？以下中国三农网就作简单介绍，供网友们参考。一、芋头黑斑病症状及危害黑斑病是芋的一种常见病害。……