robots.txt
robots.txt写法
robots.txt写法
robots.txt是一个协议,而不是一个命令。robots.txt是搜索引擎中访问网站的时候要查看的第一个文件。robots.txt文件告诉蜘蛛程序在服务器上什么文件是可以被查看的。
当一个搜索蜘蛛访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,所有的搜索蜘蛛将能够访问网站上所有没有被口令保护的页面。百度官方建议,仅当您的网站包含不希望被搜索引擎收录的内容时,才需要使用robots.txt文件。如果您希望搜索引擎收录网站上所有内容,请勿建立robots.txt文件。
robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。
语法:最简单的 robots.txt 文件使用两条规则:
· User-Agent: 适用下列规则的漫游器
· Disallow: 要拦截的网页
如果其他网站链接了您robots.txt文件中设置的禁止收录的网页,那么这些网页仍然可能会出现在百度的搜索结果中,但您的网页上的内容不会被抓取、建入索引和显示,百度搜索结果中展示的仅是其他网站对您相关网页的描述。
robots.txt在SEO中作用
在进行网站优化的时候,经常会使用robots文件把一些内容不想让蜘蛛抓取,以前写过一篇网站优化robots.txt文件的运用, 现在写这篇文章在补充一点点知识!什么是robots.txt文件?
搜索引擎通过一种爬虫spider程序(又称搜索蜘蛛、robot、搜索机器人等),自动搜集互联网上的网页并获取相关信息。
鉴于网络安全与隐私的考虑,搜索引擎遵循robots.txt协议。通过根目录中创建的纯文本文件robots.txt,网站可以声明不想被robots访问的部分。每个网站都可以自主控制网站是否愿意被搜索引擎收录,或者指定搜索引擎只收录指定的内容。当一个搜索引擎的爬虫访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果该文件不存在,那么爬虫就沿着链接抓取,如果存在,爬虫就会按照该文件中的内容来确定访问的范围。
robots.txt必须放置在一个站点的根目录下,而且文件名必须全部小写。robots.txt文件的格式
User-agent: 定义搜索引擎的类型
Disallow: 定义禁止搜索引擎收录的地址
Allow: 定义允许搜索引擎收录的地址
我们常用的搜索引擎类型有: (User-agent区分大小写)
google蜘蛛:Googlebot
百度蜘蛛:Baiduspider
yahoo蜘蛛:Yahoo!slurp
alexa蜘蛛:ia_archiver
bing蜘蛛:MSNbot
altavista蜘蛛:scooter
lycos蜘蛛:lycos_spider_(t-rex)
alltheweb蜘蛛:fast-web
Unit 1 Will people have robots知识点讲解及其练习(好资料)_初二英语_英语_初中教育_教育专区。知识点讲解Unit 1 Will people have robots? 知识点: 知识点:...
【语法讲解】 Unit 2 R... 暂无评价 2页 免费 robots语法 2页 免费 Unit...robots.txt 是搜索引擎中访问网站的时候要查看的第一个文件。 Robots.txt 文件...
知识点讲解与练习_初三英语_英语_初中教育_教育专区。Unit 1 Will people have robots 知识点讲解与练习 一、alone adj. &adv. 与 lonely 1. =by oneself ...
人教版八年级上册Unit7 Will people have robots知识讲解及单元检测(含答案)_政史地_初中教育_教育专区。人教版八年级上册 Unit7 Will people have robots? ...
新课标选修七Unit2-robots 单词讲解_高三英语_英语_高中教育_教育专区。自己整理的全单元单词讲解Desire n. 渴望 渴望得到/ 1). A desire for sth /to do ...
forget to do sth 忘记去做某事 forget doing sth 忘记做了某事 三、重难点讲解 考点 1 Do you think there will be robots in people's homes? 1. Do ...
※※※题※※※线※※※ 新目标英语八年级下册 Unit1 Will people have robots?讲解与练习 班级 姓名重点词组及句型: 1. There will be sth.= There is /...
Unit_1___Will_people_have__robots知识点讲解及其练习(好资料)_英语_初中教育_教育专区。Unit 1 Will people have robots? 知识点: 需要背诵的是:第 6 页...
Unit 7 Will people have robots Section A 知识讲解_英语_初中教育_教育专区。Unit 7 Will people have robots? Section A 知识讲解 一.paper 1. n. “纸...
热门文档