robots.txt是你对搜索引擎制定的一个如何索引你的网站的规则。通过该文件，搜索引擎就可以知道在你的网站中哪些文件是可以被索引的，哪些文件是被拒绝索引的，我们就可以很方便地控制搜索索引网站内容了。
一般网站查看robots.txt文件的方法是主页后面加robots.txt就可以，比如淘宝网的就是http://www.taobao.com/robots.txt。请注意，仅当你的网站包含不希望被搜索引擎收录的内容时，才需要使用robots.txt文件。如果你希望搜索引擎收录网站上所有内容，就不要建立robots.txt文件。
微信号：moonseo_net
