robots文件可能会影响网站的移动适配-robots文件

有的网站花了大工夫去做移动端适配,反而不被搜索引擎待见,其实这个里面也是有原因的。先来看看事情的经过,站长今天在谷歌移动适配检测中发现了经谷歌检测的网站和我的原网站打开效果不一样,简直是丑陋至极。

robots文件可能会影响网站的移动适配

后来谷歌提醒了是robots.txt这个文件没有给搜索引擎权限。仔细一想,大家的robots.txt不都是有着这么一行吗?

Disallow: /wp-content/这样一来,你的主题文件夹里面的css文件,主题图片,js文件搜索引擎都无法在爬行的时候访问,所以在检测网站移动性适配的时候会显得粗陋不看。

所以,我们需要在robots.txt里面再改一改,以免我们千辛万苦写的自适应反而不能被识别!这里给大家介绍robots.txt的Allow语法规则。用了Allow规则之后,会让路径下的文件可以被搜索引擎爬取。Allow的用法如下:

以下写法,Disallow在前,Allow在后,搜索引擎无法爬取Wildfire主题文件夹。

  1. Disallow: /wp-content/
  2. Allow: /wp-content/themes/Wildfire/

以下写法,Allow在前,Disallow在后,搜索引擎可以爬取Wildfire主题文件夹。

  1. Allow: /wp-content/themes/Wildfire/
  2. Disallow: /wp-content/

所以我们在robots.txt中加上这么一个Allow规则,让主题文件夹可以被抓取,这样就可以让谷歌百度等搜索引擎正确的抓到我们网站的移动样式啦!

推荐阅读