通常做网站的目标就是让搜索引擎收录，扩大推广面，但是如果你的网站涉及个人隐私或者机密性非公开的网页而需要禁止搜索引擎收录抓取的话，该如何操作呢？比如淘宝网就是禁止搜索引擎收录的一个例子，本文将教你几种做法来实现屏蔽或禁止搜索引擎收录抓取网站的内容。
搜索引擎蜘蛛不断爬行互联网，如果我们网站没有做出禁止搜索引擎收录的操作，很容易就会被搜索引擎收录。那么下面介绍一下怎么样禁止搜索引擎收录网站内容。
第一种、robots.txt方法
搜索引擎默认的遵守robots.txt协议(不排除某些耍流氓的引擎)，创建robots.txt文本文件放至网站根目录下，编辑代码如下:
User-agent: *
