⑴ 如何屏蔽网站蜘蛛的访问
我的网站建好后什么结构与内容都没有确定好之前，我怎么去屏蔽搜索引擎蜘蛛不来访问我的网站，不收录我的网站，这样才不会给我的网站造成损失，其实这样的问题再网络也有很多种回答，可能是由于答案太多太乱的缘故，有很多的人都找不到比较权威的回答，前面我们在文章里讲到一些新手SEO推广建站需注意的问题里面没有讲到关于屏蔽蜘蛛的这一项，现在为大家介绍一下，总体的给大家归纳一下吧！在这里给大家介绍两种方法，如下：一、创建robots.txt文件，并将文件放置在网站根目录。 文件的内容如下： 1、禁止所有搜索引擎访问网站的任何部分 User-agent: * Disallow: / 大家知道为什么要创建一个robots.txt的文件吗，也许有很多的都知道建立这个文件就可以屏蔽蜘蛛的访问，不让搜索引擎抓取到自己的网站。在这里我想告诉你的是，不管任何的搜索引擎他来到了你的网站。首先访问的就是你的robots.txt日志文件，当你在robots.txt里设置权限不让搜索引擎访问，那么蜘蛛也会遵守互联网的协议进行返回，这就是为什么我们要建立robots.txt文析的原因。 二、在模版的header.php的文件时添加一段代码，因为蜘蛛来到你的网站是由上到下访问的，所以刚开始访问到的肯定是从header<顶部>开始抓取。所以如果我们在顶部里设置好屏蔽蜘蛛的访问代码后，蜘蛛也会跟第一条一样遵守协议返回。屏蔽蜘蛛访问代码如下：<meta name=”Robots” content=”noindex,nofollow”> 通过以上两种方法的话，我们基本上可以屏蔽搜索引擎蜘蛛访问到我们的网站，这样我们就可以去安心的做好网站的结构与内容之后再开放蜘蛛的访问。
⑵ 怎样防止蜘蛛
把蜘蛛网弄掉 避免是很难的 除非把你房间密封了 家里碰到蜘蛛一般都是无毒的 你只要想着你不招惹他 他也就不会招惹你就行了 这个和蜜蜂是一样的 没什么好怕的 防止蜘蛛的话就可以用纱网 在门 窗户上面都装一下就行了 蜘蛛还可以防蚊子 就是蜘蛛网弄久了有点烦人 也没什么
⑶ 网站如何被蜘蛛抓取并取得较好排名的优化技
1.网站及页面权重。
这个肯定是首要的了，权重高、资格老、有权威的网站蜘蛛是肯定特殊对待的，这样的网站抓取的频率非常高，而且大家知道搜索引擎蜘蛛为了保证高效，对于网站不是所有页面都会抓取的，而网站权重越高被爬行的深度也会比较高，相应能被抓取的页面也会变多，这样能被收录的页面也会变多。
2.网站服务器。
网站服务器是网站的基石，网站服务器如果长时间打不开，那么这相当与你闭门谢客，蜘蛛想来也来不了。网络蜘蛛也是网站的一个访客，如果你服务器不稳定或是比较卡，蜘蛛每次来抓取都比较艰难，并且有的时候一个页面只能抓取到一部分，这样久而久之，网络蜘蛛的体验越来越差，对你网站的评分也会越来越低，自然会影响对你网站的抓取，所以选择空间服务器一定要舍得，没有一个好的地基，再好的房子也会跨。
3.网站的更新频率。
蜘蛛每次爬行都会把页面数据存储起来。如果第二次爬行发现页面与第一次收录的完全一样，说明页面没有更新，蜘蛛也就没有必要经常抓取了。页面内容经常更新，蜘蛛就会更加频繁的访问页面，但是蜘蛛不是你一个人的，不可能就在这蹲着等你更新，所以我们要主动向蜘蛛示好，有规律的进行文章更新，这样蜘蛛就会根据你的规律有效的过来抓取，不仅让你的更新文章能更快的抓取到，而且也不会造成蜘蛛经常性的白跑一趟。
4.文章的原创性。
优质的原创内容对于网络蜘蛛的诱惑力是非常巨大的，蜘蛛存在的目的就是寻找新东西，所以网站更新的文章不要采集、也不要每天都是转载，我们需要给蜘蛛真正有价值的原创内容，蜘蛛能得到喜欢的，自然会对你的网站产生好感，经常性的过来觅食。
5.扁平化网站结构。
蜘蛛抓取也是有自己的线路的，在之前你就给他铺好路，网站结构不要过于复杂，链接层次不要太深，如果链接层次太深，后面的页面很难被蜘蛛抓取到。
6.网站程序。
在网站程序之中，有很多程序可以制造出大量的重复页面，这个页面一般都是通过参数来实现的，当一个页面对应了很多URL的时候，就会造成网站内容重复，可能造成网站被降权，这样就会严重影响到蜘蛛的抓取，所以程序上一定要保证一个页面只有一个URL，如果已经产生，尽量通过301重定向、Canonical标签或者robots进行处理，保证只有一个标准URL被蜘蛛抓取。
7.外链建设。
大家都知道，外链可以为网站引来蜘蛛，特别是在新站的时候，网站不是很成熟，蜘蛛来访较少，外链可以增加网站页面在蜘蛛面前的曝光度，防止蜘蛛找不到页面。在外链建设过程中需要注意外链的质量，别为了省事做一些没用的东西，网络现在对于外链的管理相信大家都知道，我就不多说了，不要好心办坏事了。
8.内链建设。
蜘蛛的爬行是跟着链接走的，所以内链的合理优化可以要蜘蛛抓取到更多的页面，促进网站的收录。内链建设过程中要给用户合理推荐，除了在文章中增加锚文本之外，可以设置相关推荐，热门文章，更多喜欢之类的栏目，这是很多网站都在利用的，可以让蜘蛛抓取更大范围的页面。
9.首页推荐。
首页是蜘蛛来访次数最多的页面，也是网站权重最高的页面，可以在首页设置更新版块，这样不仅能让首页更新起来，促进蜘蛛的来访频率，而且可以促进更新页的抓取收录。同理在栏目页也可以进行此操作。
10.检查死链，设置404页面
搜索引擎蜘蛛是通过链接来爬行搜索，如果太多链接无法到达，不但收录页面数量会减少，而且你的网站在搜索引擎中的权重会大大降低。蜘蛛在遇见死链就像进了死胡同，又得折返重新来过，大大降低蜘蛛在网站的抓取效率，所以一定要定期排查网站的死链，向搜索引擎提交，同时要做好网站的404页面，告诉搜索引擎错误页面。
11.检查robots文件
很多网站有意无意的直接在robots文件屏蔽了网络或网站部分页面，却整天在找原因为什么蜘蛛不来抓取我的页面，这能怪网络吗?你都不让别人进门了，网络是怎么收录你的网页?所以有必要时常去检查一下网站robots文件是否正常。
12.建设网站地图。
搜索引擎蜘蛛非常喜欢网站地图，网站地图是一个网站所有链接的容器。很多网站的链接层次比较深，蜘蛛很难抓取到，网站地图可以方便搜索引擎蜘蛛抓取网站页面，通过抓取网站页面，清晰了解网站的架构，所以建设一个网站地图不仅提高抓取率还能获得蜘蛛好感。
13.主动提交
每次更新完页面，主动把内容向搜索引擎提交一下也是一个不错的办法，只不过不要没收录就一直去提交，提交一次就够了，收不收录是搜索引擎的事，提交不代表就要收录。
14.监测蜘蛛的爬行。
利用网站日志监测蜘蛛正在抓取哪些页面、抓取过哪些页面，还可以利用站长工具对蜘蛛的爬行速度进行查看，合理分配资源，以达到更高的抓取速度和勾引更多的蜘蛛。
⑷ 怎么防蜘蛛
蜘蛛是害虫的天敌，我是不建议你消灭他们的，因为蜘蛛喜欢捕食新鲜肉食，对家庭中的苍蝇，蚊子有很大的控制作用。
如果真的要消灭他们，
1，可以用扫把等把他们的网破坏掉；
2，可以使用毒性很低的石灰水喷洒地面和角落，过几天再扫除掉；
3，如果是城市就不说了，如果是在农村，可以把秸秆在植株经常出没的地方扎成一捆，诱集他们钻进去白天栖息，然后集中烧掉；
4，可以焚烧艾叶，蚊香等驱避它们；
5，可以选择对人畜低毒的三氯杀螨醇喷洒。
⑸ 如何阻止坏蜘蛛机器人采集网站数据
1、在robot.txt进行设置阻止(这招只能防君子,不能防小人)
在robot.txt中进行设置阻止某些特定页面,然后在访问页面中增加这些特定页面的链接,然后hidden掉,如果有人访问到了这个页面, 直接封ip(优点是防止了一些垃圾搜索引擎的蜘蛛,但是对国内火车头之类的这种按规则抓取的蜘蛛还是没办法阻止)
在apache端进行访问日志记录, 对某段时间内访问频率太高,超过某个限额的直接封ip(问题是要是有的人在找某个笑话,到处翻页,到处找,估计频率也会高,会造成正常人访问不了, 或者不小心就把Bai和Google干掉了)
修改页面的标签,css, 随机在页面内容显示排版中用不同的模板,或者不同的html标签, 造成写智能抓取的蜘蛛规则的人很辛苦,导致采集不顺利.(到是一个办法,不过似乎维护成本太高了, 而且如果是根据标签在html document中的顺序和次序来抓取的话,这个办法也是没用效果的)
在内容中加在自己网站的网址,或者广告之类的.(对一些菜鸟写蜘蛛的人能防止,但是对于高手还不是一样的可以把这些广告过滤掉)
用js加密内容(防止了抓取,但是这样就会导致所有的蜘蛛机器人抓取内容都是加密,对搜索引擎优化不好)
全站Flash(同上)
全站Ajax(同上)
... ...
这些方法只能组织正规蜘蛛的访问，不能达到：阻止非人类行为抓取数据，允许指定的搜索引擎任意抓取，允许正常人类任意浏览
那么采用采用什么方法才能真正做到呢?下面的就是了，虽然不能完全阻止，但是很有用：
1、记录用户的访问频率, 然后频率超过某个限制, 弹出页面验证码,用户输入验证码后才可以继续
2、判断来路的搜索引擎是否网络和Google,如果是则不进行访问频率限制.不能通过User-agent来做, 因为User-agent是可以模拟的. 应该通过IP反解来做:
host 66.249.71.6就会得到如下信息
6.71.249.66.in-addr.arpa domain name pointer crawl-66-249-71-6.googlebot.com.
OK, 是Google的蜘蛛, 这个IP可以任意采集了, 注: IP反解析出来的信息是不可以伪造的, 是通过向专门的机构申请得到.
剩下的的问题就是在人类访问太频繁的时候,输入下验证码就可以了。
⑹ 如何禁止蜘蛛抓取动态页面
User-agent: *
其中有些命令是禁止抓取一些不必要的内容，以免防止蜘蛛抓取过度分散，网站权重也不会过于分散，这样有利于网络收录，更有利于让部分内容更得以搜索引擎的重视：
User-agent: *
Disallow: /wp-
Allow: /wp-content/uploads/
Disallow: /feed
Disallow: /*/*/feed
Disallow: /trackback
Disallow: /*/*/trackback
Disallow: /index.php/
Disallow: /*.php$
Disallow: /*.css$
Disallow: /date/
⑺ 怎样防蜘蛛
每种蜘蛛都有毒
就算你放樟脑丸也没用
蜘蛛比较喜欢在角落的地方织网
很简单
防止蜘蛛的方法就是破坏的他的网
当然是定期破坏
拿个扫帚
经常清理墙角就行
不过说句实话
蜘蛛在家是个好事
这样就没蚊子了
仔细想下自己和动物间的关系
其实昆虫是防不胜防的
就像每个人皮肤里面都埋藏了很多蜘蛛的近亲
螨虫一样
包括耳道里面也有
与其赶走了昆虫
它们再来你再赶
搞得烦不胜烦
倒不如对这小东西产生敬佩之情
毕竟昆虫在我们之前的数亿年就已经统一天下了
报着宽容的心去适应它们
欣赏大自然的杰作不是更好的选择吗？
⑻ 如何防止蜘蛛每天在窗口结网
1、这个好像没什么好办法，不过每天清理一次应该会好些。
2、杀虫剂对蜘蛛的伤害不小，可以尝试。
3、养几只黄蜂（一般来说这东西毒性比蜘蛛还大），每天在窗口巡视一圈。
4、不清理，每天会有天然的屏障帮你抵挡蚊虫，而且织网的蜘蛛又不会乱跑去咬人。