禁止百度抓取的指定的几个动态页面。怎么设置?
比如以下页面 不让抓取
http://www.x.cn/do/showsp.php?fid=95&id=515
http://www.x.cn/do/showsp.php?fid=13&id=101
http://www.x.cn/topic/13/389.html
http://www.x.cn/member/info.php?job=edit
[解决办法]
1、编辑robots.txt文件,设计标记为:
User-agent: Baiduspider
Disallow: /
2、在网站首页代码<head>与</head>之间,加入<meta name="Baiduspider" content="noarchive">即可禁止百度搜索引擎抓取网站并显示网页快照。
3:参考一下资料 百度自己的提供的屏蔽方法
http://help.baidu.com/question?prod_en=search&class=%BD%FB%D6%B9%CB%D1%CB%F7%D2%FD%C7%E6%CA%D5%C2%BC%B5%C4%B7%BD%B7%A8
http://forum.zhongsou.net/37/20120817/6376375.html