注册账号
登录
论坛
搜索
帮助
导航
私人消息 (0)
公共消息 (0)
论坛任务 (0)
系统消息 (0)
好友消息 (0)
帖子消息 (0)
用户交流中心
»
搜索引擎研究
» robots.txt是什么?怎么书写?
测试版下载
推广小助手视频教程
客服中心
正式版在线购买
 
1
2
返回列表
发帖
发短消息
加为好友
liyiweb
当前离线
正式版用户
帖子
4
精华
0
金币
17
注册推广
0
阅读权限
100
在线时间
0 小时
注册时间
2010-9-17
最后登录
2012-5-14
16
楼
跳转到
»
liyiweb
发表于 2010-9-17 09:20
|
只看该作者
支持下 !!!!!!!!!!
TOP
发短消息
加为好友
1597541708
当前离线
新手上路
帖子
3
精华
0
金币
13
注册推广
0
阅读权限
10
在线时间
1 小时
注册时间
2010-9-20
最后登录
2011-4-2
17
楼
1597541708
发表于 2010-9-20 15:29
|
只看该作者
楼主:
禁止抓取 html 目录下,所有子文件夹里的,所有asp 格式文件,是这么写的吗?
怎么我设了,蜘蛛还老是抓asp文件?(因为我在IIS日志里看到,蜘蛛抓取html 文件夹下的asp文件报错,所以想禁止它抓取此格式的文件)
Disallow: /html/*.asp
TOP
发短消息
加为好友
249954608
当前离线
注册会员
帖子
73
精华
0
金币
153
注册推广
0
阅读权限
20
在线时间
5 小时
注册时间
2011-3-27
最后登录
2011-5-15
18
楼
249954608
发表于 2011-3-30 17:29
|
只看该作者
嗯 认真学习了一下
TOP
 
1
2
返回列表
用户广告区
用户案例
影音
软文推广专区
官方公告
使用交流
实用小软件
新手报到
软件咨询
SEO技巧
[收藏此主题]
[关注此主题的新回复]
[通过 QQ、MSN 分享给朋友]