·设为首页收藏本站📧邮箱修改🎁免费下载专区💎积分✅卡密📒收藏夹👽聊天室
12下一页
返回列表 发布新帖

如果网站没有robots.txt,搜索引擎是怎么处理的?

232 10
发表于 2022-4-27 13:55:00 | 查看全部 阅读模式

马上注册,免费下载更多dz插件网资源。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
如果网站没有生成robots.txt,搜索引擎默认是怎么处理的?
我要说一句 收起回复
创宇盾启航版免费网站防御网站加速服务

评论10

拾光Lv.8 发表于 2022-4-27 13:55:13 | 查看全部
当没任何屏蔽啊
我要说一句 收起回复
婷姐Lv.8 发表于 2022-4-27 13:56:01 | 查看全部
该咋样还咋样啊
我要说一句 收起回复
婷姐Lv.8 发表于 2022-4-27 13:56:39 | 查看全部
站点任何结构都去抓取。
我要说一句 收起回复
婷姐Lv.8 发表于 2022-4-27 13:57:29 | 查看全部
没有生成robots.txt,不是默认全部开放吗
我要说一句 收起回复
IT618发布Lv.8 发表于 2022-4-27 13:57:56 | 查看全部
默认全部开放。
我要说一句 收起回复
独家记忆Lv.8 发表于 2022-4-27 13:58:51 | 查看全部
百度:你的网站弄不弄robots.txt有区别吗?你看劳资会来抓么
我要说一句 收起回复
IT618发布Lv.8 发表于 2022-4-27 13:59:49 | 查看全部
你有误解  你做了限制  百度照样会去爬
我要说一句 收起回复
TyCodingLv.8 发表于 2022-4-27 14:00:00 | 查看全部
就是这个网站内容,全部都会抓取
我要说一句 收起回复
IT618发布Lv.8 发表于 2022-4-27 14:00:59 | 查看全部
默认全开。百度会认为可以爬所有它发现的链接
我要说一句 收起回复

回复

 懒得打字嘛,点击右侧快捷回复【查看最新发布】   【应用商城享更多资源】
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

创宇盾启航版免费网站防御网站加速服务
投诉/建议联系

discuzaddons@vip.qq.com

未经授权禁止转载,复制和建立镜像,
如有违反,按照公告处理!!!
  • 联系QQ客服
  • 添加微信客服

联系DZ插件网微信客服|最近更新|Archiver|手机版|小黑屋|DZ插件网! ( 鄂ICP备20010621号-1 )|网站地图 知道创宇云防御

您的IP:18.222.67.8,GMT+8, 2024-12-24 21:23 , Processed in 0.376600 second(s), 130 queries , Gzip On, Redis On.

Powered by Discuz! X5.0 Licensed

© 2001-2024 Discuz! Team.

关灯 在本版发帖
扫一扫添加微信客服
QQ客服返回顶部
快速回复 返回顶部 返回列表