·设为首页收藏本站📧邮箱修改🎁免费下载专区💎积分✅卡密📒收藏夹👽聊天室
12下一页
返回列表 发布新帖

蜘蛛只抓robots.txt但是不抓首页与内页是什么问题?

300 11
发表于 2022-5-29 18:37:30 | 查看全部 阅读模式

马上注册,免费下载更多dz插件网资源。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
蜘蛛只抓robots.txt但是不抓首页与内页是什么问题? 蜘蛛,robots,txt,但是,首页
知道的大佬求指教谢谢
我要说一句 收起回复
创宇盾启航版免费网站防御网站加速服务

评论11

独家记忆Lv.8 发表于 2022-5-29 18:38:17 | 查看全部
坐等大佬回答
我要说一句 收起回复
CrystαlLv.8 发表于 2022-5-29 18:38:30 | 查看全部
你还是看一下Ip是不是真的
我要说一句 收起回复
IT618发布Lv.8 发表于 2022-5-29 18:38:44 | 查看全部
IP是真的
我要说一句 收起回复
拾光Lv.8 发表于 2022-5-29 18:38:53 | 查看全部
会先抓robots.txt文件,后面才会抓网站内容
我要说一句 收起回复
独家记忆Lv.8 发表于 2022-5-29 18:39:28 | 查看全部
但是一直不抓 几个月了
我要说一句 收起回复
拾光Lv.8 发表于 2022-5-29 18:40:24 | 查看全部
没有掉大的吗
我要说一句 收起回复
独家记忆Lv.8 发表于 2022-5-29 18:40:30 | 查看全部
那你把robots地址301去首页不就完事了
我要说一句 收起回复
婷姐Lv.8 发表于 2022-5-29 18:41:21 | 查看全部
没用啊 那样就都限制了
我要说一句 收起回复
婷姐Lv.8 发表于 2022-5-29 18:41:57 | 查看全部
把网站地图放robots上
我要说一句 收起回复

回复

 懒得打字嘛,点击右侧快捷回复【查看最新发布】   【应用商城享更多资源】
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

创宇盾启航版免费网站防御网站加速服务
投诉/建议联系

discuzaddons@vip.qq.com

未经授权禁止转载,复制和建立镜像,
如有违反,按照公告处理!!!
  • 联系QQ客服
  • 添加微信客服

联系DZ插件网微信客服|最近更新|Archiver|手机版|小黑屋|DZ插件网! ( 鄂ICP备20010621号-1 )|网站地图 知道创宇云防御

您的IP:18.191.205.149,GMT+8, 2024-12-22 22:34 , Processed in 0.571695 second(s), 130 queries , Gzip On, Redis On.

Powered by Discuz! X5.0 Licensed

© 2001-2024 Discuz! Team.

关灯 在本版发帖
扫一扫添加微信客服
QQ客服返回顶部
快速回复 返回顶部 返回列表