写了robots，爬虫没遵守规则是不是可以告他

xiao9469 · 发表于 2022-4-15 13:04:28

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

很多奇奇怪怪的爬虫在爬网站DotBot，MJ***等等，这些叼毛爬虫压根不遵守robots协议

©DZ插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
本站内容为站长个人技术研究记录或网络，不提供用户交互功能，所有内容版权归原作者所有。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
您在本站任何的赞助购买、下载、查阅、回复等行为等均表示接受并同意签订《DZ插件网免责声明协议》。
如有侵权请邮件与我们联系处理: discuzaddons@vip.qq.com 并出示相关证明以便删除。敬请谅解！

Crystαl · 发表于 2022-4-15 13:04:43

作为互联网底层站点去反抗？你怕是想被K

独家记忆 · 发表于 2022-4-15 13:05:18

robots协议是防君子不防小人的，你外部留痕存的话引擎没有第一时间验证robots协议，而是直接抓取了你的留痕url页面也是合理的

独家记忆 · 发表于 2022-4-15 13:05:57

防火墙禁了这几个就行

IT618发布 · 发表于 2022-4-15 13:06:46

直接屏蔽不就行了。

婷姐 · 发表于 2022-4-15 13:07:34

你要先知道你告谁呢？

${:7_164:}$	${:7_165:}$	${:7_166:}$	${:7_167:}$	${:7_168:}$	${:7_169:}$	${:7_170:}$	${:7_171:}$
${:7_172:}$	${:7_173:}$	${:7_174:}$	${:7_175:}$	${:7_176:}$	${:7_177:}$	${:7_178:}$	${:7_179:}$
${:7_180:}$	${:7_181:}$	${:7_182:}$	${:7_183:}$	${:7_184:}$	${:7_185:}$	${:7_186:}$	${:7_187:}$
${:7_188:}$	${:7_189:}$	${:7_190:}$	${:7_191:}$	${:7_192:}$	${:7_193:}$	${:7_194:}$	${:7_195:}$
${:7_196:}$	${:7_197:}$	${:7_198:}$	${:7_199:}$	${:7_200:}$	${:7_201:}$	${:7_202:}$	${:7_203:}$

写了robots，爬虫没遵守规则是不是可以告他

马上注册，免费下载更多dz插件网资源。

相关帖子

电梯直达
评论5

回复

More猜你喜欢

站长推荐 1/1

More猜你喜欢

关于我们

服务支持

discuzaddons@vip.qq.com

写了robots，爬虫没遵守规则是不是可以告他

马上注册，免费下载更多dz插件网资源。

相关帖子

电梯直达 评论5

回复

More猜你喜欢

站长推荐 1/1

More猜你喜欢

关于我们

服务支持

discuzaddons@vip.qq.com

电梯直达
评论5