去评论
dz插件网

亲自实测@蔷薇花 的设置效果做个总结吧

婷姐
2023/02/27 16:53:37

(.*)Scrapy(.*) //PY写爬出必备头
(.*)SemrushBot(.*)  //垃圾蜘蛛
(.*)AhrefsBot(.*)  //外链爬取
(.*)Applebot(.*) //苹果蜘蛛
(.*)AspiegelBot(.*) //华为蜘蛛
(.*)DotBot(.*) //垃圾国外蜘蛛
(.*)DataForSeoBot(.*) //垃圾SEO蜘蛛
(.*)java(.*) //JAVA写的爬虫
(.*)MJ12bot(.*) //垃圾国外蜘蛛
(.*)PetalBot(.*) //华为蜘蛛
(.*)python(.*) //PY探测器
(.*)seo(.*) //垃圾SEO蜘蛛
(.*)Censys(.*) //安全渗透平台绕过CDN的
//后为简单解释 导入时请忽略


防御一些爬虫是非常精准的,但是防御CC、DDOS效果没有设置(主要屏蔽垃圾爬虫和镜像网站)
只能说这个ua可以精准判断垃圾爬虫,用免费的防火墙有时候重新BUG很麻烦,还是推荐用付费版的防火墙导入这个规则
付费版自动可以过白蜘蛛和同步,且屏蔽海外没有免费版那么捞