哪个大神帮我看看对不对？robots

𝕷𝖎𝖑𝖏𝖆𝖈𝖐 · 发表于 2024-3-4 15:38:14

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

©DZ插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
网站部分内容来源于网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
您在本站任何的赞助购买、下载、查阅、回复等行为等均表示接受并同意签订《DZ插件网免责声明协议》。
如有侵权请邮件与我们联系处理: discuzaddons@vip.qq.com 并出示相关证明以便删除。敬请谅解！

TyCoding · 发表于 2024-3-4 15:39:10

说白了，就是想屏蔽神马

婷姐 · 发表于 2024-3-4 15:39:29

https://www.zhihu.com/question/565649308/answer/3225153041

哪个大神帮我看看对不对？robots 大神,robots,60276

婷姐 · 发表于 2024-3-4 15:40:22

好的感谢

婷姐 · 发表于 2024-3-4 15:40:28

屏蔽的应该放上面吧

Crystαl · 发表于 2024-3-4 15:40:36

RewriteCond %{HTTP_USER_AGENT} "MegaIndex|MegaIndex.ru|BLEXBot|Qwantify|qwantify|semrush|Semrush|serpstatbot|hubspot|python|Bytespider|Go-http-client|Java|PhantomJS|SemrushBot|Scrapy|Webdup|AcoonBot|AhrefsBot|Ezooms|EdisterBot|EC2LinkFinder|jikespider|Purebot|MJ12bot|WangIDSpider|WBSearchBot|Wotbox|xbfMozilla|Yottaa|YandexBot|Jorgee|SWEBot|spbot|TurnitinBot-Agent|mail.RU|perl|Python|Wget|Xenu|ZmEu|openai|amazonbot|BLEXBot|DotBot|^$" [NC]
RewriteRule !(^robots\.txt$) - [F]也可以通过这种方式屏蔽！