Amazonbot蜘蛛不遵循robots协议爬的我服务器死机有办法禁么？

镖师 · 发表于 2024-5-20 07:15:21

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

自己的一个小站一天只有100多IP ,可是Amazonbot，每天爬取1W多次,robots.txx已经设置Disallow了。但是还是爬的服务器运行和cpu经常都是100%，然后就是死机。目前是搭建在搬瓦工1H1G的服务器上的，实在也不想换服务器了。看了下插件几乎都是收费的而且还不低。有啥办法禁止它么。
Amazonbot蜘蛛不遵循robots协议爬的我服务器死机有办法禁么？小站,服务器,瓦工,robots,死机

Amazonbot蜘蛛不遵循robots协议爬的我服务器死机有办法禁么？小站,服务器,瓦工,robots,死机

©DZ插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
网站部分内容来源于网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
您在本站任何的赞助购买、下载、查阅、回复等行为等均表示接受并同意签订《DZ插件网免责声明协议》。
如有侵权请邮件与我们联系处理: discuzaddons@vip.qq.com 并出示相关证明以便删除。敬请谅解！