蜘蛛爬取，先来个301是什么情况

左右不逢缘 · 发表于 2023-2-11 20:57:52

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

如题

一个链接

蜘蛛爬取先返回301

然后才有200
为什么会抓两次呢

©DZ插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
网站部分内容来源于网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
您在本站任何的赞助购买、下载、查阅、回复等行为等均表示接受并同意签订《DZ插件网免责声明协议》。
如有侵权请邮件与我们联系处理: discuzaddons@vip.qq.com 并出示相关证明以便删除。敬请谅解！

IT618发布 · 发表于 2023-2-11 20:58:19

HTTP 状态代码 "301" 表示请求的资源已永久移动到新位置，并且将来任何对此资源的引用都应该使用最新的 URL。这通常是用于重定向网页或者资源。

当蜘蛛（也称为网络爬虫）遇到了 301 状态代码，它将会在接下来的请求中使用新的 URL，以确保爬取到的内容是最新的。

通常，301 重定向是为了告诉搜索引擎，一个网页已经永久移动到了新的位置，因此搜索引擎会更新其索引以指向新的 URL。这是网站重构和重定向的一种常见方法，可以保证在搜索引擎中排名不受影响，并且可以使访问者以最新的 URL 访问该网站。