求个网站的采集方法，这个站的列表页只显示前10页，其它的都没有显示

迪巴拉 · 发表于 2023-3-27 20:57:16

马上注册，免费下载更多dz插件网资源。

您需要登录才可以下载或查看，没有账号？立即注册

×

求个网站的采集方法，这个站的列表页只显示前10页，10页之后的都没有显示，

https://www.wenshubang.com/shijianbaogao/list_10.html

之前在4414上有个大哥说可以按ID循环来做，但具体怎么做，请问各大指点一下！

求个网站的采集方法，这个站的列表页只显示前10页，其它的都没有显示网站,采集,方法,这个,列表

求个网站的采集方法，这个站的列表页只显示前10页，其它的都没有显示网站,采集,方法,这个,列表

或者有其它什么办法可以采集的？

谢谢！

©DZ插件网所发布的一切资源仅限用于学习和研究目的；不得将上述内容用于商业或者非法用途，否则，一切后果请用户自负。
网站部分内容来源于网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。如果您喜欢该程序，请支持正版软件，得到更好的正版服务。
您在本站任何的赞助购买、下载、查阅、回复等行为等均表示接受并同意签订《DZ插件网免责声明协议》。
如有侵权请邮件与我们联系处理: discuzaddons@vip.qq.com 并出示相关证明以便删除。敬请谅解！

婷姐 · 发表于 2023-3-27 20:57:21

不发金币，很难打字啊。。

婷姐 · 发表于 2023-3-27 20:58:07

有悬赏的

Crystαl · 发表于 2023-3-27 20:58:39

第一步：整理路由规则，如下
/shuzhibaogao/
/gongzuobaogao/
/shijianbaogao/
/cizhibaogao/
第二步：找到最大的ID值，3300000
第三步：将这些ID按序组合成链接，如下
/shuzhibaogao/3300000.html
/gongzuobaogao/3300000.html
/shijianbaogao/3300000.html
/cizhibaogao/3300000.html
第四步：获取这些链接ID的状态码，返回200，则记录下来
第五步：将整理200状态码的链接采集下来

Crystαl · 发表于 2023-3-27 20:59:23

不会写脚本的，用现成的API

IT618发布 · 发表于 2023-3-27 20:59:48

这个厉害了

浅生 · 发表于 2023-3-27 21:00:24

每个栏目都从1到3300000循环历遍吗

/shuzhibaogao/（1-3300000）.html
/gongzuobaogao/（1-3300000）.html
/shijianbaogao/（1-3300000）.html
/cizhibaogao/（1-3300000）.html

像这样吗？
还有一个问题就是如何获取状态码？