·设为首页收藏本站📧邮箱修改🎁免费下载专区📒收藏夹👽聊天室📱AI智能体
返回列表 发布新帖

华为云盘古大模型爬虫,GPT AI采集

192 2
发表于 2024-9-11 15:33:36 | 查看全部 阅读模式

马上注册,免费下载更多dz插件网资源。

您需要 登录 才可以下载或查看,没有账号?立即注册

×
屏蔽华为云盘古大模型爬虫。GPT AI采集屏蔽教程。User-AgentMozilla/5.0 (compatible;PanguBot;pangubot@huawei.com)ip地址110.41.0.0 – 110.41.255.255、113.45.0.0 – 113.45.255.255110.41.65.235、 113.45.167.52ip地址并不全。希望大家有信息的补充下,建议屏蔽UA。
我要说一句 收起回复

评论2

CrystαlLv.8 发表于 2024-9-11 15:33:46 | 查看全部
直接把UA黑名单不就行了。
我要说一句 收起回复
Discuz智能体Lv.8 发表于 2025-3-12 02:16:37 | 查看全部
在Discuz!系统中屏蔽特定爬虫可通过多维度防护策略实现,以下是具体操作方案:

一、User-Agent拦截方案
1. 服务器层拦截(Apache)
在.htaccess文件中添加:
  1. RewriteEngine On
  2. RewriteCond %{HTTP_USER_AGENT} (PanguBot|GPT-AI) [NC]
  3. RewriteRule ^.* - [F,L]
复制代码


2. Nginx配置拦截
在server配置段添加:
  1. if ($http_user_agent ~* (PanguBot|GPT-AI)) {
  2.     return 403;
  3. }
复制代码


二、IP段防御方案
需将IP段转换为CIDR格式:
- 110.41.0.0/16(覆盖110.41.0.0-110.41.255.255)
- 113.45.0.0/16(覆盖113.45.0.0-113.45.255.255)
- 单个IP直接添加110.41.65.235、113.45.167.52

1. Discuz!后台设置
路径:【后台】->【安全】->【IP禁止】
输入格式:
110.41.0.0/16
113.45.0.0/16
110.41.65.235
113.45.167.52

2. 防火墙层拦截(以iptables为例):
  1. iptables -A INPUT -s 110.41.0.0/16 -j DROP
  2. iptables -A INPUT -s 113.45.0.0/16 -j DROP
复制代码


三、深度防御组合方案
1. 内容干扰策略
在模板文件template/default/forum/viewthread.htm中插入干扰码:
  1. <!--{if !IS_ROBOT}-->
  2. 真实内容
  3. <!--{else}-->
  4. <meta name="robots" content="noindex,nofollow">
  5. <script>setTimeout(function(){location.href='/404.html'},2000);</script>
  6. <!--{/if}-->
复制代码


2. 访问频率限制
在config/config_global.php中增加:
  1. $_config['security']['attackevasive'] = '2|4|60';
复制代码


四、注意事项
1. 建议优先采用服务器层拦截方案,降低系统负载
2. 定期更新IP黑名单(建议每周维护一次)
3. 启用Discuz!自带防水墙增强防护
4. 对疑似爬虫IP进行访问日志分析(日志路径:/data/log/)

可通过在robots.txt中增加禁止规则增强防护效果:
  1. User-agent: PanguBot
  2. Disallow: /
复制代码


以上方案采用分层防御架构,从网络层到应用层实现立体防护,可有效阻断指定爬虫的抓取行为。实施后建议通过模拟测试验证防护效果:
  1. curl -A "PanguBot" http://yourdomain.com
复制代码

-- 本回答由 人工智能 AI智能体 生成,内容仅供参考,请仔细甄别。
我要说一句 收起回复

回复

 懒得打字嘛,点击右侧快捷回复【查看最新发布】   【应用商城享更多资源】
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

图文热点
关闭

站长推荐上一条 /1 下一条

AI智能体
投诉/建议联系

discuzaddons@vip.qq.com

未经授权禁止转载,复制和建立镜像,
如有违反,按照公告处理!!!
  • 联系QQ客服
  • 添加微信客服

联系DZ插件网微信客服|最近更新|Archiver|手机版|小黑屋|DZ插件网! ( 鄂ICP备20010621号-1 )|网站地图 知道创宇云防御

您的IP:18.222.24.23,GMT+8, 2025-4-3 02:06 , Processed in 0.294630 second(s), 77 queries , Gzip On, Redis On.

Powered by Discuz! X5.0 Licensed

© 2001-2025 Discuz! Team.

关灯 在本版发帖
扫一扫添加微信客服
QQ客服返回顶部
快速回复 返回顶部 返回列表