找回密码
 立即注册

QQ登录

只需一步,快速开始

PropellerAds
Google-Bing-Mediago-Criteo开户
⚡️按条S5代理⚡️静态⚡️独享⚡️5G广告专用虚拟卡/U充值/高返点皇家代理IP⚡️#1性价比⚡️
Mediabuy⚡️玩家开户首选【鲁班跨境通-自助充值转账】FB/GG/TT❤️官方免费开户Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理开户投流-7*24h❤️人工在线【官方】❤️搜索套利买量投流开户独立站⚡️开户投放
Google FB TK游戏代投⚡️E.PN 虚拟卡⚡️BINOM TRACKER 60% OFF!比Adplexity还好用的Spy工具
ADPLEXITY + ADVERTCN7200W全球动态不重复住宅IP代理虚拟信用卡+独立站收款全球虚拟卡, 支持U充值
Facebook 批量上广告尤里改 - FB 稳定投放免费黑五教程(持续更新、欢迎交流)FB 三不限源头 - 自助下户充值转款
各种主页、账单户、BM户(优势)IPCola原生住宅IP⚡️$1.8/条双ISPFB资源,账单户,分享户,国内一手TK加白户/二解户/FB海外户/GG老户
最大欧洲Nutra网盟BA找量 FB高权重耐操个号⚡️稳定过审FB企业户海外户,授信户,TK加白户联盟收款/海外资金下发/服贸结汇
✔Taboola海外户源头广告位出租虚拟卡返佣1%,国内持牌机构 
查看: 12189|回复: 12

[讨论] iptables 禁止了百度蜘蛛,为什么还能爬我的站?

[复制链接]

10

主题

1299

广告币

2258

积分

高级会员

积分
2258
发表于 2015-4-19 22:57:49 | 显示全部楼层 |阅读模式
Binom_AdvertCN
用iptables 禁止了百度蜘蛛(爬得最频繁的一个段) 123.125.71.*, ~' B4 ^  j6 v$ o0 p2 [9 P
. X. G+ `' p/ _( t
iptables -I INPUT -s 123.125.71.0/24 -j DROP9 c2 k" F7 l. u  m3 R) o' g

" T& m6 [! }- k& y8 w! }1 `这应该没错吧,换成本地的ip段有效的,直接就访问不了,但是貌似禁止不了百度的蜘蛛啊,还是一堆的蜘蛛被统计到~~ 用的是statcounter。5 A: L  n$ a0 o' \/ r. Y0 X6 g
5 V( \  e. b! ?( P2 H/ T
应该怎么禁止百度蜘蛛来爬呢?0 D. Z- B$ |' `4 D& s, I
相关帖子
回复

使用道具 举报

5

主题

36

广告币

222

积分

初级会员

积分
222
发表于 2015-4-19 23:50:11 | 显示全部楼层
9 M% f4 j6 b2 Q% }
用robot.txt直接禁

点评

我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁止其他一些特殊的ip段,所以才有这个疑问,怕其他的也没有效果  详情 回复 发表于 2015-4-20 00:22
回复 支持 反对

使用道具 举报

10

主题

1299

广告币

2258

积分

高级会员

积分
2258
 楼主| 发表于 2015-4-20 00:22:13 | 显示全部楼层
davidc 发表于 2015-4-19 23:500 ]6 L( ?, n4 y4 u) k
用robot.txt直接禁

- C, k4 b, X7 f  x8 A我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁止其他一些特殊的ip段,所以才有这个疑问,怕其他的也没有效果

点评

蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.  详情 回复 发表于 2015-4-20 00:49
回复 支持 反对

使用道具 举报

5

主题

36

广告币

222

积分

初级会员

积分
222
发表于 2015-4-20 00:49:09 | 显示全部楼层
123jj 发表于 2015-4-20 00:226 w) ]! T! N5 K/ B
我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁 ...

! H! Y- W& |4 [! z8 N6 a4 X1 V9 U蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.

点评

谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用  详情 回复 发表于 2015-4-20 00:57
回复 支持 反对

使用道具 举报

10

主题

1299

广告币

2258

积分

高级会员

积分
2258
 楼主| 发表于 2015-4-20 00:57:33 | 显示全部楼层
本帖最后由 123jj 于 2015-4-20 00:58 编辑   ?7 W! I$ Q  R2 S  U, \6 `
davidc 发表于 2015-4-20 00:49
2 q9 u; V5 m/ J' h  L: S) I蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.

0 q; h! A5 O4 `) d- u; m( ?谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用,而刚好那个ip段是百度蜘蛛,用iptables 屏蔽了还能统计得到。

点评

那你确定蜘蛛来自于这个段?  详情 回复 发表于 2015-4-20 01:49
回复 支持 反对

使用道具 举报

1672

主题

1万

广告币

2万

积分

管理员

宇宙无敌河马天神

积分
28134

社区QQ达人

发表于 2015-4-20 01:49:10 | 显示全部楼层
123jj 发表于 2015-4-20 00:57
7 e4 }; G! S. i9 Q4 U% O, U7 B( z4 }谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用,而刚好那个ip ...

" E3 B  B6 ~. A) d. v8 h7 ~0 ~那你确定蜘蛛来自于这个段?

点评

是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到 [attachimg]11460[/attachimg] 类似的该段ip一堆一堆的 iptables是不是屏蔽不了蜘蛛,bot类的ip?这是比较疑惑的地方  详情 回复 发表于 2015-4-20 15:36
学会提问的艺术, 从小处入手, 忌大而空
AdvertCN电报群

我最喜欢用的工具
7200W全球动态不重复住宅IP代理
回复 支持 反对

使用道具 举报

2

主题

1777

广告币

1766

积分

高级会员

积分
1766
发表于 2015-4-20 10:12:25 | 显示全部楼层
iptables保存了没?5 [6 l% R1 n* b' F/ U8 b* j
再执行一下这个命令 iptables-save 看看

点评

应该没问题,执行 iptables --list 可以看到  详情 回复 发表于 2015-4-20 15:38
回复 支持 反对

使用道具 举报

10

主题

1299

广告币

2258

积分

高级会员

积分
2258
 楼主| 发表于 2015-4-20 15:36:39 | 显示全部楼层
河小马 发表于 2015-4-20 01:49
( R8 t" w, j$ i那你确定蜘蛛来自于这个段?
& e3 t: e+ |# w# f' m
是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到& e% P4 u' F# A8 y
/ b7 I; Y1 V8 z) I7 i- z. I4 o
* d' O. _. T% F+ E) R- P
$ U; l/ w4 A+ C3 `" b/ H- c+ J
类似的该段ip一堆一堆的4 X: ]. ~8 Z  C( f& n- A
; Z3 l5 ?" L; G
iptables是不是屏蔽不了蜘蛛,bot类的ip?这是比较疑惑的地方
! w6 K, g* ~0 y, }; X+ a* y

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×

点评

iptables 还是很准的 我现在都是直接用csf了 iptables 的命令都忘的差不多了 你不彷安装个csf 来处理ban ip的问题  详情 回复 发表于 2015-4-20 20:13
回复 支持 反对

使用道具 举报

10

主题

1299

广告币

2258

积分

高级会员

积分
2258
 楼主| 发表于 2015-4-20 15:38:07 | 显示全部楼层
sanp 发表于 2015-4-20 10:12
6 N) A. N/ t- n$ Piptables保存了没?
9 y) e) Z# H2 K7 I再执行一下这个命令 iptables-save 看看

: j# b# {& H; G$ ^. V+ K$ m( `9 D应该没问题,执行 iptables --list 可以看到
回复 支持 反对

使用道具 举报

1672

主题

1万

广告币

2万

积分

管理员

宇宙无敌河马天神

积分
28134

社区QQ达人

发表于 2015-4-20 20:13:10 | 显示全部楼层
123jj 发表于 2015-4-20 15:36
6 n  w' w- M& I是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到
$ I! c# U  ]8 k
iptables 还是很准的! O) E* g$ Z- y# H0 a0 ?7 o/ B5 C

5 J; `- F! x+ {# J3 K- t我现在都是直接用csf了
# ~+ z7 i, M  i" f3 }' f1 K. G/ c  j3 b
iptables 的命令都忘的差不多了
. E/ A5 q- j5 S( V* T0 C
: `" n) n, n; M8 X! h" \你不彷安装个csf 来处理ban ip的问题

点评

谢谢,我去试试  详情 回复 发表于 2015-4-20 23:09
学会提问的艺术, 从小处入手, 忌大而空
AdvertCN电报群

我最喜欢用的工具
7200W全球动态不重复住宅IP代理
回复 支持 反对

使用道具 举报

10

主题

1299

广告币

2258

积分

高级会员

积分
2258
 楼主| 发表于 2015-4-20 23:09:37 | 显示全部楼层
河小马 发表于 2015-4-20 20:13
; e9 g$ Z8 H1 j* Oiptables 还是很准的4 l5 i$ x/ {3 P/ |; B

5 e+ s7 h9 U2 t$ \2 Y- N  N( b我现在都是直接用csf了

2 W8 f" ~1 K" Z6 M谢谢,我去试试
回复 支持 反对

使用道具 举报

maro666 该用户已被删除
发表于 2015-4-21 13:44:26 | 显示全部楼层
百度蜘蛛很多ip段的吧
回复 支持 反对

使用道具 举报

13

主题

1674

广告币

4123

积分

金牌会员

积分
4123

社区QQ达人

发表于 2015-4-23 15:01:29 | 显示全部楼层
1.IP段非123.125.71.0/24  S: D$ ^7 _1 M% ?9 L  m
2.drop上有accept,iptables规则顺序执行遇到匹配的不再向下匹配
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关于我们|联系我们|DMCA|广告服务|小黑屋|手机版|Archiver|Github|网站地图|AdvertCN

GMT+8, 2026-10-4 01:42 , Processed in 0.078157 second(s), 31 queries , Gzip On.

Copyright © 2001-2026, AdvertCN

Proudly Operating in Hong Kong.

快速回复 返回顶部 返回列表