AdvertCN - 广告中国

 找回密码
 立即注册

QQ登录

只需一步,快速开始

Adsterra China
 谷歌+Bing+TT+MSN官方代理 
⚡️按条S5代理⚡️静态⚡️独享⚡️5G皇家代理IP⚡️#1性价比⚡️指纹浏览器,就用AdsPower
Mediabuy⚡️玩家开户首选【鲁班跨境通-自助充值转账】FB/GG/TT❤️官方免费开户Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理开户投流-7*24h❤️人工在线【官方】❤️搜索套利买量投流开户独立站⚡️开户投放
FB BM不限额,短id账单户E.PN 虚拟卡DuoPlus专注打造跨境电商云手机BINOM TRACKER 60% OFF!
比Adplexity还好用的Spy工具ADPLEXITY + ADVERTCN7200W全球动态不重复住宅IP代理虚拟信用卡+独立站收款
全球虚拟卡, 支持U充值Facebook 批量上广告尤里改 - FB 稳定投放免费黑五教程(持续更新、欢迎交流)
FB 三不限源头 - 自助下户充值转款各种主页、账单户、BM户(优势)⚡️个人户,bm户不限额,账单户Google、Bing官方总代  联盟流量开户
FB资源,账单户,分享户,国内一手FB企业户BM户账单户源头海外CL企业户源头PTM全球虚拟卡—进来交个朋友!
PTM虚拟卡⚡️费率透明⚡️额度随心FB虚拟卡⚡️消费越多返现越多虚拟卡 - Pay2.House【找量】BA独家Nutra单找量
广告位出租8500万高质量住宅IP,助力各种需求虚拟卡返佣1%,国内持牌机构 
查看: 11442|回复: 12

[讨论] iptables 禁止了百度蜘蛛,为什么还能爬我的站?

[复制链接]

10

主题

1112

广告币

2085

积分

高级会员

Rank: 4

积分
2085
发表于 2015-4-19 22:57:49 | 显示全部楼层 |阅读模式
Lemft
用iptables 禁止了百度蜘蛛(爬得最频繁的一个段) 123.125.71.*- i; Z, k$ i2 i( d
3 [2 ~( v1 J" I8 c
iptables -I INPUT -s 123.125.71.0/24 -j DROP* T/ d. d- `, c2 s! ~* f1 X) x/ ^

+ X: q6 Z  P* o1 a% r7 \0 j& d3 `这应该没错吧,换成本地的ip段有效的,直接就访问不了,但是貌似禁止不了百度的蜘蛛啊,还是一堆的蜘蛛被统计到~~ 用的是statcounter。
- S$ q, n! o+ u  Y* }- W: O. Y1 e# d' {: s; J% M4 _
应该怎么禁止百度蜘蛛来爬呢?5 a* ?% |) y9 r0 l1 |5 E3 Z
相关帖子
回复

使用道具 举报

5

主题

36

广告币

222

积分

初级会员

Rank: 2

积分
222
发表于 2015-4-19 23:50:11 | 显示全部楼层

  r2 s0 ~5 |0 P. r" s用robot.txt直接禁

点评

我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁止其他一些特殊的ip段,所以才有这个疑问,怕其他的也没有效果  详情 回复 发表于 2015-4-20 00:22
回复 支持 反对

使用道具 举报

10

主题

1112

广告币

2085

积分

高级会员

Rank: 4

积分
2085
 楼主| 发表于 2015-4-20 00:22:13 | 显示全部楼层
davidc 发表于 2015-4-19 23:50
/ s2 z5 G  H: I  C' a. K, D! A用robot.txt直接禁

2 i" F+ p  \; p9 H* ~, N我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁止其他一些特殊的ip段,所以才有这个疑问,怕其他的也没有效果
回复 支持 反对

使用道具 举报

5

主题

36

广告币

222

积分

初级会员

Rank: 2

积分
222
发表于 2015-4-20 00:49:09 | 显示全部楼层
123jj 发表于 2015-4-20 00:22
& a) q2 p7 Q! a6 j2 {) i我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁 ...

2 x. _! R8 w8 s: @蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.

点评

谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用  详情 回复 发表于 2015-4-20 00:57
回复 支持 反对

使用道具 举报

10

主题

1112

广告币

2085

积分

高级会员

Rank: 4

积分
2085
 楼主| 发表于 2015-4-20 00:57:33 | 显示全部楼层
本帖最后由 123jj 于 2015-4-20 00:58 编辑
; s* {# t* ^9 f9 e+ D! F
davidc 发表于 2015-4-20 00:49) u( M; Q1 Z4 {2 G+ H! [
蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.

8 U: A( N+ X& r/ k5 f) e! V谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用,而刚好那个ip段是百度蜘蛛,用iptables 屏蔽了还能统计得到。
回复 支持 反对

使用道具 举报

1631

主题

1万

广告币

2万

积分

管理员

宇宙无敌河马天神

Rank: 9Rank: 9Rank: 9

积分
27067

社区QQ达人

发表于 2015-4-20 01:49:10 | 显示全部楼层
123jj 发表于 2015-4-20 00:57
, d4 ?" l* p% c3 [" W; u谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用,而刚好那个ip ...
1 R' J$ A# P3 f; T- {. z
那你确定蜘蛛来自于这个段?

点评

是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到 [attachimg]11460[/attachimg] 类似的该段ip一堆一堆的 iptables是不是屏蔽不了蜘蛛,bot类的ip?这是比较疑惑的地方  详情 回复 发表于 2015-4-20 15:36
学会提问的艺术, 从小处入手, 忌大而空
AdvertCN电报群

我最喜欢用的工具
7200W全球动态不重复住宅IP代理
回复 支持 反对

使用道具 举报

2

主题

1680

广告币

1678

积分

高级会员

Rank: 4

积分
1678
发表于 2015-4-20 10:12:25 | 显示全部楼层
iptables保存了没?* P. c: r; b) l1 ?
再执行一下这个命令 iptables-save 看看

点评

应该没问题,执行 iptables --list 可以看到  详情 回复 发表于 2015-4-20 15:38
回复 支持 反对

使用道具 举报

10

主题

1112

广告币

2085

积分

高级会员

Rank: 4

积分
2085
 楼主| 发表于 2015-4-20 15:36:39 | 显示全部楼层
河小马 发表于 2015-4-20 01:49
& s4 x- G4 ^9 U- K$ ~那你确定蜘蛛来自于这个段?
& N4 ~; O6 T9 ~! {
是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到
7 d- a! q. D  W7 t8 c0 {
, }5 `; |, B1 z2 P: `/ f) ]9 g. a" T( W  n
3 _& F1 e3 |/ l6 `+ O
类似的该段ip一堆一堆的' [9 E. Z. Z  s$ F

& n9 B# \* Q, K7 `1 R  q3 liptables是不是屏蔽不了蜘蛛,bot类的ip?这是比较疑惑的地方
* j$ v9 Y/ }. E! h" J

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复 支持 反对

使用道具 举报

10

主题

1112

广告币

2085

积分

高级会员

Rank: 4

积分
2085
 楼主| 发表于 2015-4-20 15:38:07 | 显示全部楼层
sanp 发表于 2015-4-20 10:12/ X/ u" F  \5 N
iptables保存了没?
* T) m' X: Y4 C1 Y1 B! _# D7 J- O2 P3 w再执行一下这个命令 iptables-save 看看

5 o" D; G  P" v/ e3 _应该没问题,执行 iptables --list 可以看到
回复 支持 反对

使用道具 举报

1631

主题

1万

广告币

2万

积分

管理员

宇宙无敌河马天神

Rank: 9Rank: 9Rank: 9

积分
27067

社区QQ达人

发表于 2015-4-20 20:13:10 | 显示全部楼层
123jj 发表于 2015-4-20 15:36, d' f* [. ~; ?8 R# c' K
是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到

; I: G/ C) [1 |/ z# V/ m8 p- m' B7 diptables 还是很准的; R+ O, T; U7 p2 z. X/ [* L# h- h

# \& j9 y% a' ^, a. N- r9 Z我现在都是直接用csf了3 k* n' _& b  R( s; ]" ~

0 X: Z# E# W- a3 k" R$ ziptables 的命令都忘的差不多了: a, Y" W  T  N+ k# A2 e
/ y  ?8 g6 P: I- P" z; m
你不彷安装个csf 来处理ban ip的问题

点评

谢谢,我去试试  详情 回复 发表于 2015-4-20 23:09
学会提问的艺术, 从小处入手, 忌大而空
AdvertCN电报群

我最喜欢用的工具
7200W全球动态不重复住宅IP代理
回复 支持 反对

使用道具 举报

10

主题

1112

广告币

2085

积分

高级会员

Rank: 4

积分
2085
 楼主| 发表于 2015-4-20 23:09:37 | 显示全部楼层
河小马 发表于 2015-4-20 20:134 T2 @4 @- {6 q) R4 ?1 ?
iptables 还是很准的' E- z1 }: o6 m* o8 s7 }
! ?* K5 z4 ], ?7 o- D! P: S
我现在都是直接用csf了

% D7 `& g" q  |* F( ~# k& E谢谢,我去试试
回复 支持 反对

使用道具 举报

maro666 该用户已被删除
发表于 2015-4-21 13:44:26 | 显示全部楼层
百度蜘蛛很多ip段的吧
回复 支持 反对

使用道具 举报

13

主题

1668

广告币

4118

积分

金牌会员

Rank: 6Rank: 6

积分
4118

社区QQ达人

发表于 2015-4-23 15:01:29 | 显示全部楼层
1.IP段非123.125.71.0/242 B$ }5 N7 e) m0 a
2.drop上有accept,iptables规则顺序执行遇到匹配的不再向下匹配
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关于我们|联系我们|DMCA|广告服务|小黑屋|手机版|Archiver|Github|网站地图|AdvertCN

GMT+8, 2025-7-15 17:33 , Processed in 0.083687 second(s), 28 queries , Gzip On, MemCache On.

Copyright © 2001-2023, AdvertCN

Proudly Operating in Hong Kong.

快速回复 返回顶部 返回列表