AdvertCN - 广告中国

 找回密码
 立即注册

QQ登录

只需一步,快速开始

 谷歌+Bing+TT+MSN官方代理 
⚡️按条S5代理⚡️静态⚡️独享⚡️5G⚡️最干净<Wifi住宅+5G移动>IP代理泰国仓储,本土仓发货2-3元/单
指纹浏览器,就用AdsPower谷歌/FB/Bing/Yahoo代理商开户7200W全球动态不重复住宅IP代理全球优质流量,选TrafficStars
出售Facebook,友缘号,FB广告号,insFB/TT/KW 加白开户ADPLEXITY + ADVERTCN比Adplexity还好用的Spy工具
广
FB/Google/TK海外多媒体极速下户
BINOM TRACKER 60% OFF!MediaGo+Taboola+Ob开户百度国际MediaGo⚡️让产品狂奔全球百度国际,高点击转化,快速放量
百度国际MediaGo,独家原生流量虚拟信用卡+独立站收款行业首创新型指纹Cloak, 谷歌奇效!Kookeey⚡️100%独享⚡️原生住宅IP
⚡IPFoxy住宅代理全场88折⚡全球虚拟卡, 支持U充值免账户投放 FB 广告(送项目)2024做什么 - Media buy 项目库
免费黑五教程(持续更新、欢迎交流)Facebook 批量上广告Bridgeway - 联盟营销网络IPCola 全新住宅代理 ⚡️ 免费试用
各种主页、账单户、BM户(优势)⚡️个人户,bm户不限额,账单户Adsterra 的CPA/CPM/CPC 网站流量在线注册美国/英国/香港等海外公司
EU KETO/CBD - JumbleberryFB二三解1元/个9Proxy ⚡️ $0.04/IP, 无限带宽 cloak斗篷/ss/nutra/cpa/Dating
E.PN 虚拟卡Asocks代理服务器$3/GB高薪诚求实力FB投手(独立站)《全新虚拟卡+全球收付款》
广告位出租全球低价纯净住宅/移动IP-免费试用广告代投, 东南亚物流, 虚拟信用卡VMLogin指纹浏览器+多账号防关联
查看: 8104|回复: 12

[讨论] iptables 禁止了百度蜘蛛,为什么还能爬我的站?

[复制链接]

10

主题

843

广告币

1826

积分

高级会员

Rank: 4

积分
1826
发表于 2015-4-19 22:57:49 | 显示全部楼层 |阅读模式
adsterra
用iptables 禁止了百度蜘蛛(爬得最频繁的一个段) 123.125.71.*( K: }. r) @' D; z% |6 _, o

7 [* U' J$ X) G* |4 t! hiptables -I INPUT -s 123.125.71.0/24 -j DROP3 q# G% C9 M2 k5 m
# c  u' W6 Y# O3 ?2 O  z0 W
这应该没错吧,换成本地的ip段有效的,直接就访问不了,但是貌似禁止不了百度的蜘蛛啊,还是一堆的蜘蛛被统计到~~ 用的是statcounter。4 _& n" O2 j* K
0 C/ B. {/ q0 n* m4 K
应该怎么禁止百度蜘蛛来爬呢?
9 i, Q3 c2 V  }, ~6 Y
相关帖子
回复

使用道具 举报

5

主题

36

广告币

222

积分

初级会员

Rank: 2

积分
222
发表于 2015-4-19 23:50:11 | 显示全部楼层

8 \* ]) S. c6 a3 j9 {" k5 t用robot.txt直接禁

点评

我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁止其他一些特殊的ip段,所以才有这个疑问,怕其他的也没有效果  详情 回复 发表于 2015-4-20 00:22
回复 支持 反对

使用道具 举报

10

主题

843

广告币

1826

积分

高级会员

Rank: 4

积分
1826
 楼主| 发表于 2015-4-20 00:22:13 | 显示全部楼层
davidc 发表于 2015-4-19 23:50, |4 u# p, |( r5 T
用robot.txt直接禁

# [' x0 q( O* Z8 T9 J7 y/ U* @6 a, y我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁止其他一些特殊的ip段,所以才有这个疑问,怕其他的也没有效果

点评

蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.  详情 回复 发表于 2015-4-20 00:49
回复 支持 反对

使用道具 举报

5

主题

36

广告币

222

积分

初级会员

Rank: 2

积分
222
发表于 2015-4-20 00:49:09 | 显示全部楼层
123jj 发表于 2015-4-20 00:22
6 w  B: {, I3 \  z; X7 s我知道可以用robots.txt,还能用一段php代码禁止,但是我想的是用iptables为什么禁止不了,因为我还要禁 ...
) C' a0 S0 i. e
蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.

点评

谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用  详情 回复 发表于 2015-4-20 00:57
回复 支持 反对

使用道具 举报

10

主题

843

广告币

1826

积分

高级会员

Rank: 4

积分
1826
 楼主| 发表于 2015-4-20 00:57:33 | 显示全部楼层
本帖最后由 123jj 于 2015-4-20 00:58 编辑
3 Z1 K) C6 N  q3 M2 H! u9 R! d
davidc 发表于 2015-4-20 00:49% E" u* R  X6 ~( K5 s3 \
蜘蛛不可能只有一个ip段的,要不做cloaking的不都乐疯了.

  m% |5 j1 ?6 g( ]' R谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用,而刚好那个ip段是百度蜘蛛,用iptables 屏蔽了还能统计得到。

点评

那你确定蜘蛛来自于这个段?  详情 回复 发表于 2015-4-20 01:49
回复 支持 反对

使用道具 举报

1601

主题

1万

广告币

2万

积分

管理员

宇宙无敌河马天神

Rank: 9Rank: 9Rank: 9

积分
28665

社区QQ达人

发表于 2015-4-20 01:49:10 | 显示全部楼层
123jj 发表于 2015-4-20 00:57
1 M2 a2 P- U$ F4 g, ~谢谢,我不是要屏蔽所有蜘蛛,是想知道为什么那句 iptables 规则为什么对 那个ip段不起作用,而刚好那个ip ...
% U9 M, A% `( j5 Q
那你确定蜘蛛来自于这个段?

点评

是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到 [attachimg]11460[/attachimg] 类似的该段ip一堆一堆的 iptables是不是屏蔽不了蜘蛛,bot类的ip?这是比较疑惑的地方  详情 回复 发表于 2015-4-20 15:36
学会提问的艺术, 从小处入手, 忌大而空
AdvertCN电报群

我最喜欢用的工具
7200W全球动态不重复住宅IP代理
回复 支持 反对

使用道具 举报

2

主题

1432

广告币

1464

积分

高级会员

Rank: 4

积分
1464
发表于 2015-4-20 10:12:25 | 显示全部楼层
iptables保存了没?" P! b9 j+ p) n1 }3 B$ S9 N3 ?
再执行一下这个命令 iptables-save 看看

点评

应该没问题,执行 iptables --list 可以看到  详情 回复 发表于 2015-4-20 15:38
回复 支持 反对

使用道具 举报

10

主题

843

广告币

1826

积分

高级会员

Rank: 4

积分
1826
 楼主| 发表于 2015-4-20 15:36:39 | 显示全部楼层
河小马 发表于 2015-4-20 01:49! y( s. ~3 ^) |- e8 i, ^
那你确定蜘蛛来自于这个段?
$ w1 S4 V& V& O# ]
是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到
  ]" W* t! s3 d6 u5 o
0 x; C/ X& C* t+ }5 L
) _. |4 J0 R6 ]7 n' y7 c9 _+ B2 N3 y
  [' ^  [6 X' x4 S# W5 S) @' `4 A9 y类似的该段ip一堆一堆的. s4 j) ?9 ]$ j8 F9 O" U' G0 r' M

; N% H+ W  o3 Ziptables是不是屏蔽不了蜘蛛,bot类的ip?这是比较疑惑的地方! @' @# F' ]; }

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x

点评

iptables 还是很准的 我现在都是直接用csf了 iptables 的命令都忘的差不多了 你不彷安装个csf 来处理ban ip的问题  详情 回复 发表于 2015-4-20 20:13
回复 支持 反对

使用道具 举报

10

主题

843

广告币

1826

积分

高级会员

Rank: 4

积分
1826
 楼主| 发表于 2015-4-20 15:38:07 | 显示全部楼层
sanp 发表于 2015-4-20 10:12
/ F9 a7 S& _+ V& }$ iiptables保存了没?# B% W" U, B! C# @; c
再执行一下这个命令 iptables-save 看看
2 z/ K; |' o9 N% ~  H
应该没问题,执行 iptables --list 可以看到
回复 支持 反对

使用道具 举报

1601

主题

1万

广告币

2万

积分

管理员

宇宙无敌河马天神

Rank: 9Rank: 9Rank: 9

积分
28665

社区QQ达人

发表于 2015-4-20 20:13:10 | 显示全部楼层
123jj 发表于 2015-4-20 15:36
0 [/ W+ ^8 s- Z# I是啊,这个段是百度蜘蛛的其中一个段,我用iptables屏蔽了这个段,还能统计得到

8 j3 Z. m9 ?. B$ N) biptables 还是很准的! X+ _8 `6 w1 x4 L& z; F$ d

$ C6 @( O- x/ G5 w0 y4 a6 E( v- E9 r我现在都是直接用csf了( v1 T' r* E6 Z$ j# M( X

$ L8 W9 D& V! c+ Biptables 的命令都忘的差不多了; @) q: P1 h2 c" y4 ?

3 [5 ~2 q+ F/ L6 G1 H# m你不彷安装个csf 来处理ban ip的问题

点评

谢谢,我去试试  详情 回复 发表于 2015-4-20 23:09
学会提问的艺术, 从小处入手, 忌大而空
AdvertCN电报群

我最喜欢用的工具
7200W全球动态不重复住宅IP代理
回复 支持 反对

使用道具 举报

10

主题

843

广告币

1826

积分

高级会员

Rank: 4

积分
1826
 楼主| 发表于 2015-4-20 23:09:37 | 显示全部楼层
河小马 发表于 2015-4-20 20:13
( ?3 ~& F& [( ]3 P+ l4 K: biptables 还是很准的
  k( B4 ~: N$ s3 e5 c# k: {2 f/ a: b
我现在都是直接用csf了
+ q- ]7 g8 f) @6 E3 Q& e0 |) E# V
谢谢,我去试试
回复 支持 反对

使用道具 举报

maro666 该用户已被删除
发表于 2015-4-21 13:44:26 | 显示全部楼层
百度蜘蛛很多ip段的吧
回复 支持 反对

使用道具 举报

13

主题

1575

广告币

4043

积分

金牌会员

Rank: 6Rank: 6

积分
4043

社区QQ达人

发表于 2015-4-23 15:01:29 | 显示全部楼层
1.IP段非123.125.71.0/24/ O. X# k& B4 d# E* T
2.drop上有accept,iptables规则顺序执行遇到匹配的不再向下匹配
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关于我们|联系我们|DMCA|广告服务|小黑屋|手机版|Archiver|Github|网站地图|AdvertCN

GMT+8, 2024-4-19 19:16 , Processed in 0.061366 second(s), 20 queries , Gzip On, MemCache On.

Copyright © 2001-2023, AdvertCN

Proudly Operating in Hong Kong.

快速回复 返回顶部 返回列表