网站没有流量，爬虫的到是不少

cangheng · 发表于 2020-9-28 19:43:03

这么多爬虫

朝阳风雨 · 发表于 2020-9-28 20:05:36

你这个是防爬的吧？关注内容，不用关注太多这些东西吧

河小马 · 发表于 2020-9-28 21:04:15

建网站以后，很大一部分资源都给爬虫搞走了

我一般都是在cloudflare 的firewall 那里直接屏蔽爬虫，比你写nginx 规则要简单和省事的多

河小马 · 发表于 2020-9-28 21:04:58

朝阳风雨发表于 2020-9-28 20:05
2 R) F+ L* S) E) l5 `# |你这个是防爬的吧？关注内容，不用关注太多这些东西吧

还是需要的。。。。服务器的资源，绝大部分都给无量爬虫占据了。。。。

没事的时候，设置一个access log。。。就能看到了

爬虫太狠了

朝阳风雨 · 发表于 2020-9-28 21:06:38

河小马发表于 2020-9-28 21:04
1 L: v# T- K# W9 u) Y还是需要的。。。。服务器的资源，绝大部分都给无量爬虫占据了。。。。
) T) x/ X# d" |" m, m1 f- V$ K
+ |( f0 B; Y5 G没事的时候，设置一个access log ...

偷懒用虚拟主机的我还是算了对我访问没有啥影响

河小马 · 发表于 2020-9-28 21:09:27

朝阳风雨发表于 2020-9-28 21:06
$ Z0 @ H8 o# t( f! ^- Y/ t8 G偷懒用虚拟主机的我还是算了对我访问没有啥影响

虚拟主机，一般都直接屏蔽了

朝阳风雨 · 发表于 2020-9-28 21:13:42

河小马发表于 2020-9-28 21:09
/ ?' b* g& O3 S, ]3 i4 }虚拟主机，一般都直接屏蔽了

那就省事快捷了

cangheng · 发表于 2020-9-29 08:55:25

河小马发表于 2020-9-28 21:04
0 f- i+ ^3 y2 J. I# k' C% D( Y1 A建网站以后，很大一部分资源都给爬虫搞走了
# h) A6 B9 f# I: b
6 a8 ^+ ?8 M0 ]' Y我一般都是在cloudflare 的firewall 那里直接屏蔽爬虫，比你写 ...

谢谢河马

d6mmsm71 · 发表于 2020-9-29 08:56:57

河小马发表于 2020-9-28 21:04
. v- G3 d. @- q6 ?- t还是需要的。。。。服务器的资源，绝大部分都给无量爬虫占据了。。。。
9 w; Y+ r; F) D% r# q; I; F& B! f. r/ _9 Q& s( V& C" |9 S
没事的时候，设置一个access log ...

这样就没有收录了，更不好

sead · 发表于 2020-9-29 09:05:14

强迫症表示，～* "(php|wget)" 不香么

sead · 发表于 2020-9-29 09:11:36

河小马发表于 2020-9-28 21:04
, J- M9 `8 t" F* I+ T; o0 Q建网站以后，很大一部分资源都给爬虫搞走了
7 Z" |) o. |. S$ T: x3 k. D$ Z3 s2 B( \7 {8 Q* S
我一般都是在cloudflare 的firewall 那里直接屏蔽爬虫，比你写 ...

要是爬内容的用谷歌的蜘蛛身份怎样破？防火墙怎样设置好点

d6mmsm71 · 发表于 2020-9-29 09:32:01

我才不搞这些花里胡哨的屏蔽爬虫，一不小心搞降权了就亏大了，配置不够就升级，有投入才有收入

luck · 发表于 2020-9-29 11:03:42

用的是VPS，不懂代码，网站内容也被能去不少，干着急，没办法。

加拿大华人 · 发表于 2020-9-29 11:52:23

河小马发表于 2020-9-28 21:04* H5 d& E M' `2 T6 ?8 l
建网站以后，很大一部分资源都给爬虫搞走了
) t# l3 ~5 O7 {% c2 ~; ~1 m- s6 I1 A0 [
我一般都是在cloudflare 的firewall 那里直接屏蔽爬虫，比你写 ...

请问cloudflare 的firewall ，这种功能是免费的还是PRO收费版本？

如果是免费的，可以知道下具体怎么操作么？

河小马 · 发表于 2020-9-29 16:09:42

加拿大华人发表于 2020-9-29 11:52
5 X, h" w" x g$ ?! C3 P; T# w请问cloudflare 的firewall ，这种功能是免费的还是PRO收费版本？0 P3 o& R! N1 \. i6 p" ^
i- v, A1 _. [6 l( `
如果是免费的，可以知道下具体怎么操 ...

免费的

CF的文档写的很清楚，自己看下文档就好了

		自动登录	找回密码
密码			立即注册

Google-Bing-Mediago-Criteo开户	⚡️按条S5代理⚡️静态⚡️独享⚡️5G	广告专用虚拟卡/U充值/高返点	皇家代理IP⚡️#1性价比⚡️
Mediabuy⚡️玩家开户首选	【鲁班跨境通-自助充值转账】	FB/GG/TT❤️官方免费开户	Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理	*开户投流-724h❤️人工在线**	【官方】❤️搜索套利买量投流开户	独立站⚡️开户投放
Google FB TK游戏代投	⚡️E.PN 虚拟卡⚡️	BINOM TRACKER 60% OFF!	比Adplexity还好用的Spy工具
ADPLEXITY + ADVERTCN	7200W全球动态不重复住宅IP代理	虚拟信用卡+独立站收款	全球虚拟卡, 支持U充值
Facebook 批量上广告	尤里改 - FB 稳定投放	免费黑五教程（持续更新、欢迎交流）	FB 三不限源头 - 自助下户充值转款
各种主页、账单户、BM户（优势）	IPCola原生住宅IP⚡️$1.8/条双ISP	FB资源，账单户，分享户，国内一手	TK加白户/二解户/FB海外户/GG老户
最大欧洲Nutra网盟BA找量	FB高权重耐操个号⚡️稳定过审	FB企业户海外户,授信户,TK加白户	联盟收款/海外资金下发/服贸结汇
✔Taboola海外户源头	广告位出租	虚拟卡返佣1%，国内持牌机构

[吐槽] 网站没有流量，爬虫的到是不少

本帖子中包含更多资源

点评

点评

点评

点评

点评

点评

点评

点评

社区QQ达人