我的网站似乎被人监控了？

luck · 发表于 2021-2-17 19:36:33

ronse 发表于 2021-2-17 12:37
2 g- [7 | O7 L7 w6 D, g" P很多爬虫就是不带referer。可以用cloudflare的防火墙，根据ASN过滤掉一些廉价机房的IP，增加竞争对手监控 ...

谢谢！
爬虫就是可以做到直接输入精确网址对吗？在它之前没有其它的网址。对此一无所知，了解一下。

luck · 发表于 2021-2-17 20:02:20

爬虫是蜘蛛吗？
我的网站常来蜘蛛，见下图

187277752 · 发表于 2021-2-17 20:19:23

谷歌爬虫网址是固定的

ronse · 发表于 2021-2-17 20:28:18

luck 发表于 2021-2-17 19:36
2 b! U+ X& H( F! s% M! I9 @9 X: E谢谢！, b* |3 U0 V& n+ U4 |6 ] W
爬虫就是可以做到直接输入精确网址对吗？在它之前没有其它的网址。对此一无所知，了解一下。 ...

爬虫是所有网址都爬，只不过打开你新的文章时，不带referer而已

luck · 发表于 2021-2-18 08:07:46

就在刚刚又了表了一篇文章，记录显示，在不到一分钟的时间内，我在首页所的第二种情况，No referring link，再次精确输入我的不到一分钟的新网址进来了。它的IP还是那个IP.
显示器等信息没变，如下是它的信息Linux, Chrome 85.0, 1280x2000

pladavz · 发表于 2021-2-18 08:29:33

我不太懂，为什么你这么紧张？你这个站是干嘛的，违法哈？

yang。 · 发表于 2021-2-22 15:44:26

反爬吧，一般性策略就是过滤IP和行为，如果要深层次的可以参考企查查前端css/js 渲染变形等处理，可以过滤到很大一部分的爬虫，不过难度也高

		自动登录	找回密码
密码			立即注册

Google-Bing-Mediago-Criteo开户	⚡️按条S5代理⚡️静态⚡️独享⚡️5G	广告专用虚拟卡/U充值/高返点	皇家代理IP⚡️#1性价比⚡️
Mediabuy⚡️玩家开户首选	【鲁班跨境通-自助充值转账】	FB/GG/TT❤️官方免费开户	Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理	*开户投流-724h❤️人工在线**	【官方】❤️搜索套利买量投流开户	独立站⚡️开户投放
⚡️AdsPower:安全不封号,高效自动化	Google FB TK游戏代投	⚡️E.PN 虚拟卡⚡️	FB BM不限额，短id账单户
BINOM TRACKER 60% OFF!	比Adplexity还好用的Spy工具	ADPLEXITY + ADVERTCN	7200W全球动态不重复住宅IP代理
虚拟信用卡+独立站收款	全球虚拟卡, 支持U充值	各种主页、账单户、BM户（优势）	⚡️TikTok企业户，bm户，账单户
IPCola原生住宅IP⚡️$1.8/条双ISP	提供TK企业新户老户、谷歌新户老户	PTM虚拟卡[全新卡BIN+高返点]	FB虚拟卡⚡️消费越多返现越多
FB稳定代理/住宅IP/ADV50打五折	FB个号1块一个	寻找顶级电商？AdsBranded等你！	TK老户/国内外端口/预审/加白
SX.ORG 高质量代理⚡235+ 地区	GG,FB,TK, 欧美源头, 欢迎合作	广告位出租	8500万高质量住宅IP，助力各种需求
虚拟卡返佣1%，国内持牌机构