在知道域名的情况下，有没有可能采集这个网站所有的网页

白龙君 · 发表于 2014-8-17 00:54:28

本帖最后由白龙君于 2014-8-17 16:22 编辑

额。。。找到一个放LP的域名，想SPY一下域名下可能存放的其他LP

site高级搜索命令啥也搜索不到。。。火车采集好像也不行啊。。。

已知url格式是这样的 http://domain.com/lp/test/?s=27566552

akzovk · 发表于 2014-8-17 01:37:32

如果相互有链接，或sitemap之类，肯定没问题。过滤其它信息，只要页面上有链接存在，就访问并保存，类似写个爬虫……如果没内链，我想不出来有什么办法能发现其它网页

spian2008 · 发表于 2014-8-17 12:01:33

如果他们之间有互链的就可以。如果没有就没有办法了。

tmdsoft · 发表于 2014-8-17 15:00:26

要是我，我肯定把LP 隐藏的很深。。不会轻易让你猜到的，用爬虫也无力，只能碰碰运气了。

白龙君 · 发表于 2014-8-17 16:23:42

akzovk 发表于 2014-8-17 01:37# h( q" e1 p! U! Y/ F% s, }+ r9 o9 O
如果相互有链接，或sitemap之类，肯定没问题。过滤其它信息，只要页面上有链接存在，就访问并保存，类似写 ...

已知url格式是这样的 http://domain.com/lp/test/?s=27566552

我昨天尝试用火车头从s=1采集，不过貌似不行啊。。。

白龙君 · 发表于 2014-8-17 16:27:54

malong101 发表于 2014-8-17 04:225 E0 p r% _3 V$ R8 C
不知道其他文件名就没法弄了除非黑了他

已知url格式是这样的 http://domain.com/lp/test/?s=27566552

白龙君 · 发表于 2014-8-17 16:29:27

tmdsoft 发表于 2014-8-17 15:00
6 x- Y* | `0 m8 H, B要是我，我肯定把LP 隐藏的很深。。不会轻易让你猜到的，用爬虫也无力，只能碰碰运气了。 ...

已知url格式是这样的 http://domain.com/lp/test/?s=27566552

其实我是先找到他的一个LP，像看看他域名写下有没有其他LP

阿百川 · 发表于 2014-8-17 18:47:43

白龙君发表于 2014-8-17 16:298 U" a. B4 D; a. o& |
已知url格式是这样的 http://domain.com/lp/test/?s=27566552- q3 L+ m3 I( L. L% _: j9 H
& `" h% M( e" e5 J, {
其实我是先找到他的一个LP，像看看他域名 ...

暴力猜解s参数

akzovk · 发表于 2014-8-17 21:49:32

白龙君发表于 2014-8-17 16:23
; C. E$ F6 Z& M$ n, K已知url格式是这样的 http://domain.com/lp/test/?s=27566552$ Y* P$ @0 g. @3 ]- P2 B( e E
( d9 t$ m& a1 G: }
我昨天尝试用火车头从s=1采集，不过貌似不 ...

如果你确定test这个是不变的话，那很好办好啊，就循环采集就好了啊

fatiery · 发表于 2014-8-17 21:50:49

我的第一个想法是到搜索引擎去看下是否被收录

inurl:http://domain.com/lp/test/?s=

复制代码

如果没有就只能暴力猜解，暴力猜解最好自己写工具，执行效率要高，多线程。反正火车头什么的效率太低，不知道要猜解到什么时候。

白龙君 · 发表于 2014-8-18 15:25:58

akzovk 发表于 2014-8-17 21:49
) f9 c$ V4 c, Q, T2 L" H如果你确定test这个是不变的话，那很好办好啊，就循环采集就好了啊

貌似是不变的。。。我又找到了一个

白龙君 · 发表于 2014-8-18 15:26:35

fatiery 发表于 2014-8-17 21:50" q/ O9 V" {9 e* k0 Z
我的第一个想法是到搜索引擎去看下是否被收录" h' |# ?8 f& A6 Y% T
. V+ ~+ P4 ~4 P9 s/ a5 w% ]
如果没有就只能暴力猜解，暴力猜解最好自己写工具，执行效率 ...

高手啊。。。。暂时还没有写采集工具的能力

bobrey · 发表于 2014-8-18 18:16:05

最简单迅雷下载，【1】～【xxxxxx】来自: iPhone客户端

cdwyd · 发表于 2014-8-24 15:47:34

如果有內链就没有任何问题，如果没有的话，自能去猜参数暴力的了

		自动登录	找回密码
密码			立即注册

Google-Bing-Mediago-Criteo开户	⚡️按条S5代理⚡️静态⚡️独享⚡️5G	广告专用虚拟卡/U充值/高返点	皇家代理IP⚡️#1性价比⚡️
Mediabuy⚡️玩家开户首选	【鲁班跨境通-自助充值转账】	FB/GG/TT❤️官方免费开户	Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理	*开户投流-724h❤️人工在线**	【官方】❤️搜索套利买量投流开户	独立站⚡️开户投放
⚡️AdsPower:安全不封号,高效自动化	Google FB TK游戏代投	⚡️E.PN 虚拟卡⚡️	FB BM不限额，短id账单户
BINOM TRACKER 60% OFF!	比Adplexity还好用的Spy工具	ADPLEXITY + ADVERTCN	7200W全球动态不重复住宅IP代理
虚拟信用卡+独立站收款	全球虚拟卡, 支持U充值	各种主页、账单户、BM户（优势）	⚡️TikTok企业户，bm户，账单户
IPCola原生住宅IP⚡️$1.8/条双ISP	提供TK企业新户老户、谷歌新户老户	海外CL企业户源头	PTM虚拟卡[全新卡BIN+高返点]
FB虚拟卡⚡️消费越多返现越多	最大欧洲Nutra网盟BA找量	FB个号1块一个	寻找顶级电商？AdsBranded等你！
TK老户/国内外端口/预审/加白	SX.ORG 高质量代理⚡235+ 地区	GG,FB,TK, 欧美源头, 欢迎合作	广告位出租
8500万高质量住宅IP，助力各种需求	虚拟卡返佣1%，国内持牌机构

[讨论] 在知道域名的情况下，有没有可能采集这个网站所有的网页

评分

点评

点评

评分

社区QQ达人