在知道域名的情况下，有没有可能采集这个网站所有的网页

白龙君

+ d$ W4 B% p% r额。。。找到一个放LP的域名，想SPY一下域名下可能存放的其他LP
, l6 l8 V( F& W6 q" t
- W7 D( w* d! psite高级搜索命令啥也搜索不到。。。火车采集好像也不行啊。。。
4 E* R/ |( N1 M- E5 P
已知url格式是这样的 http://domain.com/lp/test/?s=27566552

akzovk

如果相互有链接，或sitemap之类，肯定没问题。过滤其它信息，只要页面上有链接存在，就访问并保存，类似写个爬虫……如果没内链，我想不出来有什么办法能发现其它网页

spian2008

如果他们之间有互链的就可以。如果没有就没有办法了。

tmdsoft

要是我，我肯定把LP 隐藏的很深 。。不会轻易让你猜到的，用爬虫也无力，只能碰碰运气了。

白龙君

akzovk 发表于 2014-8-17 01:37
如果相互有链接，或sitemap之类，肯定没问题。过滤其它信息，只要页面上有链接存在，就访问并保存，类似写 ...

已知url格式是这样的 http://domain.com/lp/test/?s=27566552
5 l9 ^4 Z0 p9 u6 w
我昨天尝试用火车头从s=1采集，不过貌似不行啊。。。

白龙君

malong101 发表于 2014-8-17 04:22
不知道其他文件名 就没法弄了 除非黑了他

0 x5 F% a, L) r6 e- h已知url格式是这样的 http://domain.com/lp/test/?s=27566552

白龙君

tmdsoft 发表于 2014-8-17 15:00
  u$ Z5 r. o- y5 }要是我，我肯定把LP 隐藏的很深 。。不会轻易让你猜到的，用爬虫也无力，只能碰碰运气了。 ...

4 ~8 j% l0 w$ U+ |1 ~# S" O+ G已知url格式是这样的 http://domain.com/lp/test/?s=27566552
! f' y' p* U; [+ {8 f$ t( O7 d
其实我是先找到他的一个LP，像看看他域名写下有没有其他LP

阿百川

白龙君 发表于 2014-8-17 16:29
已知url格式是这样的 http://domain.com/lp/test/?s=27566552
# e7 ?5 a6 z# h3 X" x
6 {$ D" U* M. @5 v7 I6 G4 P; u- S其实我是先找到他的一个LP，像看看他域名 ...

暴力猜解s参数

akzovk

白龙君 发表于 2014-8-17 16:23
6 @2 I: Q* y6 L5 H# [3 L$ P& C/ f# f8 @已知url格式是这样的 http://domain.com/lp/test/?s=27566552
8 j0 k& A7 j. p( t, z9 T
) q- U9 ]% V6 R) z8 X- g我昨天尝试用火车头从s=1采集，不过貌似不 ...

: H% j  h, B% \/ g+ @" r如果你确定test这个是不变的话，那很好办好啊，就循环采集就好了啊

fatiery

我的第一个想法是到搜索引擎去看下是否被收录

1. inurl:http://domain.com/lp/test/?s=

复制代码

2 l: @, N/ s5 ~, N% H如果没有就只能暴力猜解，暴力猜解最好自己写工具，执行效率要高，多线程。反正火车头什么的效率太低，不知道要猜解到什么时候。

白龙君

akzovk 发表于 2014-8-17 21:49
/ X3 z0 A/ [0 O如果你确定test这个是不变的话，那很好办好啊，就循环采集就好了啊

; s/ P6 Y$ x' ?2 c 貌似是不变的。。。我又找到了一个

白龙君

fatiery 发表于 2014-8-17 21:50
( |( {0 z0 G0 M" [, a4 J2 k2 _我的第一个想法是到搜索引擎去看下是否被收录

8 X( P+ n1 X1 W: l* W如果没有就只能暴力猜解，暴力猜解最好自己写工具，执行效率 ...

' T9 m6 F- J# F7 ^ 高手啊。。。。暂时还没有写采集工具的能力

bobrey

最简单迅雷下载，【1】～【xxxxxx】来自: iPhone客户端

cdwyd

如果有內链就没有任何问题，如果没有的话，自能去猜参数暴力的了