AdvertCN - 广告中国

 找回密码
 立即注册

QQ登录

只需一步,快速开始

PropellerAds
Google-Bing-Mediago-Criteo开户
⚡️按条S5代理⚡️静态⚡️独享⚡️5G广告专用虚拟卡/U充值/高返点皇家代理IP⚡️#1性价比⚡️
Mediabuy⚡️玩家开户首选【鲁班跨境通-自助充值转账】FB/GG/TT❤️官方免费开户Affiliate 全媒体流量资源⚡️
Taboola/Outbrain /Bing⚡️一级代理开户投流-7*24h❤️人工在线【官方】❤️搜索套利买量投流开户独立站⚡️开户投放
⚡️AdsPower:安全不封号,高效自动化Google FB TK游戏代投⚡️E.PN 虚拟卡⚡️BINOM TRACKER 60% OFF!
比Adplexity还好用的Spy工具ADPLEXITY + ADVERTCN7200W全球动态不重复住宅IP代理虚拟信用卡+独立站收款
全球虚拟卡, 支持U充值各种主页、账单户、BM户(优势)⚡️TikTok企业户,bm户,账单户IPCola原生住宅IP⚡️$1.8/条双ISP
FB海外户、GG老户、TK加白老户PTM虚拟卡[全新卡BIN+高返点]FB虚拟卡⚡️消费越多返现越多最大欧洲Nutra网盟BA找量
高品质·稳定高速纯净IP FB个号1块一个TikTok2审户/老户/国内外端口/加白SX.ORG 高质量代理⚡235+ 地区
GG,FB,TK, 欧美源头, 欢迎合作❤️跨境债务催收/风险代理高权重Google老户[卖户+筛户等级] 海外斗篷・智能广告过审率高达 99%
DataImpulse⚡️纯净住宅代理仅 $1FB企业户海外户,授信户,TK加白户广告位出租8500万高质量住宅IP,助力各种需求
虚拟卡返佣1%,国内持牌机构   
查看: 13806|回复: 15

[讨论] 在知道域名的情况下,有没有可能采集这个网站所有的网页

[复制链接]

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

发表于 2014-8-17 00:54:28 | 显示全部楼层 |阅读模式
本帖最后由 白龙君 于 2014-8-17 16:22 编辑 $ i8 Y$ n# Q0 f/ n" i

/ D7 t0 b3 k) c% r4 E/ [  p& `额。。。找到一个放LP的域名,想SPY一下域名下可能存放的其他LP5 U2 Q: n! o9 Y$ e9 h

) Z1 i+ A: I6 p$ esite高级搜索命令啥也搜索不到。。。火车采集好像也不行啊。。。( u" j! ?( o3 B0 \0 }% q) G& Q/ r7 X+ F

3 F, D, I) t) I1 q( c# r已知url格式是这样的 http://domain.com/lp/test/?s=27566552! D, v; s2 X, C* V) K1 H/ @3 c' y: ~
相关帖子
回复

使用道具 举报

4

主题

1803

广告币

2349

积分

高级会员

Rank: 4

积分
2349

社区QQ达人

发表于 2014-8-17 01:37:32 | 显示全部楼层
如果相互有链接,或sitemap之类,肯定没问题。过滤其它信息,只要页面上有链接存在,就访问并保存,类似写个爬虫……如果没内链,我想不出来有什么办法能发现其它网页

评分

参与人数 1广告币 +2 收起 理由
白龙君 + 2 很给力!

查看全部评分

回复 支持 1 反对 0

使用道具 举报

83

主题

1798

广告币

4141

积分

金牌会员

Rank: 6Rank: 6

积分
4141

社区QQ达人

发表于 2014-8-17 12:01:33 | 显示全部楼层
如果他们之间有互链的就可以。如果没有就没有办法了。

点评

谢谢  发表于 2014-8-17 16:28
回复 支持 反对

使用道具 举报

53

主题

617

广告币

1507

积分

高级会员

Rank: 4

积分
1507

社区QQ达人

发表于 2014-8-17 15:00:26 | 显示全部楼层
要是我,我肯定把LP 隐藏的很深 。。不会轻易让你猜到的,用爬虫也无力,只能碰碰运气了。
回复 支持 反对

使用道具 举报

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

 楼主| 发表于 2014-8-17 16:23:42 | 显示全部楼层
akzovk 发表于 2014-8-17 01:37, N* F# A5 X! ^1 Q
如果相互有链接,或sitemap之类,肯定没问题。过滤其它信息,只要页面上有链接存在,就访问并保存,类似写 ...
" L% U6 d5 w: x& i2 |
已知url格式是这样的 http://domain.com/lp/test/?s=27566552
" p# E) {: L8 w# t# X. Q6 Z
7 Y* _+ e  [8 |我昨天尝试用火车头从s=1采集,不过貌似不行啊。。。
回复 支持 反对

使用道具 举报

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

 楼主| 发表于 2014-8-17 16:27:54 | 显示全部楼层
malong101 发表于 2014-8-17 04:22
; F. k3 _( s3 o. }+ \不知道其他文件名 就没法弄了 除非黑了他
4 \- e" {1 r  h8 P5 J6 l
已知url格式是这样的 http://domain.com/lp/test/?s=27566552
回复 支持 反对

使用道具 举报

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

 楼主| 发表于 2014-8-17 16:29:27 | 显示全部楼层
tmdsoft 发表于 2014-8-17 15:007 k9 f$ u; n+ Y. S2 G2 B
要是我,我肯定把LP 隐藏的很深 。。不会轻易让你猜到的,用爬虫也无力,只能碰碰运气了。 ...
0 ^, A4 j2 i) h' ]8 _, V+ a
已知url格式是这样的 http://domain.com/lp/test/?s=275665526 h- B( g5 h+ c: L  i. Q) S# u

/ V0 {$ ^' D& s; _+ s) L0 N其实我是先找到他的一个LP,像看看他域名写下有没有其他LP
回复 支持 反对

使用道具 举报

54

主题

9

广告币

6010

积分

禁止访问

积分
6010
发表于 2014-8-17 18:47:43 | 显示全部楼层
白龙君 发表于 2014-8-17 16:29
, _0 j5 g7 M) l已知url格式是这样的 http://domain.com/lp/test/?s=27566552* g- X7 i1 j& y& F4 G
* [* c( b" t3 _8 m, [5 y( }: ?* r* D
其实我是先找到他的一个LP,像看看他域名 ...

9 `6 G- O' U% n9 Z; X  ~6 ^暴力猜解s参数

点评

嗯。。。谢谢  发表于 2014-8-18 15:25
回复 支持 反对

使用道具 举报

4

主题

1803

广告币

2349

积分

高级会员

Rank: 4

积分
2349

社区QQ达人

发表于 2014-8-17 21:49:32 | 显示全部楼层
白龙君 发表于 2014-8-17 16:23
$ t* K. O* `7 s8 J$ d! ?已知url格式是这样的 http://domain.com/lp/test/?s=27566552
: p! b6 y# L* g  `3 X* T1 ^8 A; S
! q2 a$ Y: r% ^5 R我昨天尝试用火车头从s=1采集,不过貌似不 ...

, o. \' k' Q. h! _4 i如果你确定test这个是不变的话,那很好办好啊,就循环采集就好了啊
回复 支持 反对

使用道具 举报

119

主题

2023

广告币

2592

积分

版主

名利权情牢是非成败空大家可以叫我空或空空希望能跟大家成为朋友

Rank: 7Rank: 7Rank: 7

积分
2592

社区QQ达人

发表于 2014-8-17 21:50:49 | 显示全部楼层
我的第一个想法是到搜索引擎去看下是否被收录+ d3 d3 B/ |: V3 t
  1. inurl:http://domain.com/lp/test/?s=
复制代码

$ P3 t9 O3 w+ }2 A9 @如果没有就只能暴力猜解,暴力猜解最好自己写工具,执行效率要高,多线程。反正火车头什么的效率太低,不知道要猜解到什么时候。

评分

参与人数 1广告币 +2 收起 理由
白龙君 + 2 NB!

查看全部评分

承蒙骄阳当年提携 感谢河马现今不弃 能在广告中国做版主 我很感恩 | 我没有什么才能 更不是什么大佬 但我喜欢学习和分享 期盼在这里一起成长[我的日记]
回复 支持 反对

使用道具 举报

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

 楼主| 发表于 2014-8-18 15:25:58 | 显示全部楼层
akzovk 发表于 2014-8-17 21:498 g2 L, T  p9 l: v. ]# a. e
如果你确定test这个是不变的话,那很好办好啊,就循环采集就好了啊

9 R+ U  l$ A0 }- w+ d 貌似是不变的。。。我又找到了一个
回复 支持 反对

使用道具 举报

103

主题

483

广告币

1732

积分

高级会员

Rank: 4

积分
1732

社区QQ达人

 楼主| 发表于 2014-8-18 15:26:35 | 显示全部楼层
fatiery 发表于 2014-8-17 21:50
# T" H* c0 c* H我的第一个想法是到搜索引擎去看下是否被收录
# h1 n4 ^1 ^! \4 P* U/ c, Q
9 c1 H0 N5 E$ J如果没有就只能暴力猜解,暴力猜解最好自己写工具,执行效率 ...
; a* R7 |4 o4 v) D0 A" r
高手啊。。。。暂时还没有写采集工具的能力
回复 支持 反对

使用道具 举报

1

主题

114

广告币

220

积分

初级会员

Rank: 2

积分
220

社区QQ达人

发表于 2014-8-18 18:16:05 来自手机 | 显示全部楼层
最简单迅雷下载,【1】~【xxxxxx】来自: iPhone客户端
回复 支持 反对

使用道具 举报

6

主题

1089

广告币

1118

积分

中级会员

Rank: 3Rank: 3

积分
1118

社区QQ达人

QQ
发表于 2014-8-24 15:47:34 | 显示全部楼层
如果有內链就没有任何问题,如果没有的话,自能去猜参数暴力的了
收亚马逊美国AFF老账号,收过款的那种
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关于我们|联系我们|DMCA|广告服务|小黑屋|手机版|Archiver|Github|网站地图|AdvertCN

GMT+8, 2026-4-4 16:18 , Processed in 0.146171 second(s), 14 queries , Gzip On, MemCache On.

Copyright © 2001-2023, AdvertCN

Proudly Operating in Hong Kong.

快速回复 返回顶部 返回列表