本帖最后由 dingyangfan 于 2014-8-27 09:24 编辑 8 F! g( w+ N5 n6 R# d$ o
( L' d/ b1 e! [这个站群软件开发目的一是为了流量,二是为了镜像。( ]7 |1 M0 y8 {* Z9 W9 G+ S
5 C- T: p1 ^* V4 z. \
不管是亚马逊还是易趣脸谱等什么网站,都可以瞬间镜像到我的域名下,可以一个域名对多个目标站,也可以一个域名对一个站。还可以自动蔓延,爬虫会顺着目标网站的外链爬啊爬。。。经2周测试,4个域名,到现在2014年8月20日21点06分,已经镜像了3568645个网站 ,谷歌收录数将近57w,之前测试阶段日流量最高达到9000IP每天。可以预见将来的流量只会更多哦~0 U4 i9 k2 D4 N: D# o6 P
9 \% P3 V1 b$ W下面开发计划还有 关键词蔓延,同义词替换,各种语言替换,以及CS注入等功能,各位有需求的也可以向我反映下,我会根据计划逐步开发 & ~0 G C4 a4 ]" Q3 j
目前,这套程序已经上线测试。但是一个人开发这套软件,确实耗用了大量精力,我也无意靠开发软件去赚这个钱,本意还是想在英文网络营销,IM的世界里走的更远。借鉴一句话:如果想走的快,请独行;如果想走的远,请结伴!
, ~8 P3 G" i5 {3 D) R, s4 Q! n7 S
现诚心诚意召唤小伙伴,共同奋斗{:soso_e130:}
1 |/ ]& T' t0 Q. @/ i( q
站群软件功能如下: 基本功能:顶级域名镜像多个网站,多个域名镜像一个网站都行。限制一个域名镜像一个网站(镜像,域名覆盖,单域对多镜像,多域对单镜像) 替换功能:支持文本替换,正则替换 代理功能:支持使用代理访问镜像网站(可以防止被网站主k掉我们的服务器) 错误状态码功能:可以指定错误的返回码显示的友好页面 缓存功能:设置多种文件格式是否被缓存,设置css js image html等常用文件的缓存时间 代码插入功能:可以在网页中头部和尾部插入代码(可以是广告,可以是统计代码) 域名功能:设置不允许被镜像的域名或者.com \.cn后批不允许被添加进镜像 自动蔓延功能:在没有对域名进行限制的情况下,网站会把网站中的外链变成自己的网站,一直循环下去,让爬虫出不去 插件功能:目前插件有手机网页插件,原镜像网站统计代码去除插件,翻译插件,同义词插件(目前性能不稳定),轮链接插件 日志功能:通过日志可以查看哪些镜像网站把我们的服务器封掉了,或者别人的网站出现问题或者打不开的情况。然后我们通过插件或者代理做出调整 - H1 W; @4 }+ O. \& {6 W
0 u* E8 C6 W/ |# E) g6 W1 k视频:http://v.youku.com/v_show/id_XNzUzNTM5OTc2.html
8 U( K0 E" V, A% g. v0 l! I如果不可以放链接,请版主手下留情,帮我去掉就可以了。
; m( u" V7 b r7 _
0 c0 E) x& K' { c0 ?, N今晚准备新添加一个功能
) ?1 ?, @. ~7 w, g1 Z* a3 x# b: z& g* i4 N% ^2 I% n8 o
xxx.com + alias decode 查询 主机是否存在 不存在就是默认的+ K e$ `$ m" `
- X6 E9 x( `' ~+ y- w
http://xxx.com
1 r6 g( Q& q# M- ~[img]http://xxx.com/image/1.jpg对不起,我们不允许远程图片. 请将图片上传到论坛4 @' ]- Z9 E. ~# S' G- n3 u$ Z
[img]http://xxx.com/alias/1.jpg对不起,我们不允许远程图片. 请将图片上传到论坛: P6 v7 F6 L3 W' {
{% M) h! @- X! p
替换中的实现' m; a( |- i7 Y$ D1 S# A6 T
替换之前要补全网址,因为对应的二级目录是一个域名镜像,所以我们要把/开头的网址自动补全http://xxx.com/alias/xxxx/aaaa.htm3 @8 i# Y/ Q2 K$ z |
查找,替换的时候通过currentdomain中的值来判断是否为二级目录,进行实现二级目录功能# W1 T2 U& z N6 z4 _
' G0 V0 P+ F# b( H4 B& a& N% g6 H/ w0 j测试
' w }- H/ V& e& { J$ W
* t* n! e! P% P" V$ h
% m& \4 T# c* g0 I2014.8.24号更新
" a2 }& J. c# v8 h4 K, D增强替换功能(优化替换方式,增强性能,增中路径匹配替换,三种替换方式,[普通替换,正则替换,DOM替换])
0 h* c/ I0 r) T信息数据收集(账号,email数据收集中,为建立统一的垃圾库做准备,使得系统得到的email或者其他信息都是90%有效的)开关自动蔓延功能7 H8 a* A2 o$ Q% T4 {' k
后台批量添加镜像
5 \# y* W9 t9 q3 d1 t
7 ?. }$ f# j: k5 e; O( p( L+ z
5 ^: P. n6 ]! P5 r1 }+ d( X |