本帖最后由 dingyangfan 于 2014-8-27 09:24 编辑
* r' U6 Y2 d) P) m$ }/ A
$ e r$ ` T2 \$ q2 t( S+ X这个站群软件开发目的一是为了流量,二是为了镜像。
8 K( P' H, D) c7 E6 f0 P
: }1 A1 w+ k( K- F, v' C5 a! l不管是亚马逊还是易趣脸谱等什么网站,都可以瞬间镜像到我的域名下,可以一个域名对多个目标站,也可以一个域名对一个站。还可以自动蔓延,爬虫会顺着目标网站的外链爬啊爬。。。经2周测试,4个域名,到现在2014年8月20日21点06分,已经镜像了3568645个网站 ,谷歌收录数将近57w,之前测试阶段日流量最高达到9000IP每天。可以预见将来的流量只会更多哦~
- g) @( E; X, x, w( y3 W+ _' k7 t( t( F) G8 M
下面开发计划还有 关键词蔓延,同义词替换,各种语言替换,以及CS注入等功能,各位有需求的也可以向我反映下,我会根据计划逐步开发
# |6 S2 K6 Q* M9 Q8 }; m9 r( Q% Y
目前,这套程序已经上线测试。但是一个人开发这套软件,确实耗用了大量精力,我也无意靠开发软件去赚这个钱,本意还是想在英文网络营销,IM的世界里走的更远。借鉴一句话:如果想走的快,请独行;如果想走的远,请结伴! 1 M" d4 m5 B2 C
现诚心诚意召唤小伙伴,共同奋斗{:soso_e130:}
6 D( t: l. @1 u! s" y1 S3 a! r
站群软件功能如下: 基本功能:顶级域名镜像多个网站,多个域名镜像一个网站都行。限制一个域名镜像一个网站(镜像,域名覆盖,单域对多镜像,多域对单镜像) 替换功能:支持文本替换,正则替换 代理功能:支持使用代理访问镜像网站(可以防止被网站主k掉我们的服务器) 错误状态码功能:可以指定错误的返回码显示的友好页面 缓存功能:设置多种文件格式是否被缓存,设置css js image html等常用文件的缓存时间 代码插入功能:可以在网页中头部和尾部插入代码(可以是广告,可以是统计代码) 域名功能:设置不允许被镜像的域名或者.com \.cn后批不允许被添加进镜像 自动蔓延功能:在没有对域名进行限制的情况下,网站会把网站中的外链变成自己的网站,一直循环下去,让爬虫出不去 插件功能:目前插件有手机网页插件,原镜像网站统计代码去除插件,翻译插件,同义词插件(目前性能不稳定),轮链接插件 日志功能:通过日志可以查看哪些镜像网站把我们的服务器封掉了,或者别人的网站出现问题或者打不开的情况。然后我们通过插件或者代理做出调整
5 m: D0 E$ T) o( `
& O& a% l4 E" Z5 N. m9 y- [6 Y6 t视频:http://v.youku.com/v_show/id_XNzUzNTM5OTc2.html - w- F t1 C+ }7 C0 i
如果不可以放链接,请版主手下留情,帮我去掉就可以了。 5 R( r' Y' y. L# X" H3 |0 P6 Z
- ~0 B6 a% ^& h l# y0 l今晚准备新添加一个功能
& [) B, i# c7 t& R# O! U
, E9 e/ L$ S1 h8 k- Vxxx.com + alias decode 查询 主机是否存在 不存在就是默认的
8 Y M8 ^2 l) C! h, ?* a/ G3 w1 Y+ K* x) F0 u% t$ N* n4 Y3 ~ l
http://xxx.com
9 H: [) ^6 U: d& b/ Z2 U, c2 r& Q[img]http://xxx.com/image/1.jpg对不起,我们不允许远程图片. 请将图片上传到论坛# s5 I( I' X: j: t& v
[img]http://xxx.com/alias/1.jpg对不起,我们不允许远程图片. 请将图片上传到论坛( }; z$ p- }2 ]2 k9 h
7 e& P5 [# @8 I: ~- q
替换中的实现3 S$ u, o) a2 @5 ~% J+ ?1 R* f$ @
替换之前要补全网址,因为对应的二级目录是一个域名镜像,所以我们要把/开头的网址自动补全http://xxx.com/alias/xxxx/aaaa.htm
. [0 w9 c6 l5 w( T查找,替换的时候通过currentdomain中的值来判断是否为二级目录,进行实现二级目录功能3 M1 [2 W- a" @0 n8 ~, S! k! @
3 J& m! A1 `& d/ C: h* \" Q/ G
测试
# I. @) w5 w' K
5 U) j4 B9 r: E4 T) Z! B: O3 g5 B9 U. M" B; T6 }0 N
2014.8.24号更新9 j# u6 ^" c( M" P6 D
增强替换功能(优化替换方式,增强性能,增中路径匹配替换,三种替换方式,[普通替换,正则替换,DOM替换])
. |7 y! f4 Z& ] d4 @' Y3 C# v信息数据收集(账号,email数据收集中,为建立统一的垃圾库做准备,使得系统得到的email或者其他信息都是90%有效的)开关自动蔓延功能
* |; C8 E3 L8 n" K! V' U5 i @后台批量添加镜像
7 f0 T% h/ ^$ G0 U' l. y3 y
7 v+ U" m9 B/ m R: ~+ l9 X9 D# X+ }
|