本帖最后由 dingyangfan 于 2014-8-27 09:24 编辑 2 ?& d) ]) I. r' w5 k
. d+ l9 z6 [ `+ u+ |
这个站群软件开发目的一是为了流量，二是为了镜像。
7 S' O6 @: v2 u
/ F+ M& D+ h# c5 Z& o, \4 j7 C7 q' q% I不管是亚马逊还是易趣脸谱等什么网站，都可以瞬间镜像到我的域名下，可以一个域名对多个目标站，也可以一个域名对一个站。还可以自动蔓延，爬虫会顺着目标网站的外链爬啊爬。。。经2周测试，4个域名，到现在2014年8月20日21点06分，已经镜像了3568645个网站 ，谷歌收录数将近57w，之前测试阶段日流量最高达到9000IP每天。可以预见将来的流量只会更多哦~8 X* ^2 K" N/ @& v9 O
: v' U7 {% h; D# \3 Z
下面开发计划还有 关键词蔓延，同义词替换，各种语言替换，以及CS注入等功能，各位有需求的也可以向我反映下，我会根据计划逐步开发
% L6 E: N; |8 z) c( n9 D, D
目前，这套程序已经上线测试。但是一个人开发这套软件，确实耗用了大量精力，我也无意靠开发软件去赚这个钱，本意还是想在英文网络营销,IM的世界里走的更远。借鉴一句话：如果想走的快，请独行；如果想走的远，请结伴！
6 y" j+ J" `( M* P( g o4 `' y
现诚心诚意召唤小伙伴，共同奋斗{:soso_e130:} . ]6 w6 o7 d& P% F
站群软件功能如下： 基本功能：顶级域名镜像多个网站，多个域名镜像一个网站都行。限制一个域名镜像一个网站（镜像，域名覆盖，单域对多镜像，多域对单镜像） 替换功能：支持文本替换，正则替换 代理功能：支持使用代理访问镜像网站（可以防止被网站主k掉我们的服务器） 错误状态码功能：可以指定错误的返回码显示的友好页面 缓存功能：设置多种文件格式是否被缓存，设置css js image html等常用文件的缓存时间 代码插入功能：可以在网页中头部和尾部插入代码（可以是广告，可以是统计代码） 域名功能：设置不允许被镜像的域名或者.com \.cn后批不允许被添加进镜像 自动蔓延功能：在没有对域名进行限制的情况下，网站会把网站中的外链变成自己的网站，一直循环下去，让爬虫出不去 插件功能：目前插件有手机网页插件，原镜像网站统计代码去除插件，翻译插件，同义词插件（目前性能不稳定），轮链接插件 日志功能：通过日志可以查看哪些镜像网站把我们的服务器封掉了，或者别人的网站出现问题或者打不开的情况。然后我们通过插件或者代理做出调整 & B0 k# C0 T) C& n7 ^
. m/ W# s3 n8 c视频：http://v.youku.com/v_show/id_XNzUzNTM5OTc2.html
: f B0 w3 s a; [( v- E8 n W如果不可以放链接，请版主手下留情，帮我去掉就可以了。 5 B( ^- \" D2 ]/ E5 M8 r6 K
& ?3 C" o% z: l: @
今晚准备新添加一个功能
# l, b" c- A5 V* C! P" A/ Y- C! t6 d# ?+ @4 l I
xxx.com + alias decode 查询 主机是否存在 不存在就是默认的! L0 I! O0 R! C
; u& E. _* r' A
http://xxx.com
1 Q6 Y, o; l$ ^4 z7 i* `[img]http://xxx.com/image/1.jpg对不起，我们不允许远程图片. 请将图片上传到论坛
, l+ h2 S% M) g$ S; g) I- o8 |[img]http://xxx.com/alias/1.jpg对不起，我们不允许远程图片. 请将图片上传到论坛& O0 G# a( h0 i$ A! ^
) y1 Z8 I7 w0 A* y- p% w, d! L( g
替换中的实现
5 U( N" U8 A3 p" e% I替换之前要补全网址，因为对应的二级目录是一个域名镜像，所以我们要把/开头的网址自动补全http://xxx.com/alias/xxxx/aaaa.htm
8 f* Y b+ ]% n4 D3 u查找，替换的时候通过currentdomain中的值来判断是否为二级目录，进行实现二级目录功能( Q R3 ^3 ~! I* X% q5 a5 Q' p
6 s+ d- x7 K. V% G S- c测试+ ]5 \4 F2 ]4 @
# l# g) y/ ~) y+ z8 r1 Q9 n0 T+ Q4 G1 m4 Q1 x0 K: T
2014.8.24号更新# |3 F; z* p2 q* n$ _
增强替换功能（优化替换方式，增强性能，增中路径匹配替换，三种替换方式，[普通替换,正则替换,DOM替换]）
6 { G- i' f4 B% z5 q6 g信息数据收集（账号，email数据收集中，为建立统一的垃圾库做准备，使得系统得到的email或者其他信息都是90%有效的）开关自动蔓延功能* h( Z$ u! w8 Z y ]& _' O
后台批量添加镜像
* ]' z+ y' o$ t4 M! K$ q, N- n/ A* G$ w
; {8 C( x6 U! I h. |+ H
| 
发表于 2014-8-10 11:13:58
发表于 2014-8-10 21:57:44
楼主
发表于 2014-8-11 23:42:07
搞了三个月。对有业务帮助我的人，真可以考虑开源。
不会录，怎么办，求解。
发表于 2014-8-20 21:58:19
