一个开源的正文提取程序

bjzhush

5 q: R7 ^1 `/ t- w" }. j4 ^; Q   最近尝试一些伪原创的东西,那么第一步就是要根据策略从一定的数据源抓取信息,然后整合,替换近义词,打乱什么的,
做的过程中,发现了一个非常不错的开源的PHP正文提取的开源程序,可以将正文内容提取出来,准确率还不错,尤其是对blog之类的,文章里的图片也没问题
4 B" W+ t/ t- K1 a% M" L有篇blog对这个介绍的比较详细,我就不在这里赘述了

这里可以看详细的介绍以及DEMO :

1. http://urlshort.shuaizhu.com/1k2

复制代码

这里你可以输入一个URL进行测试:

1. http://urlshort.shuaizhu.com/1k3

复制代码

这里你可以直接下载程序安装到本地:

1. http://urlshort.shuaizhu.com/1k4

复制代码

PS:
1 |4 A; o3 A& W$ L2 d  e1 `
2013年09月29日17:47:27 补充
# K  Y2 u. z! N; D+ z

% x# Y- a7 w" V- N+ `& b
我今天发现,这个自带了HTML格式预览和json结构返回2种功能,之前没有仔细读readme,也没仔细看代码


只需要在调用的url中加上  &type=json  即可以json格式返回提取的正文/标题/url !!!

7 }; ~: W( E  u  j) s- t

bjzhush

感谢 @mj23zyb  帮我编辑URL格式,以前论坛用的少,这个还不太熟,以后我会注意

阴天的下午

不错，好东西，刚试试了下网页版的还可以，不知道工具有无批量转换的功能。

bjzhush

阴天的下午 发表于 2013-9-28 22:31
: F; z4 B6 a) X7 E* X5 X9 ~不错，好东西，刚试试了下网页版的还可以，不知道工具有无批量转换的功能。 ...

5 |3 G9 z4 C- s4 L3 l: D$ w这个东西做一个接口非常容易的
       $title   = $Data['title'];
        $content = $Data['content'];
        include 'template/reader.html';
3 G0 y' V; F, Y5 n7 g这是index.php的最后的部分,只需要把include所在的一行注释掉,然后加一行
1 {$ T5 U* I9 n; g2 |5 L% a5 {        echo json_encode($Data);
就可以以json格式返回,那么需要批量的时候,直接每次调取就可以了
如果还不清楚,可以继续问
/ ?6 w3 Z2 C0 M+ x2 F5 S$ l* O7 I# d

阿百川

自从用过这个之后，自己用的模板就全修改了一遍

JasonLee

感谢 真心很不错的 希望楼主以后能继续分享类似的

bjzhush

阿百川 发表于 2013-9-29 07:55
自从用过这个之后，自己用的模板就全修改了一遍

什么意思呢? 为什么要修改模板

阿百川

bjzhush 发表于 2013-9-29 11:07
什么意思呢? 为什么要修改模板

防止被这种程序提取内容

bjzhush

阿百川 发表于 2013-9-29 11:42
9 ^) L$ G1 g* V' |8 `* o防止被这种程序提取内容

真的要扒你的站,你是防不住的
! `: e) k& |. x8 t0 G# z不怕贼偷,就怕贼惦记,哈哈

bjzhush

阴天的下午 发表于 2013-9-28 22:31
# x9 W  _3 u  S" z0 x6 a# e# @不错，好东西，刚试试了下网页版的还可以，不知道工具有无批量转换的功能。 ...

7 h; d0 M: K0 a我今天发现,这个自带了HTML格式预览和json结构返回2种功能,之前没有仔细读readme,也没仔细看代码

  r0 ^5 b7 ~3 X
7 e1 K1 E" c! u6 a只需要在调用的url中加上  &type=json  即可以json格式返回提取的正文/标题/url !!

今天刚刚发现的