一个开源的正文提取程序

bjzhush

! ^+ {" x6 U7 C) w) a3 n   最近尝试一些伪原创的东西,那么第一步就是要根据策略从一定的数据源抓取信息,然后整合,替换近义词,打乱什么的,
% s$ W! c+ \' n; ^9 N/ i3 ?- m8 o做的过程中,发现了一个非常不错的开源的PHP正文提取的开源程序,可以将正文内容提取出来,准确率还不错,尤其是对blog之类的,文章里的图片也没问题
有篇blog对这个介绍的比较详细,我就不在这里赘述了

) L. c7 P: z$ b9 Y" m( u这里可以看详细的介绍以及DEMO :

1. http://urlshort.shuaizhu.com/1k2

复制代码

这里你可以输入一个URL进行测试:

1. http://urlshort.shuaizhu.com/1k3

复制代码

这里你可以直接下载程序安装到本地:

1. http://urlshort.shuaizhu.com/1k4

复制代码

PS:

2013年09月29日17:47:27 补充


' G: Y0 [. F$ z2 M7 V& V& d
% M6 f  \* @# p0 S" W$ E5 h 我今天发现,这个自带了HTML格式预览和json结构返回2种功能,之前没有仔细读readme,也没仔细看代码
7 M& V) V  j, i/ T5 `& v
6 @2 X  L& J4 O( f9 K
+ J" o2 P" t6 _/ x) ^2 H只需要在调用的url中加上  &type=json  即可以json格式返回提取的正文/标题/url !!!


$ q& ]( C' w5 r5 x& L

bjzhush

感谢 @mj23zyb  帮我编辑URL格式,以前论坛用的少,这个还不太熟,以后我会注意

阴天的下午

不错，好东西，刚试试了下网页版的还可以，不知道工具有无批量转换的功能。

bjzhush

阴天的下午 发表于 2013-9-28 22:31
9 J$ f2 _7 e( r; D5 {6 S9 J不错，好东西，刚试试了下网页版的还可以，不知道工具有无批量转换的功能。 ...

这个东西做一个接口非常容易的
( ]6 O1 c! N7 u7 P       $title   = $Data['title'];
9 ^0 n) h0 ^( i$ R        $content = $Data['content'];
1 {% Y9 S7 B+ h" s1 U- H) I% ?        include 'template/reader.html';
这是index.php的最后的部分,只需要把include所在的一行注释掉,然后加一行
) A8 ~: L# `- Q" u% D7 D; \        echo json_encode($Data);
* k+ m9 }/ D  j+ ^% n2 P/ i就可以以json格式返回,那么需要批量的时候,直接每次调取就可以了
如果还不清楚,可以继续问

阿百川

自从用过这个之后，自己用的模板就全修改了一遍

JasonLee

感谢 真心很不错的 希望楼主以后能继续分享类似的

bjzhush

阿百川 发表于 2013-9-29 07:55
( e/ G1 D" v/ z. b自从用过这个之后，自己用的模板就全修改了一遍

什么意思呢? 为什么要修改模板

阿百川

bjzhush 发表于 2013-9-29 11:07
什么意思呢? 为什么要修改模板

防止被这种程序提取内容

bjzhush

阿百川 发表于 2013-9-29 11:42
防止被这种程序提取内容

真的要扒你的站,你是防不住的
# D  @* ?9 D& ]% I6 q# V不怕贼偷,就怕贼惦记,哈哈

bjzhush

阴天的下午 发表于 2013-9-28 22:31
: g* T9 e& y( Z不错，好东西，刚试试了下网页版的还可以，不知道工具有无批量转换的功能。 ...

我今天发现,这个自带了HTML格式预览和json结构返回2种功能,之前没有仔细读readme,也没仔细看代码
, N" C6 h, @, O( |

只需要在调用的url中加上  &type=json  即可以json格式返回提取的正文/标题/url !!

今天刚刚发现的