|
|
发表于 2015-7-31 17:09:37
|
显示全部楼层
你要的只是产品名称和产品URL吧。
. P% ]! n2 c# g9 s4 [' K# g |很简单:9 G2 w M/ r8 K
1.打开amazon.com的robots.txt文件,找到sitemap:9 x: \( {$ A6 E; d' [
http://www.amazon.com/robots.txt" B, H* a# T8 T2 e" X' z
- # Sitemap files
2 W: m2 v- w( D3 |% Q5 |# y - Sitemap: http://www.amazon.com/sitemap-manual-index.xml
5 m* m$ }) j' G( d# ? - Sitemap: http://www.amazon.com/sitemap_vendor_videos_us.xml/ I* t2 A5 x# Z
- Sitemap: http://www.amazon.com/sitemaps.4acb100d6c5a79c.SitemapIndex_0.xml.gz
5 k! a, d8 r2 _. M$ C0 C - Sitemap: http://www.amazon.com/sitemaps.f3053414d236e84.SitemapIndex_0.xml.gz% @6 p& O3 E" s1 ?# i ?
- Sitemap: http://www.amazon.com/sitemaps.1946f6b8171de60.SitemapIndex_0.xml.gz0 L7 w# @* ]; A. Z! \3 c; _, v
- Sitemap: http://www.amazon.com/sitemaps.bbb7d657c7e29fa.SitemapIndex_0.xml.gz
0 f a! [' \9 h - Sitemap: http://www.amazon.com/sitemaps.11aafed315ee654.SitemapIndex_0.xml.gz4 \5 V+ ^: e' x" e1 z
- Sitemap: http://www.amazon.com/sitemaps.c21f969b5f03d33.SitemapIndex_0.xml.gz
y; ]& Z6 M$ k" h" h - Sitemap: http://www.amazon.com/sitemaps.1470994145d5519.SitemapIndex_0.xml.gz
复制代码 2.找到相对应的产品的sitemap的索引压缩文件。, h" T% K! J% S! ]" B1 O
3.下载索引压缩文件后解压。6 _6 p6 O% ]& }
4.将解压后的索引文件只的sitemap的url取出来,放到迅雷里面将上百个对应的产品sitemap的压缩文件下载下来。
" W: W4 t3 Y q% X+ ?- h5.下载后解压这些sitemap压缩文件。
' k/ r( ]; e& ~5 a+ D8 f; r6.写程序读取解压后的xml文件,取出里面的<loc>http://www.amazon.com/你要的产品名称等 </loc>值存到数据库里就可以了。
* l' o, \9 }. J% w: M k7.没有什么了吧,剩下就由你自己发挥弄吧。, X/ s: j. A. N5 ]3 o% K! I* M" X
% z! q! G$ ^$ j% U0 F感觉利用sitemap的方法能快一些,我没有用过api,听说api有调用限制的。0 o; O6 z) ^, [9 b q
/ ^# p: i5 @/ F9 g$ z9 H9 |
各位喜欢的赶快顶我一下吧。
# C, {( b; ]3 s! Y
: ~; ?$ P n& W' s |
评分
-
查看全部评分
|