首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 网站开发 > Web前端 >

Webharvest网络爬虫施用总结

2013-03-06 
Webharvest网络爬虫应用总结文章来源:http://www.blogjava.net/hankchen/archive/2009/09/22/296000.htmlW

Webharvest网络爬虫应用总结
文章来源:http://www.blogjava.net/hankchen/archive/2009/09/22/296000.html

Web-Harvest是一个Java开源Web数据抽取工具。它能够收集指定的Web页面并从这些页面中提取有用的数据。其实现原理是,根据预先定义的配置文件用httpclient获取页面的全部内容(关于httpclient的内容,本博有些文章已介绍),然后运用XPath、XQuery、正则表达式等这些技术来实现对text/xml的内容筛选操作,选取精确的数据。前两年比较火的垂直搜索(比如:酷讯等)也是采用类似的原理实现的。Web-Harvest应用,关键就是理解和定义配置文件,其他的就是考虑怎么处理数据的Java代码。当然在爬虫开始前,也可以把Java变量填充到配置文件中,实现动态的配置。

(友情提示:本博文章欢迎转载,但请注明出处:陈新汉,http://www.blogjava.net/hankchen)

现在以爬取天涯论坛的所有版面信息为例,介绍Web-Harvest的用法,特别是其配置文件。

天涯的版块地图页面时:http://www.tianya.cn/bbs/index.shtml



[天涯的部分版面列表]

我们的目标就是要抓取全部的版块信息,包括版块之间的父子关系。

先查看版块地图的页面源代码,寻求规律:

<div id="item天涯杂谈">天涯杂谈</a></li>

              <li><a href="http://www.tianya.cn/publicforum/articleslist/0/worldlook.shtml" id="item国际观察">国际观察</a></li>

              <li><a href="http://www.tianya.cn/publicforum/articleslist/0/news.shtml" id="item天涯时空">天涯时空</a></li>

              <li><a href="http://www.tianya.cn/publicforum/articleslist/0/no06.shtml" id="item传媒江湖">传媒江湖</a></li>

              …… //省略

</ul>

</div>

<div id="item莲蓬鬼话">莲蓬鬼话</a></li>

                     <li><a href="http://www.tianya.cn/publicforum/articleslist/0/no05.shtml" id="item煮酒论史">煮酒论史</a></li>

                     <li><a href="http://www.tianya.cn/publicforum/articleslist/0/culture.shtml" id="item舞文弄墨">舞文弄墨</a></li>

                     ……. //省略

              </ul>

</div>

<div id="xxx">xxx</a></li>,这些规律就是webharvest爬数据的规则。

下面先给出全部的配置:(tianya.xml)

<config charset="utf-8">

         <var-def name="start">

            <html-to-xml>

                   <http url="http://www.tianya.cn/bbs/index.shtml" charset="utf-8" />

            </html-to-xml>

         </var-def>

         <var-def name="ulList">

            <xpath expression="//div[@class='bankuai_list']">

                   <var name="start" />

            </xpath>

         </var-def>

        <file action="write" path="tianya/siteboards.xml" charset="utf-8">

               <![CDATA[ <site> ]]>

               <loop item="item" index="i">

                   <list><var name="ulList"/></list>

                   <body>

                       <xquery>

                           <xq-param name="item">

                            <var name="item"/>

                           </xq-param>

                           <xq-expression><![CDATA[

                                   declare variable $item as node() external;

                                   <board boardname="{normalize-space(data($item//h3/text()))}" boardurl="">

                                   {

                                         for $row in $item//li return

                                             <board boardname="{normalize-space(data($row//a/text()))}" boardurl="{normalize-space(data($row/a/@href))}" />

                                  }

                                  </board>

                           ]]></xq-expression>

                       </xquery>

                   </body>

               </loop>

               <![CDATA[ </site> ]]>

        </file>

</config>

这个配置文件分为三个部分:

1.      定义爬虫入口:

<var-def name="start">

   <html-to-xml>

        <http url="http://www.tianya.cn/bbs/index.shtml" charset="utf-8" />

      </html-to-xml>

   </var-def>

       爬虫的入口URL是:http://www.tianya.cn/bbs/index.shtml

       同时,指定了爬虫的爬数据的编码,这个编码应该根据具体的页面编码来定,例如上面的入口页面的编码就是utf-8。其实,有很多的中文页面的编码是gbk或者gb2312,那么这个地方的编码就要相应设置,否则会出现数据乱码。

2.      定义数据的过滤规则:

<var-def name="ulList">

    <xpath expression="//div[@class='bankuai_list']">

        <var name="start" />

       </xpath>

</var-def>

       上面配置就是根据XPath从爬得的数据中筛选合适的内容。这里需要得到所有的<div boardurl="">

{

       for $row in $item//li return

<board boardname="{normalize-space(data($row//a/text()))}" boardurl="{normalize-space(data($row/a/@href))}" />

}

</board>

相关的Java代码如下:

/**

* Copyright(C):2009

* @author陈新汉

* Sep4,20093:24:58PM

*/

String configFile="tianya.xml";

ScraperConfiguration config = new ScraperConfiguration(configFile);

String targetFolder="c:\\chenxinhan";

Scraper scraper = new Scraper(config,targetFolder);

//设置爬虫代理

scraper.getHttpClientManager().setHttpProxy("218.56.64.210","8080");

scraper.setDebug(true);

scraper.execute();

上面代码执行完成后,收集的数据文件地址为:c:\chenxinhan\tianya\siteboards.xml

友情提示:本博文章欢迎转载,但请注明出处:陈新汉,http://www.blogjava.net/hankchen

热点排行