您的位置:首页 > Web前端 > JavaScript

国庆第三天2014年10月3日10:21:39,Nutz,WebCollector,jsoup

2014-10-03 10:35 183 查看
(1)做得好,做得快,只能选择一样。

(2)时间过得很快,你没法在假期的一天里完成更多的计划。假期全部由自己支配,相对长一点的睡眠,新加入的娱乐(视频或者游戏),你不比在工作中更有效率。

(3)每天练习一点,记录下来。假期来整合优化巩固,是最好的选择。进步每一天。

(4)不要太期待假期。

(5)参照Nutz 入门教程第一讲,做一个小应用。 视频不清晰还是看完两遍,还是照着一点点的写出来。视频比较直观,Nutz的文档很详细的,但是任然觉得看视频还是更快,看文档太慢了,或许我看文档的方式要改进下。

(6)JAVA爬虫 WebCollector:

官网APIosc简介Cookbook&Api

一个读取API的例子:MyParser.java, DocCrawler.java

package demo.hello;

import cn.edu.hfut.dmic.webcollector.crawler.BreadthCrawler;
import cn.edu.hfut.dmic.webcollector.model.Page;
import cn.edu.hfut.dmic.webcollector.parser.Parser;
import cn.edu.hfut.dmic.webcollector.util.Config;

public class DocCrawler extends BreadthCrawler{
@Override
public Parser createParser(String url, String contentType) throws Exception {
if(contentType==null)
return null;
if(!contentType.contains("text/html"))
return null;
return new MyParser(Config.topN);
}

public static void main(String[] args) throws Exception{
DocCrawler crawler=new DocCrawler();
crawler.addSeed("http://crawlscript.github.io/WebCollectorDoc/");
crawler.addRegex("http://crawlscript.github.io/WebCollectorDoc.*");
crawler.setRoot("pages");
crawler.setThreads(20);
crawler.start(10);
}
}


View Code
(7)HTML解析器 jsoup
官网osc简介
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: