Python3.x网页分析HTMLParser基础用法
2016-09-19 00:00
543 查看
HTMLParser是python用来解析html的模块。它可以分析出html里面的标签、数据等等,是一种处理html的简便途径。HTMLParser采用的是一种事件驱动的模式,当HTMLParser找到一个特定的标记时,它会去调用一个用户定义的函数,以此来通知程序处理。它主要的用户回调函数的命名都是以handler_开头的,都是HTMLParser的成员函数。当我们使用时,就从HTMLParser派生出新的类,然后重新定义这几个以handler_开头的函数即可。这几个函数包括:
handle_startendtag 处理开始标签和结束标签
handle_starttag 处理开始标签,比如<xx>
handle_endtag 处理结束标签,比如</xx>
handle_charref 处理特殊字符串,就是以开头的,一般是内码表示的字符
handle_entityref 处理一些特殊字符,以&开头的,比如
handle_data 处理数据,就是<xx>data</xx>中间的那些数据
handle_comment 处理注释
handle_decl 处理<!开头的,比如<!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"
handle_pi 处理形如<?instruction>的东西
下面是利用HTMLParser抓取豆瓣电影的程序
上面抓取热门电影的核心程序
handle_startendtag 处理开始标签和结束标签
handle_starttag 处理开始标签,比如<xx>
handle_endtag 处理结束标签,比如</xx>
handle_charref 处理特殊字符串,就是以开头的,一般是内码表示的字符
handle_entityref 处理一些特殊字符,以&开头的,比如
handle_data 处理数据,就是<xx>data</xx>中间的那些数据
handle_comment 处理注释
handle_decl 处理<!开头的,比如<!DOCTYPE html PUBLIC "-//W3C//DTD HTML 4.01 Transitional//EN"
handle_pi 处理形如<?instruction>的东西
下面是利用HTMLParser抓取豆瓣电影的程序
# -*- coding: utf-8 -*- import urllib2 from HTMLParser import HTMLParser class MovieParser(HTMLParser): def __init__(self): HTMLParser.__init__(self) self.movies = [] def handle_starttag(self, tag, attrs): def _attr(attrlist, attrname): for attr in attrlist: if attr[0] == attrname: return attr[1] return None if tag == 'li' and _attr(attrs, 'data-title') and _attr(attrs, 'data-category') == 'nowplaying': movie = {} movie['title'] = _attr(attrs, 'data-title') movie['score'] = _attr(attrs, 'data-score') movie['director'] = _attr(attrs, 'data-director') movie['actors'] = _attr(attrs, 'data-actors') self.movies.append(movie) print('%(title)s|%(score)s|%(director)s|%(actors)s' % movie) def nowplaying_movies(url): headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/47.0.2526.73 Safari/537.36'} req = urllib2.Request(url, headers=headers) s = urllib2.urlopen(req) parser = MovieParser() parser.feed(s.read()) s.close() return parser.movies if __name__ == '__main__': url = 'http://movie.douban.com/nowplaying/xiamen/' movies = nowplaying_movies(url) import json print('%s' % json.dumps(movies, sort_keys=True, indent=4, separators=(',', ': ')))
上面抓取热门电影的核心程序
def handle_starttag(self, tag, attrs): def _attr(attrlist, attrname): for attr in attrlist: if attr[0] == attrname: return attr[1] return None
相关文章推荐
- 网页制作之html基础学习5-background-position用法
- Html基础语法之网页架构标签的用法
- [零基础学python]Hello,第一个网页分析
- Python获取网页内容、使用BeautifulSoup库分析html
- Python3.X抓取网页html乱码问题
- HtmlParser初探--使用Nodefilter和Visitor进行网页分析
- [python] 常用正则表达式爬取网页信息及分析HTML标签总结
- HtmlParser初探--使用Nodefilter和Visitor进行网页分析
- 【转】HtmlParser初探--使用Nodefilter和Visitor进行网页分析
- HtmlParser初探--使用Nodefilter和Visitor进行网页分析
- Python常用正则表达式爬取网页信息及分析HTML标签总结
- [python] 常用正则表达式爬取网页信息及分析HTML标签总结
- htmlparser visitor用法 自定义标签 大文件快速读取,并分析,彻底解决 outofmemery错误
- Python基础教程之内置函数locals()和globals()用法分析
- python基础-range用法_python2.x和3.x的区别
- python模块之HTMLParser之穆雪峰的案例(理解其用法原理)
- HTMLParser解析网页,提取链接地址、标题名称,并插入数据库 分类: python 小练习 HTMLParser 2014-02-19 09:57 519人阅读 评论(0) 收藏
- C#htmlparser分析网页
- HtmlParser初探--使用Nodefilter和Visitor进行网页分析
- [python] 常用正则表达式爬取网页信息及分析HTML标签总结