您的位置:首页 > 编程语言 > Python开发

Python2 下 Unicode 的一个小bug

2014-04-06 12:58 232 查看
关于Python的编码问题已经是老生常谈了,此处主要是介绍一个罕见的问题,也算是Python2的一个bug了(Python3不会有此问题)。

在有时候我们去爬取网页或者调用一些第三方库获取文本的时候,有可能会出现这样一种情况:

invalid_str = u"\xbd\xf4\xb4\xd5\xd0\xcd\xb3\xb5"


在一个unicode对象里内容居然是GBK的编码!这时候无论你怎么encode或decode,要么是抛错,要么是乱码。

实际上这种情况不应该出现的,在Python3里这种情况是不合法的会抛错。但Python2容许了其存在,就造成了很多问题。

解决办法很简单,一个小trick,利用"latin-1"编码的特殊性:

unicode_str = invalid_str.encode('latin-1').decode('gbk')


这时候的 unicode_str 便是合法的unicode对象了,print一下就能看到你所期待的结果了!
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: