Python3学习之字符编码问题解决办法详解
2017-08-10 15:44
696 查看
Python3 最重要的一项改进之一就是解决了 Python2 中字符串与字符编码遗留下来的这个大坑。本文就和大家一起来扒一扒python3是如何解决的字符编码问题,希望对大家学习python3有所帮助。
Python2 字符串设计上的一些缺陷:
· 使用 ASCII 码作为默认编码方式,对中文处理很不友好。
· 把字符串的牵强地分为 unicode 和 str 两种类型,误导开发者
当然这并不算 Bug,只要处理的时候多留心也可以避免这些坑。但在 Python3 两个问题都很好的解决了。
首先,Python3 把系统默认编码设置为 UTF-8
>>> import sys
>>> sys.getdefaultencoding()
'utf-8'
>>>
然后,文本字符和二进制数据区分得更清晰,分别用 str 和 bytes 表示。文本字符全部用 str 类型表示,str 能表示Unicode 字符集中所有字符,而二进制字节数据用一种全新的数据类型,用 bytes 来表示。
str
>>> a = "a">>> a'a'>>> type(a)
<class 'str'>
>>> b = "禅">>>
b'禅'>>> type(b)
<class 'str'>
bytes
Python3 中,在字符引号前加‘b’,明确表示这是一个 bytes 类型的对象,实际上它就是一组二进制字节序列组成的数据,bytes 类型可以是 ASCII范围内的字符和其它十六进制形式的字符数据,但不能用中文等非ASCII字符表示。
>>> c = b'a'>>> c
b'a'>>> type(c)class 'bytes'>
>>> d = b'\xe7\xa6\x85'>>> d
b'\xe7\xa6\x85'>>> type(d)class 'bytes'>>>>
>>> e = b'禅'
File "", line 1SyntaxError: bytes can only contain ASCII literal characters.
bytes 类型提供的操作和 str 一样,支持分片、索引、基本数值运算等操作。但是 str 与 bytes 类型的数据不能执行 +操作,尽管在py2中是可行的。
>>> c = b'a'>>> c
b'a'>>> type(c)
<class 'bytes'>
>>> d = b'\xe7\xa6\x85'>>> d
b'\xe7\xa6\x85'>>> type(d)
<class 'bytes'>>>>
>>> e = b'禅'
File "", line 1SyntaxError: bytes can only contain ASCII literal characters.
python2 与 python3 字节与字符的对应关系
![](http://bbsattachment.zhinengshe.com/forum/201708/10/154340yhma98r4yirxmehh.png.thumb.jpg)
encode 与 decode
str 与 bytes 之间的转换可以用 encode 和从decode 方法。
![](http://bbsattachment.zhinengshe.com/forum/201708/10/154324bfi0zuuhb3ccmhwb.png.thumb.jpg)
encode 负责字符到字节的编码转换。默认使用 UTF-8 编码准换。
>>> s = "Python之禅"
>>> s.encode()
b'Python\xe4\xb9\x8b\xe7\xa6\x85'
>>> s.encode("gbk")
b'Python\xd6\xae\xec\xf8'
decode 负责字节到字符的解码转换,通用使用 UTF-8 编码格式进行转换。
>>> b'Python\xe4\xb9\x8b\xe7\xa6\x85'.decode()
'Python之禅'
>>> b'Python\xd6\xae\xec\xf8'.decode("gbk")
'Python之禅'
来源:伯乐在线
Python2 字符串设计上的一些缺陷:
· 使用 ASCII 码作为默认编码方式,对中文处理很不友好。
· 把字符串的牵强地分为 unicode 和 str 两种类型,误导开发者
当然这并不算 Bug,只要处理的时候多留心也可以避免这些坑。但在 Python3 两个问题都很好的解决了。
首先,Python3 把系统默认编码设置为 UTF-8
>>> import sys
>>> sys.getdefaultencoding()
'utf-8'
>>>
然后,文本字符和二进制数据区分得更清晰,分别用 str 和 bytes 表示。文本字符全部用 str 类型表示,str 能表示Unicode 字符集中所有字符,而二进制字节数据用一种全新的数据类型,用 bytes 来表示。
str
>>> a = "a">>> a'a'>>> type(a)
<class 'str'>
>>> b = "禅">>>
b'禅'>>> type(b)
<class 'str'>
bytes
Python3 中,在字符引号前加‘b’,明确表示这是一个 bytes 类型的对象,实际上它就是一组二进制字节序列组成的数据,bytes 类型可以是 ASCII范围内的字符和其它十六进制形式的字符数据,但不能用中文等非ASCII字符表示。
>>> c = b'a'>>> c
b'a'>>> type(c)class 'bytes'>
>>> d = b'\xe7\xa6\x85'>>> d
b'\xe7\xa6\x85'>>> type(d)class 'bytes'>>>>
>>> e = b'禅'
File "", line 1SyntaxError: bytes can only contain ASCII literal characters.
bytes 类型提供的操作和 str 一样,支持分片、索引、基本数值运算等操作。但是 str 与 bytes 类型的数据不能执行 +操作,尽管在py2中是可行的。
>>> c = b'a'>>> c
b'a'>>> type(c)
<class 'bytes'>
>>> d = b'\xe7\xa6\x85'>>> d
b'\xe7\xa6\x85'>>> type(d)
<class 'bytes'>>>>
>>> e = b'禅'
File "", line 1SyntaxError: bytes can only contain ASCII literal characters.
python2 与 python3 字节与字符的对应关系
![](http://bbsattachment.zhinengshe.com/forum/201708/10/154340yhma98r4yirxmehh.png.thumb.jpg)
encode 与 decode
str 与 bytes 之间的转换可以用 encode 和从decode 方法。
![](http://bbsattachment.zhinengshe.com/forum/201708/10/154324bfi0zuuhb3ccmhwb.png.thumb.jpg)
encode 负责字符到字节的编码转换。默认使用 UTF-8 编码准换。
>>> s = "Python之禅"
>>> s.encode()
b'Python\xe4\xb9\x8b\xe7\xa6\x85'
>>> s.encode("gbk")
b'Python\xd6\xae\xec\xf8'
decode 负责字节到字符的解码转换,通用使用 UTF-8 编码格式进行转换。
>>> b'Python\xe4\xb9\x8b\xe7\xa6\x85'.decode()
'Python之禅'
>>> b'Python\xd6\xae\xec\xf8'.decode("gbk")
'Python之禅'
来源:伯乐在线
相关文章推荐
- 【python学习】编码时写路径使用后斜杠导致的unicode error问题解决办法
- JS 字符串编码函数(解决URL特殊字符传递问题):escape()、encodeURI()、encodeURIComponent()区别详解
- 安装python-mutagen 批量修改mp3字符编码格式,解决Amarok播放器乱码问题
- 使用VS2013编写Python程序时出现编码问题的解决办法
- Python2.7编码问题解决办法
- 详解python3中socket套接字的编码问题解决
- JS 字符串编码函数(解决URL特殊字符传递问题):escape()、encodeURI()、encodeURIComponent()区别详解
- Python学习笔记:学习爬虫时遇到的问题TypeError: cannot use a string pattern on a bytes-like object 与解决办法
- 学习python的问题-安装Anaconda2时菜单栏没有快捷方式的解决办法
- 全网最详细的跑python2.7时出现from mysql import connector ImportError: No module named mysql的问题解决办法(图文详解)
- Python中str is not callable问题详解及解决办法
- JS 字符串编码函数(解决URL特殊字符传递问题):escape()、encodeURI()、encodeURIComponent()区别详解
- python与sqlite处理中文字符时出现的编码错误问题解决
- JS 字符串编码函数(解决URL特殊字符传递问题):escape()、encodeURI()、encodeURIComponent()区别详解
- 解决Python3中的中文字符编码的问题
- Python 3 学习笔记 - 机器学习实战 ch09 问题解决办法
- python学习--response乱码问题解决办法总结
- 学习python处理python编码问题
- 关于执行Oracle下Sql语句中遇到的特殊字符问题解决办法。
- 学习python处理python编码问题