查看原文
其他

Python 高效处理字符串的秘密:字符串 Intern 机制

2017-09-17 刘志军 Python爱好者社区


作者:刘志军,6年+Python使用经验, 高级开发工程师,目前在互联网医疗行业从事Web系统构架工作

个人公众号:Python之禅(微信ID:vttalk)


题图:Photo by zane carter on Unsplash


字符串在 Python 中是最简单也是最常用的数据类型之一,在 CPython 中字符串的实现过程中使用了一种叫做 Intern(字符串驻留)的技术来提高字符串效率。那么究竟什么是 intern 机制,这种机制又是如何提高字符串效率的呢?希望这篇文章能够抛砖引玉。
先来看一段代码:

>>> s3 = "hello!"
>>> s4 = "hello!"
>>> s3 is s4
False
>>> id(s3)
80325968L
>>> id(s4)
80326048L


s3 和 s4 虽然值是一样的,但确确实实是两个不同的字符串对象,Python 会为它们俩各自分配一段内存空间,假设程序中存在大量值相同的字符串,系统就不得不为每个字符串重复地分配内存空间,显然,对系统来说是一种资源浪费。为了解决这种问题,Python 针对字符串引入了 intern 机制。

再来看:

>>> s3 = intern('hello!')
>>> s4 = intern('hello!')
>>> s3 is s4
True
>>> id(s3)
80325968L
>>> id(s4)
80325968L


intern
 是 Python 中的一个内建函数,该函数的作用就是对字符串进行 intern 机制处理,处理后返回字符串对象。我们发现但凡是值相同的字符串经过 intern 机制处理之后,返回的都是同一个字符串对象,这种方式在处理大数据的时候无疑能节省更多的内存空间,系统无需为相同的字符串重复分配内存,对于值相同的字符串共用一个对象即可。

 

其实,实现 Intern 机制的方式非常简单,就是通过维护一个字符串储蓄池,这个池子是一个字典结构,如果字符串已经存在于池子中就不再去创建新的字符串,直接返回之前创建好的字符串对象,如果还没加入到该池子中,则先构造一个字符串对象,并把这个对象加入到池子中去,方便下一次获取,用伪代码就可以描述为:

intern_pool = {}
def intern(s):    if s in intern_pool:        
        return intern_pool[s]    
   else:        obj = PyStringObject(s)        intern_pool[s] = obj        
       return obj


在主流面向对象的编程语言中,字符串的  intern 机制对于高效处理字符串已经成为一种标配,通过 intern 机制可以提高字符串的处理效率,当然,解释器内部很对 intern 机制的使用策略是有考究的,有些场景会自动使用 intern ,有些地方需要通过手动方式才能启动。比如:

>>> s1 = "hello"
>>> s2 = "hello"
>>> s1 is s2
True
>>> id(s1)
72320704L
>>> id(s2)
72320704L

这段代码就是 Python 自动使用了intern机制的结果。

Python是一门非常独特的编程语言,它不仅简单易学而且非常强大,有过编程经验的程序员第一次接触Python会大呼”居然可以这样玩”,从此路转粉,“The Zen of Python”被Pythoneer视为编程教条,究竟什么样的代码才称得上地道呢?我们怎样才能写出地道的Python代码?

点击阅读原文立即学习


福利:文末扫码立刻关注公众号,“Python爱好者社区”,开始学习Python课程:

关注后在公众号内回复“课程”即可获取:

1.崔老师爬虫实战案例免费学习视频。

2.丘老师数据科学入门指导免费学习视频。

3.陈老师数据分析报告制作免费学习视频。

4.玩转大数据分析!Spark2.X+Python 精华实战课程免费学习视频。

5.丘老师Python网络爬虫实战免费学习视频。


Python爱好者社区


为大家提供与Python相关的最新技术和资讯。

长按指纹 > 识别图中二维码 > 添加关注

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存