查看原文
其他

救命,Linux正在吃掉我的内存!

码农翻身刘欣 码农翻身 2021-04-27


内存发现自己的空闲空间越来越少,经过一番调查,发现罪魁祸首居然是Linux老大!


内存:Linux老大,这也没几个程序在运行,可是你为什么老是占用我的内存啊,内存都快被你吃光了!


Linux :你的容量那么大,空间闲着也是闲着,我啊,把那些空闲的空间都当成文件缓存了!



内存:  你看看你, 把这文件“拆成”了4K的碎片,这儿放一片,那儿放一片,把我的内存空间搞得乱糟糟的。


Linux :这叫做Page Cache , 其实一点也不乱,文件在哪一“片”内存中放着,我记得清清楚楚。我这么做也是不得已而为之啊,硬盘太慢,比你慢几万倍。CPU的一秒,你这里就是6分钟,硬盘那里就是好几个月!每次从他那里读点儿数据,几个月才给我回话, 我只好把读出来的数据先缓存到你这里了。 



内存看到这张表格,不由得咂舌:没想到这外面的世界如此之慢啊!


正在此时, 一个叫helloworld的程序要读取文件。 


helloworld :老大,我给你发了一个read系统调用,要读取config.txt的前1024个字节,把结果放到我的buffer中。 


Linux :好,让我看看config.txt是不是已经在Page Cache中了,真不巧,还没缓存过。内存老弟,我又要吃你的空闲空间了。 


Linux在内存中分配了一个4k 大小的page frame, 向硬盘发出DMA指令,读取cong.txt的4k的数据。



内存感觉奇怪:人家helloworld只要1024个字节,你干嘛让硬盘发过来4K数据? 


Linux :我这里Page cache 都是以4K为单位的, 读一次得等几个月,还不多读一点?再说helloworld这小子很可能继续读文件的后续部分,下次就不用访问硬盘了。


过了“几个月” , 硬盘的数据复制到了内存的Page cache 中



内存说:这就完事了吧? 


Linux :怎么可能!我得从Page cache 中取出前1024个字节,复制到helloworld指定的buffer 中。


这个buffer其实是helloworld虚拟地址空间heap上的地址,物理地址也是在你的内存中。




内存:我的天!难道数据要在我内存中出现两份?


Linux :没错!你不知道,复制数据还得用CPU呢!很费劲的。


helloworld:老大,能不能让我直接访问你Page cache 中的数据?


Linux :那怎么行,你在用户空间,我在内核空间,你要是能访问,在我这里捣乱怎么办?必须禁止!


内存:嗯,有道理,不过,要是还有个程序,也要读取config.txt的前1024个字节,怎么办?


Linux:  那就简单了啊, 我一查就知道数据已经在Page cache中了,不用等几个月从硬盘读了,直接复制到那个程序的缓冲区就行了。 


内存:啊?这数据重复太多了吧!




Linux :嗯,确实是个问题,现在这些程序,动辄访问几十个文件,每个程序都复制一份,确实是巨大的浪费。


内存:我给你支个招,既然那些程序运行访问的都是虚拟地址,你让这些虚拟地址映射到Page cache上,大家不就可以共享了。 


Linux :好主意,我来提供一个叫做mmap的系统调用,完成你说的功能。 



helloworld运行结束,退出了。 


内存:  helloworld退出了,你一会儿会清理掉对应的page cache吧?


Linux:暂时不会!


内存:啊?怪不得内存快被你吃光了!


Linux : 唉呀,你的内存闲着也是闲着,文件缓存着,下次再访问的时候,性能会有巨大提升!你放心,我会在合适的时机清理掉page cache的。 


内存:那如果helloword修改文件内容呢?会立即写入硬盘吗?


Linux :也不会,我只是标记这个Page cache “dirty”了, 然后我定期写入硬盘。


内存:你怎么能这样!这不是欺骗那些程序吗!那要是断电怎么办?


Linux:对于需要及时写入硬盘的,有两种办法,一是调用我提供的fsync方法强制写入硬盘,二是在访问文件的时候,可以指定不用Page cache。 


内存:相当于什么都没说,不用Page cache 多慢啊。 


Linux :你现在也知道page cache的重要性了吧。page cache 是一种比较通用的文件缓存机制,是我来管理的。有些应用,比如数据库,他需要更加灵活、更加复杂的文件缓存,那他就不用page cache ,自己另起炉灶了。 


内存:啊?数据库也在把我当作缓存?


Linux : 哈哈,是啊,要怪就怪硬盘吧,谁让它那么慢!不过他要是和你一样快,你小子就要下岗了,你想想,在一个访问速度超快,容量超大,还不怕断电威胁的存储器面前,你是不是就变成渣渣了?


内存叹了一口气: 好吧,我也管不了了,你们随意折腾吧。 


后记:本文的第一个图和标题来自

https://www.linuxatemyram.com/, 文章的内容参考了https://manybutfinite.com/post/page-cache-the-affair-between-memory-and-files/ ,确切说,本文是加了料的改编版, 这个博客还有几篇关于虚拟内存的文章,非常棒,强烈建议大家去看看英文原文。




宇宙第一IDE到底是谁?

Node.js :我只需要一个店小二

HTTP Server :一个差生的逆袭

我要穿越,干翻“烂语言”JavaScript

如何降低程序员的工资?

程序员,你得选准跑路的时间!

两年,我学会了所有的编程语言!

一直CRUD,一直996,我烦透了,我要转型

字节码万岁!

上帝托梦给我说:一切皆文件

Javascript: 一个屌丝的逆袭

我是一个线程

TCP/IP之大明邮差

一个故事讲完Https

CPU 阿甘

    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存