Ubuntu 内存占用解析
内存主要用来存储操作系统和应用程序的指令，数据和缓存等，内存管理也是操作系统最核心的功能之一。
我的新书《LangChain编程从入门到实践》 已经开售！推荐正在学习AI应用开发的朋友购买阅读！
内存的工作原理
内存映射
进程在用户态时，只能访问用户空间内存；只有进入内核态后，才可以访问内核空间内存。虽然每个进程的地址空间都包含了内核空间，但这些内核空间，其实关联的都是相同的物理内存。进程切换到内核态后，可以很方便地访问内核空间内存。
每个进程都有自己的地址空间，所有进程的虚拟内存加起来，要比实际的物理内存大得多。所以并不是所有的虚拟内存都会分配物理内存，只有那些实际使用的虚拟内存才分配物理内存，并且分配后的物理内存，是通过内存映射来管理的。
内存映射，其实就是将虚拟内存地址映射到物理内存地址。为了完成内存映射，内核为每个进程都维护了一张页表，记录虚拟地址与物理地址的映射关系。
页表实际上存储在 CPU 的内存管理单元 MMU中，这样，正常情况下，处理器就可以直接通过硬件，找出要访问的内存。
而当进程访问的虚拟地址在页表中查不到时，系统会产生一个缺页异常，进入内核空间分配物理内存、更新进程页表，最后再返回用户空间，恢复进程的运行。
虚拟内存空间分布（32bit）
用户空间内存，从低到高分别是五种不同的内存段。
- 只读段，包括代码和常量等。
- 数据段，包括全局变量等。
- 堆，包括动态分配的内存，从低地址开始向上增长。
- 文件映射段，包括动态库、共享内存等，从高地址开始向下增长。
- 栈，包括局部变量和函数调用的上下文等。栈的大小是固定的，一般是 8 MB。
在这五个内存段中，堆和文件映射段的内存是动态分配的。使用 C 标准库的 malloc() 或者 mmap() ，就可以分别在堆和文件映射段动态分配内存。
内存分配与回收
对小块内存（小于128K），C 标准库使用 brk() 来分配，也就是通过移动堆顶的位置来分配内存，这些内存释放后并不会立刻归还系统，而是被缓存起来，这样就可以重复使用。
- 优点：减少缺页异常的发生，提高内存访问效率
- 缺点：频繁的分配和释放可能会造成内存碎片
而大块内存（大于 128K），则直接使用内存映射 mmap() 来分配，也就是在文件映射段找一块空闲内存分配出去。
- 优点：释放时，直接归还系统
- 缺点：导致缺页异常
内存回收方式
- 基于 LRU（Least Recently Used）算法，回收缓存（也称文件页）；
- 基于 Swap 机制回收不常访问的内存（也称匿名页），即换出到磁盘；
- 基于 OOM（Out of Memory）机制，杀掉占用大量内存的进程。
注意：第三种方式提到的 OOM（Out of Memory），其实是内核的一种保护机制。它监控进程的内存使用情况，并且使用 oom_score 为每个进程的内存使用情况进行评分：一个进程消耗的内存越大，oom_score 就越大；一个进程运行占用的 CPU 越多，oom_score 就越小。这样，进程的 oom_score 越大，代表消耗的内存越多，也就越容易被 OOM 杀死，从而可以更好保护系统。当然也可以通过/proc文件系统，手动设置进程的 oom_adj ，从而调整进程的 oom_score。oom_adj 的范围是 [-17, 15]，数值越大，表示进程越容易被 OOM 杀死；数值越小，表示进程越不容易被 OOM 杀死，其中 -17 表示禁止 OOM。
例如把 sshd 进程的 oom_adj 调小为 -16，sshd 进程就不容易被 OOM 杀死echo -16 > /proc/$(pidof sshd)/oom_adj
分析工具
free
1 | $ free |
total 是总内存大小；
used 是已使用内存的大小，包含了共享内存；
free 是未使用内存的大小；
shared 是共享内存的大小；
buff/cache 是缓冲区和缓存的大小；
available 是新进程可用内存的大小。
available 不仅包含未使用内存，还包括了可回收的缓存，所以一般会比未使用内存更大。不过，并不是所有缓存都可以回收，因为有些缓存可能正在使用中。
buff/cache
1 | buffers Memory used by kernel buffers (Buffers in /proc/meminfo) |
Buffers 是内核缓冲区用到的内存，对应的是 /proc/meminfo 中的 Buffers 值。
Cache 是内核页缓存和 Slab 用到的内存，对应的是 /proc/meminfo 中的 Cached与 SReclaimable 之和。
1 |
|
Buffers 是对原始磁盘块的临时存储，也就是用来缓存磁盘的数据，通常不会特别大（20MB 左右）。这样内核就可以把分散的写集中起来，优化磁盘的写入。（Buffer 也会缓存从磁盘读取的数据）
Cached 是从磁盘读取文件的页缓存，也就是用来缓存从文件读取的数据。（实际上，Cache 也会缓存写文件时的数据）
SReclaimable 是 Slab 的一部分。Slab 包括两部分，其中的可回收部分，用 SReclaimable 记录；而不可回收部分，用 SUnreclaim 记录。
用下面的命令可以释放 Cache Memory（释放前最好sync一下，防止丢失数据）：
1 | To free pagecache: |
缓存命中率
cachestat 提供了整个操作系统缓存的读写命中情况；cachetop 提供了每个进程的缓存命中情况。
这两个工具都是 bcc 软件包的一部分，它们基于 Linux 内核的 eBPF（extended Berkeley PacketFilters）机制，来跟踪内核中管理的缓存，并输出缓存的使用和命中情况
安装配置过程（bcc 提供的所有工具就都安装到
/usr/share/bcc/tools这个目录中了，还需手动配置到系统的的 PATH 路径中）1
2
3
4
5sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-keys 4052245BD4284CDD
echo "deb https://repo.iovisor.org/apt/xenial xenial main" | sudo tee /etc/apt/sources.list
sudo apt update
sudo apt install -y bcc-tools libbcc-examples linux-headers-$(uname -r)
export PATH=$PATH:/usr/share/bcc/tools使用方法如下：
1
2
3
4
5
6# 以 1 秒的时间间隔，输出了 3 组缓存统计数据
$ cachestat 1 3
HITS MISSES DIRTIES HITRATIO BUFFERS_MB CACHED_MB
4331 0 0 100.00% 165 310
4361 0 0 100.00% 165 310
4349 0 0 100.00% 165 310TOTAL 是总的 I/O 次数
MISSES 是缓存未命中次数
HITS 是缓存命中次数
DIRTIES 是新增到缓存中的脏页数
1 | $ cachetop |
top
1 | $ top |
VIRT 是进程虚拟内存的大小，只要是进程申请过的内存，即便还没有真正分配物理内存，也会计算在内。
RES 是常驻内存的大小，也就是进程实际使用的物理内存大小，但不包括 Swap 和共享内存。
SHR 是共享内存的大小，比如与其他进程共同使用的共享内存、加载的动态链接库以及程序的代码段等。
%MEM 是进程使用物理内存占系统总内存的百分比。
注意：
- 虚拟内存通常并不会全部分配物理内存，所以上面每个进程的虚拟内存都比常驻内存大得多。
- 共享内存 SHR 并不一定是共享的，比如程序的代码段、非共享的动态链接库，也都算在 SHR 里。当然 SHR 也包括了进程间真正共享的内存。所以在计算多个进程的内存使用时，不要把所有进程的 SHR 直接相加得出结果。
Ubuntu 内存占用解析
