OOM Killer 가 보는 것은 달라고 한 양이 아니라 실제로 붙여 둔 양이다

장면

메모리가 정말 없을 때 커널은 무엇을 기준으로 죽일 프로세스를 고를까?

$ dmesg | grep -i "killed process"
[12345.678] Out of memory: Killed process 4242 (java) total-vm:...
$ cat /proc/<pid>/oom_score
# oom_score 가 높은 프로세스부터 죽는다. <pid> 자리에는 볼 프로그램 번호를 넣는다

먼저 알아야 할 말

OOM Killer: Out Of Memory Killer. 메모리가 정말 없을 때 커널이 프로세스 하나를 골라 강제로 죽이는 장치다. 자바 쪽 OutOfMemoryError 와 다르다 — 그쪽은 JVM 이 던지는 예외이고, 이쪽은 프로세스가 통째로 사라진다.
메모리: 전원이 꺼지면 사라지는 대신 아주 빠른 저장 공간이다. 프로그램이 도는 동안 쓰는 값은 전부 여기 있다.
커널: 컴퓨터가 켜져 있는 동안 늘 돌고 있는 프로그램 하나다. 파일을 만들고 지우는 일, 프로그램을 띄우는 일은 내 프로그램이 직접 못 하고 전부 커널에 부탁한다. 터미널에 친 명령이 실제로 무언가를 하는 순간은 늘 커널 안이다.
프로세스: 돌고 있는 프로그램 하나다. ps 가 줄마다 보여 주는 것이 프로세스이고, 각각 번호(PID)가 있다.
페이지: 메모리를 나누는 기본 단위다. 보통 4KB 이고, 커널은 메모리를 이 덩어리 단위로 다룬다.
RSS: 실제로 물리 메모리가 붙어 있는 양이다. VmRSS · anon-rss 도 같은 것을 가리킨다. 달라고만 한 양(VmSize)과는 다르다.
스왑: 물리 메모리가 모자랄 때 잘 안 쓰는 페이지를 디스크로 옮겨 두는 것이다.
페이지 표: 가상 주소가 실제 메모리의 어디인지 적어 둔 표다. CPU 는 주소를 만질 때마다 이 표를 본다. 이 표의 자리가 비어 있으면 페이지 폴트가 난다.
바이트: 컴퓨터가 다루는 가장 작은 덩어리 단위로, 0부터 255 사이의 숫자 하나다. 파일도, 네트워크로 오가는 글자도 결국 바이트의 나열이다. B는 바이트, KB는 약 1,000바이트, MB는 약 100만 바이트다. 「바이트가 도착했다」는 아직 글자로 읽기 전, 숫자 덩어리 상태로 도착했다는 뜻이다.
구조체: 값 여러 개를 한 덩어리로 묶어 둔 것이다. C 에는 클래스가 없어서 이렇게 쓴다 — 메서드 없이 필드만 있는 자바 클래스라고 보면 된다. C 에서 a->b 는 자바의 a.b 와 같다(안에 든 것을 꺼낸다).
VmSize: 프로세스가 달라고 해서 잡아 둔 주소의 총량이다. 실제로 메모리가 붙어 있는 양(RSS)과 다르고, 보통 훨씬 크다.
oom_score: 어느 프로세스를 죽일지 고르는 점수다. 달라고 한 양이 아니라 실제로 붙여 둔 양(RSS)에 스왑과 페이지 표 크기를 더해 매긴다.
신호: 커널이 프로세스에게 보내는 짧은 알림이다. SIGKILL 은 「지금 죽어라」이고 프로세스가 거절할 수 없다. SIGSEGV 는 「잘못된 주소를 건드렸다」다. 터미널에서 Ctrl+C 를 누르는 것도 신호 하나를 보내는 일이다.
dmesg: 커널이 남긴 기록을 보는 명령이다. 누가 OOM 으로 죽었는지 같은 것이 여기 찍힌다.
/proc: 커널이 지금 상태를 파일인 것처럼 보여 주는 가짜 폴더다. ls -l /proc/self/fd 를 치면 지금 열어 둔 것이 나온다. 디스크에 진짜 파일이 있는 것은 아니다.
컨테이너 (Docker): Docker 이미지를 실제로 실행한 상태다. 프로그램 하나를 자기만의 작은 방에 넣어 돌리는 것과 비슷해서, 그 안에서는 자기 파일과 네트워크만 보이고 다른 컨테이너나 호스트 컴퓨터와 섞이지 않는다. 같은 이미지로 컨테이너를 여러 개 띄울 수 있고, 컨테이너 하나를 지워도 이미지는 그대로 남는다.
cgroup: 프로세스 묶음이 쓸 수 있는 자원(CPU · 메모리 · I/O)에 상한을 거는 장치다. 도커가 --memory 로 거는 제한이 이것이다.
물리 메모리: 실제로 꽂혀 있는 RAM 이다.
페이지 캐시: 한 번 읽은 파일 내용을 메모리에 남겨 두는 곳이다. 다음에 같은 자리를 읽으면 디스크에 가지 않는다. 자바 쪽 캐시가 아니라 커널이 들고 있는 것이라, 프로세스가 죽어도 남는다.

아래 재생기의 ▶를 누르면 한 스텝씩 진행된다. 금색 테두리가 지금 이야기하는 곳이고, 캡션이 무슨 일이 일어났는지 말해 준다. 굵게 밑줄 친 말은 누르면 뜻이 나온다. 빨간 딱지는 그때 벌어지는 일의 이름이고, 캡션 바로 위 회색 글자는 지금 스텝이 속한 묶음의 이름이다.

카드 아래 회색 줄은 그 일이 실제로 적혀 있는 소스의 파일 이름 : 줄 번호와 함수 이름이다. 글 안에 (:669)처럼 줄 번호만 적힌 것은 바로 앞에 적은 파일의 그 줄이라는 뜻이다. 캡션 한가운데 박힌 긴 영어 이름과 괄호 속 파일 · 줄 번호도 같다 — 건너뛰고 한글만 읽어도 뜻이 통하게 써 두었다.

장면 · 붙일 것이 없을 때 하나를 고른다 0 / 11

▶ 를 누르면 물리 메모리가 정말 없을 때 커널이 무엇을 보고 죽일 프로세스를 고르는지 본다. 격자 32칸이 이 기계의 물리 메모리 전체이고, 누구에게 몇 칸씩 주었는지는 그림을 위한 배치다.

키보드 · ← → 한 스텝 · Space 재생/멈춤 · Home 처음

OOM Killer 는 가장 많이 달라고 한 것을 죽이지 않는다. 실제로 붙여 둔 양으로 점수를 매겨 고르고, 죽인 뒤 그 점수의 재료를 기록에 남긴다.

어떻게 확인했나

소스 어디를 보고 적었는지와 무엇을 돌려서 쟀는지를 남긴 자리다. 처음 읽을 때는 건너뛰어도 된다.

oom_badness(mm/oom_kill.c:199)가 더하는 것은 셋뿐이다 — 지금 붙어 있는 페이지 수(RSS) + 스왑으로 나간 페이지 수 + 페이지 표가 먹은 바이트를 페이지 크기로 나눈 값(:228-229). mm->total_vm(VmSize)은 이 함수에 나오지 않는다. 그래서 「가장 많이 쓴 것이 죽는다」는 「가장 많이 붙여 둔 것이 죽는다」로 읽어야 맞다 — 달라고만 해 둔 양은 점수가 아니다.
oom_score_adj 는 adj *= totalpages / 1000; points += adj;(mm/oom_kill.c:233-234)로 얹힌다. 1000 이면 전체 페이지 수만큼을 점수에 더하는 것이고, 최솟값 -1000(OOM_SCORE_ADJ_MIN, include/uapi/linux/oom.h:9)이면 점수를 재지 않고 LONG_MIN 을 돌려줘 후보에서 빠진다(:217-221).
죽이기는 마지막 수단이다 — __alloc_pages_direct_reclaim(mm/page_alloc.c:4939)이 실패하고 재시도까지 다 떨어진 뒤에야 「Reclaim has failed us, start killing things」 주석 아래(:5029)에서 __alloc_pages_may_oom(:4044) → out_of_memory(mm/oom_kill.c:1103)로 간다.
고르는 방식은 전수 조사다 — select_bad_process(mm/oom_kill.c:362)가 for_each_process 로 전부 돌며 oom_evaluate_task(:306)를 부르고, 지금까지의 최고점보다 낮으면 버린다(:339). 죽일 때는 SIGKILL(:943)을 보내고 dmesg 한 줄(:945)에 total-vm · anon-rss · pgtables · oom_score_adj 를 함께 찍는다.
/proc/<pid>/oom_score 는 같은 oom_badness 를 그 자리에서 돌려(fs/proc/base.c:590) 0~2000 범위로 늘인 값이다(:596). 커널이 고를 때 쓰는 함수와 내가 읽는 숫자가 같은 출처다.
메모리 2GiB 로 한도를 건 컨테이너에서 계속 먹였더니 1,984MB 를 지나 죽었고 끝난 코드가 137(= 128 + SIGKILL 9)이었다. cgroup 의 memory.events 에 oom 1 · oom_kill 1 이 찍혔고, dmesg 가 남긴 표가 oom_badness 의 재료를 그대로 보여 준다 — total_vm 524991 · rss 523040 · pgtables_bytes 4243456 · oom_score_adj 0. 점수에 들어가는 것은 rss 와 pgtables 이고 total_vm 은 아니다.

‹ 이전 목차로 ›