컴퓨터는 숫자만 읽는다

9월 8일 화요일 오후, 시스템 프로그래밍 첫 시간입니다. 강 교수는 출석을 부르자마자 화면에 한 줄을 띄웁니다. "기말 과제. 같은 일을 하는 파이썬 코드와 C 코드가 왜 속도가 다른지, 기계어 수준에서 설명할 것. 발표는 11월 10일." 질문은 받지 않고 바로 강의로 넘어갑니다.

그날 밤 7시, 공학관 5층 실습실. 같은 팀이 된 은재와 도현이 '디버거 교실'이라고 적힌 문을 엽니다. 둘은 오기 전에 일단 재 보았습니다. 1부터 1억까지 더하는 함수를 파이썬과 C로 똑같이 짜서 돌렸더니 파이썬은 4.4초, gcc -O2로 컴파일한 C는 0.027초였습니다.

"C는 컴파일하니까 빠른 거죠. 끝." 도현이 의자를 뒤로 젖힙니다. 모니터 두 대를 켜 둔 윤 조교가 묻습니다. "컴파일하면 뭐가 되는데?" "기계어요." "기계어는 어떻게 생겼어?" 이번에는 둘 다 대답이 없습니다.

"추측하지 말고, 한 줄씩 실행해 보자. 오늘은 제일 작은 함수부터."

1-1. 같은 덧셈, 160배 (7분)

두 사람이 잰 함수는 이렇습니다. 하는 일은 한 글자도 다르지 않습니다.

def sum_to(n):
    s = 0
    i = 1
    while i <= n:
        s += i
        i += 1
    return s

long sum_to(long n) {
    long s = 0;
    for (long i = 1; i <= n; i++) {
        s += i;
    }
    return s;
}

실습실 컴퓨터(인텔 12세대 Core i5, 윈도 11과 WSL의 우분투 24.04)에서 n = 1억으로 두세 번씩 잰 값입니다. 답은 모두 5000000050000000으로 같습니다.

파이썬 ÷ C -O2는 약 160배입니다. 같은 C 코드도 최적화를 끄면 약 7배 느려집니다. 그러니 '컴파일 언어라서 빠르다'는 말로는 반만 설명됩니다.

한 바퀴 시간으로 바꿔 보면 감이 옵니다. 요즘 CPU는 1초에 대략 30억–50억 번 박자(클럭)를 칩니다. 박자 한 번이 0.2–0.3 ns쯤이니, C -O2는 수 하나를 더하는 데 박자 한 번 안팎을 씁니다. 파이썬은 같은 일에 박자 130–220번쯤을 씁니다. 그 시간에 CPU가 무엇을 하는지가 이 강의의 질문입니다.

과제는 이 차이를 기계어로 설명하는 것입니다. 그러려면 먼저 기계어가 무엇인지 알아야 합니다. 앞으로 여덟 번은 C가 어떤 기계어가 되는지를, 마지막 두 번은 파이썬이 무엇을 실행하는지를 봅니다. 오늘은 반복문도 없는 가장 작은 함수 하나로 시작합니다.

1-2. 메모리에는 바이트만 있다 (9분)

메모리는 아주 긴 바이트의 줄입니다. 바이트 하나는 0–255 사이의 수 하나이고, 칸마다 0, 1, 2, …로 매긴 주소가 있습니다. 숫자, 글자, 그림, 그리고 프로그램까지 메모리에 들어가는 것은 모두 이런 바이트입니다.

프로그램이 바이트라는 것이 오늘의 핵심입니다. 명령어와 데이터를 같은 메모리에 함께 두고 CPU가 명령어를 메모리에서 읽어 실행하는 방식을 저장 프로그램 방식이라 부릅니다. 지금 쓰는 컴퓨터는 거의 모두 이 방식입니다.

윤 조교가 고른 함수는 이것입니다.

long add(long a, long b) { return a + b; }

gcc -O0으로 컴파일하고 objdump로 펼친 진짜 출력(tools/asm/out/first.O0.bytes)입니다.

0000000000000000 <add>:
   0:	55                   	push   rbp
   1:	48 89 e5             	mov    rbp,rsp
   4:	48 89 7d f8          	mov    QWORD PTR [rbp-0x8],rdi
   8:	48 89 75 f0          	mov    QWORD PTR [rbp-0x10],rsi
   c:	48 8b 55 f8          	mov    rdx,QWORD PTR [rbp-0x8]
  10:	48 8b 45 f0          	mov    rax,QWORD PTR [rbp-0x10]
  14:	48 01 d0             	add    rax,rdx
  17:	5d                   	pop    rbp
  18:	c3                   	ret

세 칸으로 읽습니다. 맨 왼쪽은 함수 첫 바이트에서 몇 바이트 떨어졌는지(16진수), 가운데는 메모리에 실제로 들어 있는 바이트, 오른쪽은 그 바이트를 사람이 읽기 좋게 풀어 쓴 글자입니다. CPU가 보는 것은 가운데 칸뿐입니다. 마지막 c3이 0x18번째 바이트이므로 add는 모두 0x19 = 25바이트, 명령어 9개입니다.

이 강의의 흉내 CPU는 코드를 주소 0x401000부터 놓습니다. 그래서 push rbp의 55는 0x401000에, add rax,rdx의 첫 바이트 48은 0x401014에 있습니다. 화면에는 objdump처럼 첫 명령어에서의 거리(0:, 1:, 4: …)만 씁니다.

1-3. 인출–해독–실행 (14분)

CPU가 하는 일은 놀랄 만큼 단순합니다. 세 가지를 끝없이 되풀이합니다. 실습대에서 add(2, 40)을 한 단계씩 넘겨 보세요.

CPU 안에는 rip(instruction pointer)라는 칸이 있어서 다음에 실행할 명령어의 주소를 담고 있습니다. 한 바퀴는 이렇습니다.

1. 인출(fetch): rip가 가리키는 주소에서 바이트를 읽어 온다.
2. 해독(decode): 바이트를 보고 무슨 명령어인지, 몇 바이트짜리인지 알아낸다. rip를 그 길이만큼 늘린다.
3. 실행(execute): 명령어가 시키는 대로 레지스터나 메모리를 바꾼다.

rip는 '지금' 명령어가 아니라 '다음' 명령어를 가리킵니다. 보통은 길이만큼 늘어나서 바로 뒤 명령어로 가지만, 점프와 call, ret는 rip에 다른 주소를 넣습니다. if와 반복문, 함수 호출은 모두 이 방법으로 만듭니다(5·6교시). 맨 끝의 ret도 그렇습니다. 흉내 CPU는 처음에 스택에 '프로그램 끝' 주소 0x401ff0을 넣어 두었고, ret가 그 주소를 rip에 넣으면서 멈춥니다.

리눅스의 약속(System V 호출 규약)으로 첫째 인자 a는 rdi, 둘째 인자 b는 rsi에 담겨 오고, 돌려줄 값은 rax에 둡니다. -O0 코드는 인자를 일단 메모리(스택의 [rbp-0x8], [rbp-0x10])에 썼다가 다시 읽어서 더합니다. 최적화를 하지 않으면 변수마다 메모리 자리를 하나씩 주기 때문입니다(7교시).

1-4. 기계어와 어셈블리어 (12분)

48 89 7d f8이 어떻게 mov QWORD PTR [rbp-0x8],rdi가 될까요? x86-64 명령어는 정해진 칸을 앞에서부터 채운 모양입니다. 실습대에서 명령어를 바꿔 가며 칸이 어떻게 나뉘는지 보세요.

x86-64 명령어 하나는 이런 칸으로 되어 있습니다. 대괄호 칸은 없을 수도 있습니다.

[앞붙이] [REX] 옵코드(1–3바이트) [ModRM] [SIB] [변위 0/1/4바이트] [즉값 0/1/2/4/8바이트]

• REX(0x40–0x4f): 0100 WRXB. W = 1이면 64비트로 계산합니다. R, X, B는 레지스터 번호에 8을 더해 r8–r15를 쓰게 합니다.
• 옵코드: 무슨 일을 할지. 같은 mov도 방향과 피연산자 종류에 따라 89, 8b, c7, b8 등으로 갈립니다.
• ModRM: mod(2비트) reg(3비트) rm(3비트). mod = 11이면 rm도 레지스터, 아니면 rm은 메모리 주소의 바탕 레지스터입니다(예외 둘: rm = 100이면 SIB가 뒤따르고, mod = 00이면서 rm = 101이면 rip 기준 주소). 레지스터 번호는 rax 0, rcx 1, rdx 2, rbx 3, rsp 4, rbp 5, rsi 6, rdi 7.
• SIB: 주소가 [바탕 + 색인 × 배율] 모양일 때 붙습니다(4교시).
• 변위·즉값: 주소에 더할 수와 명령어에 박힌 수. 여러 바이트면 작은 자리 바이트가 먼저 옵니다(리틀 엔디언, 4교시).

그래서 x86-64 명령어는 1바이트에서 15바이트까지 길이가 제각각입니다. add 안에서도 1, 3, 4바이트가 섞여 있습니다. CPU가 해독해 보기 전에는 다음 명령어가 어디서 시작하는지 모르는 이유입니다.

기계어는 CPU가 읽는 바이트 자체이고, 어셈블리어는 그 바이트에 붙인 사람용 이름표입니다. 명령어 하나에 이름표 한 줄이 대응합니다. 이름표를 바이트로 바꾸는 프로그램이 어셈블러(as), 바이트를 이름표로 되돌리는 프로그램이 디스어셈블러(objdump -d)입니다. gcc는 C를 어셈블리어로 번역한 뒤 어셈블러를 불러 바이트를 만듭니다(7교시).

이름표 문법은 두 가지가 있습니다. 이 강의는 mov rbp,rsp처럼 목적지를 앞에 쓰는 인텔 문법(objdump -M intel)을 씁니다. 리눅스 도구의 기본값인 AT&T 문법은 같은 명령어를 mov %rsp,%rbp로 순서를 뒤집어 씁니다.

같은 C 코드라도 기계어는 컴파일러가 정합니다. 최적화를 켜면(-O2) add는 이렇게 바뀝니다(first.O2.bytes).

0000000000000000 <add>:
   0:	48 8d 04 37          	lea    rax,[rdi+rsi*1]
   4:	c3                   	ret

명령어 9개, 25바이트가 2개, 5바이트가 되었습니다. lea는 원래 주소를 계산하는 명령어인데, 컴파일러는 이것을 '더해서 다른 레지스터에 넣기'로 씁니다(3교시). 메모리에 쓰고 다시 읽는 일도 사라졌습니다.

이렇게 CPU가 알아듣는 명령어의 목록, 레지스터, 바이트 모양을 정한 약속을 ISA(명령어 집합 구조)라 부릅니다. 이 강의는 대부분의 PC와 서버가 쓰는 x86-64를 봅니다. 스마트폰과 요즘 맥은 ARM64를 씁니다. ARM64는 명령어가 모두 4바이트이고, 이 add는 add x0, x0, x1과 ret 두 줄이 됩니다. 다르게 생겼지만 같은 생각입니다. 인자를 레지스터로 받고, 더하고, 돌아갑니다. 같은 x86-64라도 윈도는 인자를 rcx, rdx에 담는 다른 약속을 씁니다.

자주 하는 실수 (3분)

• 어셈블리어가 기계어보다 한 단계 아래라고 생각한다. 같은 것입니다. 어셈블리어는 기계어 바이트에 붙인 이름일 뿐이고, 한 줄이 명령어 하나입니다.
• rip가 지금 실행 중인 명령어를 가리킨다고 본다. 해독이 끝나면 rip는 이미 다음 명령어의 주소입니다.
• 명령어 하나 = 1바이트(또는 4바이트)로 센다. x86-64는 1–15바이트입니다. 4바이트 고정은 ARM64입니다.
• C 한 줄 = 명령어 하나로 센다. return a + b;는 -O0에서 명령어 3개(mov, mov, add), -O2에서 1개(lea)입니다. 컴파일러와 옵션에 따라 달라집니다.
• mov는 옮긴다(원본이 빈다)고 생각한다. mov는 복사입니다. mov rbp,rsp 뒤에도 rsp는 그대로입니다.

연습 문제 (5분)

1. add(-O0)의 명령어 9개를 길이별로 나누세요. 가장 긴 명령어는 몇 바이트이고 몇 개인가요?
2. 48 8b 45 f0과 48 89 45 f0은 옵코드 한 바이트만 다릅니다. 각각 무슨 명령어이고, 하는 일은 어떻게 다른가요?
3. 같은 add를 rdi = 5, rsi = −3으로 실행하면 rax는 얼마이고, 명령어는 몇 개 실행될까요?

풀이

1. 1바이트 3개(push rbp, pop rbp, ret), 3바이트 2개(mov rbp,rsp, add rax,rdx), 4바이트 4개(mov로 메모리에 쓰고 읽는 넷). 1×3 + 3×2 + 4×4 = 25. 가장 긴 것은 4바이트, 4개.
2. 0x8b는 rm(메모리) → reg 방향이라 mov rax,QWORD PTR [rbp-0x10](메모리에서 읽기), 0x89는 reg → rm 방향이라 mov QWORD PTR [rbp-0x10],rax(메모리에 쓰기)입니다. ModRM 0x45 = 01 000 101(reg = rax, rm = rbp + 8비트 변위)는 같습니다.
3. rax = 2, 명령어 9개. 이 함수에는 점프가 없어서 어떤 인자든 9개를 차례로 한 번씩 실행합니다. −3이 기계 안에서 어떤 바이트인지는 다음 주에 봅니다.

다음 주 화요일(9월 15일)에는 바이트 안을 들여다봅니다. 도현이 아두이노에서 버튼 횟수를 세다 겪은 일, 127 다음에 −128이 나온 이야기로 시작합니다. 오늘 예제의 f8이 왜 −8인지도 그때 풀립니다.