첫날 밤의 줄: 동시성과 병렬성

개업 첫날 밤 열 시. 문을 열자마자 손님이 몰려듭니다. 당신은 첫 주문의 국을 불에 올리고, 국이 끓을 때까지 냄비 앞에 서 있습니다. 3분 뒤 첫 그릇을 내고, 두 번째 주문을 시작합니다.

윤서연 셰프가 타이머를 보며 말합니다. "국이 끓는 동안 네 손은 뭘 했지? 아무것도 안 했어. 그게 오늘 밤의 문제야."

1-1. 주문 하나에 0.3초, 여덟 개면? (6분)

국이 끓기를 기다리는 일을 파이썬으로 흉내 내 봅시다. time.sleep(0.3)은 "0.3초 동안 아무것도 하지 않고 기다린다"는 뜻입니다. 3분을 0.3초로 줄였다고 생각하세요.

import time

def make_order(n):
    time.sleep(0.3)   # 국이 끓기를 기다린다
    return f"#{n}"

start = time.perf_counter()
done = [make_order(n) for n in range(1, 9)]
print(f"{time.perf_counter() - start:.2f}s", done)
# 2.40s ['#1', '#2', '#3', '#4', '#5', '#6', '#7', '#8']

• time.perf_counter()는 시간을 잴 때 쓰는 시계입니다. 두 번 읽어 빼면 그 사이에 흐른 초가 나옵니다.
• 0.3초짜리 주문 여덟 개를 하나씩 하면 0.3 × 8 = 2.4초. 이 2.4초 중 수셰프가 실제로 손을 쓴 시간은 거의 없습니다. 전부 기다린 시간입니다.

실행할 때마다 끝자리가 조금씩 다를 수 있습니다. 시간을 재는 예제의 결과는 언제나 "대략"입니다.

1-2. 기다리는 일과 손이 바쁜 일 (8분)

주방의 일은 두 종류로 나뉩니다.

동시성이 시간을 크게 줄여 주는 것은 기다리는 일이 많을 때입니다. 국이 끓는 동안 다른 냄비를 올리면 되니까요. 손이 바쁜 일은 사람이 실제로 더 있어야 빨라지는데, 파이썬에는 여기에 숨은 규칙이 하나 있습니다. 그 얘기는 8교시에 합니다.

1-3. 동시성과 병렬성은 다르다 (8분)

두 단어는 자주 섞여 쓰이지만 뜻이 다릅니다.

• 동시성(concurrency): 여러 일을 번갈아 진행해서, 겉으로 보기에 함께 나아가는 것. 요리사 한 명이 국을 올려 두고 그사이 다른 냄비를 젓는 것.
• 병렬성(parallelism): 여러 일을 정말로 같은 순간에 실행하는 것. 요리사 네 명이 각자 반죽을 동시에 치대는 것.

병렬성은 동시성의 한 방법입니다. 기다리는 일만 많은 주방이라면 손이 하나여도 동시성만으로 충분히 빨라집니다. 아래 타임라인에서 "혼자 순서대로"와 "요리사 여럿"을 번갈아 돌려 보세요. 막대 하나가 주문 하나이고, 가로축이 시간입니다.

• "혼자 순서대로"는 막대 여덟 개가 한 줄에 이어 붙어 약 2.4초가 걸립니다.
• "요리사 여럿"에서 요리사를 3명으로 하면 세 줄이 겹쳐 약 0.9초, 8명이면 약 0.3초입니다.
• 이 실습대는 그림이 아닙니다. 서버에서 진짜 스레드가 time.sleep을 하고, 각 주문이 실제로 시작하고 끝난 시각을 기록해 그린 것입니다.

1-4. 요리사를 늘리면 얼마나 빨라질까 (5분)

주문이 모두 같은 길이라면, 걸리는 시간은 "한 요리사가 가장 많이 맡은 주문 수 × 주문 하나의 시간"입니다.

import math

def estimate(orders, cooks, each=0.3):
    rounds = math.ceil(orders / cooks)   # 한 요리사가 맡는 최대 주문 수
    return round(rounds * each, 2)

for cooks in (1, 3, 4, 8, 16):
    print(cooks, estimate(8, cooks))
# 1 2.4
# 3 0.9
# 4 0.6
# 8 0.3
# 16 0.3

• 요리사 3명이면 8 ÷ 3을 올림한 3번, 그래서 0.9초입니다. 위 타임라인에서 본 숫자와 같습니다.
• 요리사가 주문 수보다 많아지면 더 빨라지지 않습니다. 주문 하나의 시간(0.3초)이 바닥입니다.
• 주문 길이가 제각각이면 가장 긴 주문이 바닥이 됩니다. 일을 아무리 나눠도 가장 긴 한 조각보다 빨리 끝낼 수는 없습니다.

1-5. 미리 보는 세 가지 도구 (8분)

파이썬에는 여러 일을 동시에 하는 도구가 세 가지 있습니다. 오늘은 맛만 보고, 다음 교시부터 하나씩 깊이 들어갑니다.

import threading

threads = [threading.Thread(target=make_order, args=(n,)) for n in range(1, 9)]
for th in threads:
    th.start()        # 요리사 여덟 명이 동시에 시작
for th in threads:
    th.join()         # 모두 끝날 때까지 기다린다
# 약 0.30초

import asyncio

async def make_order_async(n):
    await asyncio.sleep(0.3)   # 기다리는 동안 다른 주문을 본다
    return f"#{n}"

async def main():
    return await asyncio.gather(*(make_order_async(n) for n in range(1, 9)))

print(asyncio.run(main()))
# ['#1', '#2', '#3', '#4', '#5', '#6', '#7', '#8']  (약 0.31초)

1-6. 동시성은 공짜가 아니다 (5분)

요리사를 늘리는 데는 비용이 듭니다.

• 관리 비용: 스레드를 만들고 순서를 바꾸는 데에도 시간이 든다. 주문이 아주 짧으면 오히려 느려질 수 있다.
• 새로운 버그: 같은 재료를 두 사람이 동시에 만지면 결과가 틀린다(3교시). 서로 상대가 가진 도구를 기다리면 주방이 멈춘다(5교시).
• 생각하는 비용: 코드가 한 줄씩 순서대로 실행된다는 가정이 깨진다. 그래서 이 강의는 매번 타임라인으로 "언제 무엇이 실행됐는지"를 눈으로 확인한다.

영업 마감 (10분)

오늘 밤의 목표는 주문 여덟 개를 1초 안에 내보내는 것이었습니다. 주문이 모두 "기다리는 일"이니, 요리사 여덟 명이 하나씩 맡으면 됩니다.

start = time.perf_counter()
threads = [threading.Thread(target=make_order, args=(n,)) for n in range(1, 9)]
for th in threads:
    th.start()
for th in threads:
    th.join()
print(f"{time.perf_counter() - start:.2f}s")
# 0.30s

셰프가 타이머를 멈춥니다. "2.4초에서 0.3초. 첫날치고 나쁘지 않네. 그런데 요리사가 여덟 명이 되면, 누가 몇 개를 만들었는지는 누가 세지?"

실습 과제

1. 타임라인에서 주문을 12개, 요리사를 4명으로 하면 걸린 시간이 얼마일지 먼저 계산해 보고 돌려 보세요.
2. make_order의 time.sleep(0.3)을 숫자를 더하는 반복문(손이 바쁜 일)으로 바꾸고, 스레드로 돌리면 빨라지는지 재 보세요. 결과가 이상하다면 8교시에서 이유를 알게 됩니다.
3. 여러분의 일상에서 "기다리는 일"과 "손이 바쁜 일"을 세 개씩 적어 보세요.