CS336: 밑바닥부터 만드는 언어 모델 — Essential Curriculum

소개

대형 언어 모델(LLM)은 이제 API 한 줄로 호출하는 블랙박스가 되었습니다. 하지만 그 안에서 토큰이 어떻게 잘리고, 어텐션이 어떻게 계산되며, 수천 장의 GPU가 어떻게 한 모델을 나눠 학습하고, 데이터와 정렬이 모델의 성격을 어떻게 결정하는지를 이해하지 못하면, 우리는 영영 그 블랙박스의 사용자에 머무릅니다. Stanford CS336 “Language Modeling from Scratch”(2025 봄, Percy Liang · Tatsunori Hashimoto)는 바로 그 블랙박스를 열어, 밑바닥부터(from scratch) 언어 모델을 직접 조립해 보는 강의입니다.

이 글은 CS336-LLM-From-Scratch 시리즈의 마스터 로드맵입니다. CS336의 17개 강의를 기초 → 아키텍처·시스템 → 스케일링·추론 → 데이터·평가 → 정렬이라는 5개 유닛, 17단계로 재구성했습니다. 각 단계(=강의 한 편)를 정복할 때마다 상세 포스트를 작성하고 체크박스를 채우는 도장깨기 방식으로 진행 상황을 추적합니다.

이 강의를 관통하는 한 단어는 효율(efficiency)입니다. “더 큰 모델”이 아니라 “주어진 연산 예산으로 가장 좋은 모델”을 만드는 것 — 토크나이제이션부터 커널, 병렬화, 스케일링 법칙, 데이터 큐레이션까지 모든 결정이 결국 연산·메모리·데이터라는 한정된 자원을 어디에 쓸 것인가라는 질문으로 수렴합니다. 이 로드맵은 그 질문을 따라 17단계를 정복합니다.

강의 정보

강의: Stanford CS336 — Language Modeling from Scratch (Spring 2025)
강사: Percy Liang, Tatsunori Hashimoto
플레이리스트: YouTube — CS336 Spring 2025 (17 lectures)
코스 홈페이지: stanford-cs336.github.io

학습 흐름

17단계는 아래 순서대로 진행하는 것을 권장합니다. 기초(토크나이저·자원 회계)로 언어 모델의 입력과 비용의 언어를 익히고, 아키텍처·시스템(Transformer 변형·MoE·GPU·커널·병렬화)으로 모델을 효율적으로 만들고 굴리는 법을 배운 뒤, 스케일링·추론(스케일링 법칙·추론 최적화)으로 자원 대비 성능을 설계하고, 데이터·평가로 무엇을 먹이고 어떻게 측정할지 정한 다음, 정렬(SFT·RLHF·RL)로 모델을 쓸모 있게 길들이는 흐름입니다.

flowchart TD
    Start([학습 시작]) --> S1

    subgraph U1["유닛 1 · 기초"]
        S1["1강<br/>개요 · 토크나이제이션"]
        S2["2강<br/>PyTorch · 자원 회계"]
    end

    subgraph U2["유닛 2 · 아키텍처 & 시스템"]
        S3["3강<br/>아키텍처 · 하이퍼파라미터"]
        S4["4강<br/>Mixture of Experts"]
        S5["5강<br/>GPU"]
        S6["6강<br/>커널 · Triton"]
        S7["7강<br/>병렬화 1"]
        S8["8강<br/>병렬화 2"]
    end

    subgraph U3["유닛 3 · 스케일링 & 추론"]
        S9["9강<br/>스케일링 법칙 1"]
        S10["10강<br/>추론(Inference)"]
        S11["11강<br/>스케일링 법칙 2"]
    end

    subgraph U4["유닛 4 · 데이터 & 평가"]
        S12["12강<br/>평가(Evaluation)"]
        S13["13강<br/>데이터 1"]
        S14["14강<br/>데이터 2"]
    end

    subgraph U5["유닛 5 · 정렬(Alignment)"]
        S15["15강<br/>SFT · RLHF"]
        S16["16강<br/>RL 1"]
        S17["17강<br/>RL 2"]
    end

    S1 --> S2 --> S3 --> S4 --> S5 --> S6 --> S7 --> S8 --> S9 --> S10 --> S11 --> S12 --> S13 --> S14 --> S15 --> S16 --> S17
    S17 --> Done([시리즈 완주 🎉])

학습 진행 현황

완료한 항목에는 상세 포스트 링크가 연결됩니다. 학습이 진행될 때마다 체크박스와 진행률을 갱신합니다.

현재 완료한 항목: 6개
전체 항목: 51개
진행률: 12%

1단계: 개요와 토크나이제이션 (Lecture 1)

[유닛 1 · 기초] 코스 전체의 지도를 그리는 단계. “밑바닥부터 만든다”는 것이 무엇이고 왜 효율이 이 강의의 중심 주제인지 이해한 뒤, 언어 모델의 첫 관문인 토크나이저를 다룹니다. 문자·바이트 단위의 한계에서 출발해, 오늘날 거의 모든 LLM이 쓰는 BPE(Byte Pair Encoding)를 직접 구현해 봅니다. 자세한 내용은 CS336 1강 — 개요와 토크나이제이션: BPE를 밑바닥부터 포스트에서 다룹니다.

코스 개요와 철학: “from scratch”의 의미, 효율(연산·메모리·데이터)이라는 관통 주제, 3대 빌딩블록(아키텍처·시스템·데이터) — [상세]
토크나이제이션의 필요성: 문자/바이트 기반의 한계, 어휘 크기 ↔ 시퀀스 길이 트레이드오프, 서브워드의 등장 — [상세]
BPE(Byte Pair Encoding): 병합 규칙 학습, 인코딩·디코딩, GPT-2 토크나이저와 바이트 수준 BPE — [상세]

2단계: PyTorch와 자원 회계 (Lecture 2)

[유닛 1 · 기초] 모델을 “느낌”이 아니라 숫자로 다루는 법을 익히는 단계. 텐서의 메모리 레이아웃과 연산을 PyTorch로 짚고, 모델 크기·연산량(FLOPs)·메모리를 직접 추정하는 자원 회계(resource accounting)를 배웁니다. 이후 모든 시스템·스케일링 논의는 이 회계 위에서 이뤄집니다. 자세한 내용은 CS336 2강 — PyTorch와 자원 회계: 6ND와 메모리를 냅킨에 계산하기 포스트에서 다룹니다.

텐서와 메모리: dtype(fp32/bf16/fp8)·메모리 레이아웃·뷰 vs 복사, 파라미터·활성화·옵티마이저 상태의 메모리 — [상세]
FLOPs 회계: forward/backward 연산량, 행렬곱이 지배하는 비용, 모델 크기 대비 학습 FLOPs(6ND 근사) — [상세]
MFU와 학습 비용 추정: 하드웨어 이론 성능 대비 활용률(MFU), 토큰·파라미터·GPU 시간으로 학습 비용 가늠하기 — [상세]

3단계: 아키텍처와 하이퍼파라미터 (Lecture 3)

[유닛 2 · 아키텍처 & 시스템] 원조 Transformer에서 현대 LLM으로 오며 굳어진 설계 표준을 정리합니다. 정규화 위치, 정규화·활성화 함수, 위치 인코딩, 그리고 깊이·너비·헤드 수 같은 하이퍼파라미터의 실전 기본값을 다룹니다.

Transformer 변형: Pre-norm vs Post-norm, RMSNorm, SwiGLU/GeGLU 등 현대 LLM의 표준 선택
위치 인코딩: 절대/상대 인코딩의 한계와 RoPE(회전 위치 인코딩)
하이퍼파라미터 실전값: 너비/깊이 비율, 헤드 수·차원, FFN 배율 등 검증된 기본 설정

4단계: Mixture of Experts (Lecture 4)

[유닛 2 · 아키텍처 & 시스템] 연산은 고정한 채 파라미터만 키우는 희소(sparse) 아키텍처. 토큰마다 일부 전문가(expert)만 활성화하는 MoE의 원리와, 그것을 실제로 학습 가능하게 만드는 라우팅·로드 밸런싱을 다룹니다.

MoE의 핵심 아이디어: 희소 활성화로 파라미터 ↑·토큰당 연산 고정, 밀집(dense) 모델과의 비교
라우팅과 게이팅: top-k 라우팅, 로드 밸런싱 손실, 전문가 용량(capacity)과 토큰 드롭
실전 MoE: 대표 MoE 모델 사례와 학습 안정성·시스템상의 과제

5단계: GPU (Lecture 5)

[유닛 2 · 아키텍처 & 시스템] 모델이 실제로 돌아가는 하드웨어를 이해하는 단계. SM·메모리 계층·텐서 코어 같은 GPU 구조와, compute-bound vs memory-bound를 가르는 루프라인(roofline) 사고를 익혀, 왜 어떤 연산은 빠르고 어떤 연산은 느린지 설명합니다.

GPU 구조: SM(스트리밍 멀티프로세서), 메모리 계층(HBM↔SRAM/레지스터), 텐서 코어
성능 모델: 산술 강도(arithmetic intensity)와 루프라인, compute-bound vs memory-bound
왜 행렬곱인가: 행렬곱이 GPU에 잘 맞는 이유와, 메모리 이동이 성능을 지배하는 지점

6단계: 커널과 Triton (Lecture 6)

[유닛 2 · 아키텍처 & 시스템] GPU를 한계까지 짜내는 커널 최적화. 메모리 이동을 줄이는 커널 퓨전(fusion)의 원리를 배우고, Triton으로 커스텀 커널을 작성하며, 그 정점인 FlashAttention이 어떻게 메모리 효율적으로 어텐션을 계산하는지 이해합니다.

커널 퓨전: 연산을 합쳐 HBM 왕복을 줄이기, 메모리 바운드 연산의 최적화
Triton 프로그래밍: 블록 단위로 커스텀 GPU 커널 작성하기
FlashAttention: 타일링과 온라인 softmax로 메모리 효율적 어텐션 구현

7단계: 병렬화 1 — 데이터 병렬 (Lecture 7)

[유닛 2 · 아키텍처 & 시스템] 한 장의 GPU로는 큰 모델을 학습할 수 없습니다. 여러 GPU에 일을 나누는 첫 축, 데이터 병렬화와 그 통신 비용, 그리고 메모리를 분산하는 ZeRO/FSDP를 다룹니다.

집합 통신(collective): all-reduce·all-gather·reduce-scatter와 통신 비용 모델
데이터 병렬화: 동기 SGD, 그래디언트 동기화, 스케일링 한계
ZeRO / FSDP: 옵티마이저 상태·그래디언트·파라미터 샤딩으로 메모리 분산

8단계: 병렬화 2 — 텐서·파이프라인 병렬 (Lecture 8)

[유닛 2 · 아키텍처 & 시스템] 모델 자체를 쪼개는 병렬화. 텐서 병렬(한 레이어를 여러 GPU로)과 파이프라인 병렬(레이어들을 단계로), 그리고 이들을 데이터 병렬과 조합하는 3D 병렬화로 초대형 모델을 학습하는 법을 다룹니다.

텐서 병렬(Tensor Parallelism): 행렬곱을 GPU 간에 분할, 통신 지점과 비용
파이프라인 병렬(Pipeline Parallelism): 레이어 분할, 마이크로배치와 버블(bubble) 최소화
3D 병렬화: 데이터·텐서·파이프라인 병렬의 조합과 통신-연산 오버랩

9단계: 스케일링 법칙 1 (Lecture 9)

[유닛 3 · 스케일링 & 추론] “작게 실험해서 크게 예측한다.” 손실이 모델·데이터·연산의 거듭제곱으로 줄어드는 스케일링 법칙과, 주어진 연산 예산에서 모델 크기와 데이터 양의 최적 배분을 알려주는 Chinchilla를 다룹니다.

스케일링 법칙의 형태: 손실 = f(파라미터·데이터·연산)의 거듭제곱 법칙, 멱법칙(power law) 직관
Chinchilla와 compute-optimal: 고정 연산에서 모델 크기 ↔ 토큰 수의 최적 비율
스케일링 실험 설계: IsoFLOP 곡선, 작은 모델에서 큰 모델의 성능 외삽

10단계: 추론 (Inference) (Lecture 10)

[유닛 3 · 스케일링 & 추론] 학습이 끝난 모델을 실제로 서빙할 때의 경제학. prefill과 decode의 비대칭, KV 캐시, 그리고 양자화·speculative decoding·배칭 같은 추론 최적화 기법을 다룹니다.

추론의 두 단계: prefill(병렬) vs decode(순차)의 비대칭, 지연 vs 처리량
KV 캐시: 캐시의 메모리 비용과 컨텍스트 길이·배치 크기의 제약
추론 최적화: 양자화, speculative decoding, 연속 배칭(continuous batching)

11단계: 스케일링 법칙 2 (Lecture 11)

[유닛 3 · 스케일링 & 추론] 스케일링 법칙을 실무 의사결정으로 잇는 단계. 작은 모델에서 튜닝한 하이퍼파라미터를 큰 모델로 옮기는 하이퍼파라미터 전이(muP 등)와, 스케일링으로 학습 레시피를 결정하는 방법을 다룹니다.

하이퍼파라미터 전이: muP(maximal update parameterization), 작은 모델에서 큰 모델로 학습률 전이
스케일링으로 레시피 정하기: 아키텍처·데이터·옵티마이저 선택을 스케일링 실험으로 검증
실전 스케일링의 함정: 외삽의 한계, 데이터 한계(data-constrained) 스케일링

12단계: 평가 (Evaluation) (Lecture 12)

[유닛 4 · 데이터 & 평가] “좋은 모델”을 어떻게 측정하는가. perplexity 같은 내재적 지표부터 MMLU 등 벤치마크, LM-as-judge까지 평가 방법을 정리하고, 오염(contamination)·재현성 같은 평가의 함정을 짚습니다.

내재적 지표: perplexity·bits-per-byte와 그 한계
벤치마크와 LM-as-judge: MMLU 등 능력 벤치마크, 모델로 모델 평가하기, 휴먼 평가
평가의 함정: 데이터 오염(contamination), 프롬프트 민감도, 재현성과 리더보드의 한계

13단계: 데이터 1 — 수집과 출처 (Lecture 13)

[유닛 4 · 데이터 & 평가] 모델의 성격을 결정하는 진짜 원재료, 데이터. Common Crawl 같은 웹 데이터의 수집과 추출, 그리고 raw 웹에서 학습 가능한 텍스트를 뽑아내는 처리 파이프라인의 큰 그림을 다룹니다.

데이터 출처: Common Crawl·웹·코드·도서 등 사전학습 데이터의 원천
추출과 정제: HTML에서 텍스트 추출, 언어 식별, 기초 정규화
데이터 파이프라인 개요: raw → 필터링 → dedup → 믹스로 이어지는 전체 흐름

14단계: 데이터 2 — 필터링·중복 제거·믹스 (Lecture 14)

[유닛 4 · 데이터 & 평가] 데이터 처리의 핵심 기술. 품질 분류로 좋은 문서를 고르고, 중복 제거(dedup)로 낭비와 암기를 줄이며, 도메인 비율(데이터 믹스)을 조절해 모델의 능력을 조형하는 법을 다룹니다.

품질 필터링: 분류기 기반 품질 선별, 휴리스틱 필터, 독성·PII 제거
중복 제거(Deduplication): 정확·근접 중복 제거(MinHash 등)와 그 효과
데이터 믹스: 도메인 비율 조절, 데이터 한계(data-constrained) 환경에서의 반복(epoch)

15단계: 정렬 — SFT와 RLHF (Lecture 15)

[유닛 5 · 정렬(Alignment)] 사전학습된 “원석” 모델을 사람이 쓸 수 있는 어시스턴트로 길들이는 첫 단계. 지도 미세조정(SFT)으로 지시를 따르게 하고, RLHF로 사람 선호에 맞추는 과정을 다룹니다.

SFT(Instruction Tuning): 지시-응답 데이터로 미세조정, 데이터 품질·다양성의 중요성
선호 데이터와 보상 모델: 사람 선호 비교 데이터로 보상 모델 학습
RLHF: 보상 모델 + PPO로 정책 최적화, KL 제약과 보상 해킹(reward hacking)

16단계: 정렬 — RL 1 (Lecture 16)

[유닛 5 · 정렬(Alignment)] 정렬을 강화학습의 관점에서 다시 봅니다. 정책 경사(policy gradient)의 기초를 짚고, 보상 모델 없이 선호 데이터로 곧장 최적화하는 DPO 계열 방법을 다룹니다.

정책 경사 기초: REINFORCE·이점(advantage)·분산 감소, RLHF를 RL로 보기
DPO와 그 변형: 보상 모델 없는 직접 선호 최적화, RLHF 대비 장단점
안정성 이슈: 보상 해킹, 분포 이동(distribution shift), KL 정규화

17단계: 정렬 — RL 2 (Lecture 17)

[유닛 5 · 정렬(Alignment)] 최신 RL 정렬의 최전선. 정답을 검증 가능한 과제에서 보상을 주는 RLVR(검증 가능 보상 RL)과, 이를 통해 추론(reasoning) 능력을 끌어올리는 학습으로 시리즈를 마무리합니다.

검증 가능 보상(RLVR): 정답 검증이 가능한 과제(수학·코드)에서의 RL, 규칙 기반 보상
추론 모델 학습: RL로 사고 사슬(chain-of-thought)을 강화하기, 최신 reasoning 모델의 레시피
최신 RL 기법: GRPO 등 메모리 효율적 정책 최적화와 정렬 연구의 현재

핵심 포인트

효율이 모든 결정을 관통한다: 토크나이저·커널·병렬화·스케일링·데이터 큐레이션은 결국 “한정된 연산·메모리·데이터를 어디에 쓸 것인가”라는 한 질문의 다른 얼굴입니다. 새 기법을 만나면 “어떤 자원을 아끼는가”부터 물으면 길을 잃지 않습니다.
숫자로 사고하라(자원 회계): 모델을 FLOPs·메모리·MFU로 추정하는 습관이 시스템·스케일링 전체의 토대입니다. “느낌”이 아니라 회계가 설계를 이끌어야 합니다.
아키텍처보다 시스템이 병목인 시대: 현대 LLM의 한계는 종종 모델 구조가 아니라 GPU·커널·통신에서 옵니다. 시스템 유닛(5~8강)이 이 강의의 무게중심인 이유입니다.
데이터가 모델의 성격을 만든다: 같은 아키텍처라도 무엇을 어떻게 먹였는지가 능력을 가릅니다. 수집·필터링·dedup·믹스는 부차적 전처리가 아니라 핵심 설계입니다.
사전학습이 끝이 아니다(정렬): SFT·RLHF·RL은 원석을 쓸모 있는 도구로 바꾸는 단계이며, 최신 reasoning 모델의 능력은 상당 부분 정렬·RL에서 옵니다.

결론

CS336이 던지는 메시지는 분명합니다 — 언어 모델은 마법이 아니라 엔지니어링이다. 토큰을 자르는 규칙, 어텐션을 계산하는 커널, GPU를 가로지르는 통신, 데이터를 거르는 분류기, 모델을 길들이는 보상까지 — 모든 단계가 측정 가능하고 설계 가능한 결정입니다. 그리고 그 결정들을 묶는 한 줄의 원칙이 효율입니다.

이 시리즈는 한 단계씩 정복해 나가는 중입니다(진행 현황은 위 “학습 진행 현황” 참고). 17단계를 하나씩 채우며, “API 뒤의 블랙박스”를 “내가 이해하고 만들 수 있는 시스템”으로 바꿔 나가겠습니다. 각 단계를 완주할 때마다 상세 포스트를 연결하고 진행률을 갱신합니다.

다음 학습 (Next Learning)

CS336 1강 — 개요와 토크나이제이션: BPE를 밑바닥부터 — 첫 단계, 토크나이제이션과 BPE 밑바닥 구현
CS336 2강 — PyTorch와 자원 회계: 6ND와 메모리를 냅킨에 계산하기 — 둘째 단계, FLOPs·메모리 회계와 6ND
Data Engineering Essential Curriculum — 모델에 먹일 데이터를 만드는 파이프라인의 토대
Python Advanced Competency Curriculum — LLM 구현의 기반 언어, Python 심화

소개