Firezone 공식 블로그에 Thomas Eizinger가 쓴 'Introducing sanstun'을 정리한다. 2년 넘게 boringtun 포크를 패치하며 얻은 교훈으로 만든 sans-IO WireGuard 상태 기계가, 프로토콜 불변식을 타입으로 강제하고 장부 정리와 암호 연산을 분리해 병렬 crypto를 여는 방식을 분석한다.
SkyPilot 블로그의 'Grace Blackwell needs a new scheduler'를 분석한다. NVL72 랙의 NVLink 이점은 작업이 한 랙 안에 놓일 때만 생긴다는 주장과 '16노드 슬라이스 + 예비 노드 2개' 설계를 정리하고, 일반적인 기술 논지와 자사 제품 홍보를 분리해 평가한다.
Stanford CS336 8강 정리. 모델을 쪼개 활성화만 주고받기 — 너비로 자르는 텐서 병렬, 깊이로 자르는 파이프라인 병렬(과 버블), 활성화·시퀀스 병렬, 그리고 셋을 합치는 3D 병렬화의 실전 규칙과 사례(Megatron·DeepSeek·Llama 3).
Stanford CS336 7강(전반) 정리. 한 GPU를 넘어 데이터센터로 — 네트워킹 계층과 집합 통신(all-reduce = reduce-scatter + all-gather), 데이터 병렬의 파라미터당 16바이트 메모리 문제, 그리고 그 중복을 단계적으로 걷어내는 ZeRO 1·2·3(=FSDP).
