카테고리: ML-Theory

'ML-Theory' 카테고리에 포함된 4개의 포스트

LLM에게도 잠이 필요하다: Google Research의 Sleep 프레임워크 — 기억 공고화와 꿈꾸기로 푸는 연속 학습

articles llm continual-learning catastrophic-forgetting distillation mixture-of-experts reinforcement-learning google
Google Research 블로그의 'The sleep framework: A new way for LLMs to retain knowledge in continual learning'(Ali Behrouz·Vahab Mirrokni, 2026-10-27)을 분석·정리한다. 깨어 있는 동안 쌓은 단기 기억을 '수면' 단계에서 확장된 장기 파라미터로 ...

턴으로 최적화하고, 토큰으로 나눈다: Multiscale Policy Optimization (MPO) — 장기 LLM 에이전트 RL의 크레딧 할당

articles paper llm reinforcement-learning credit-assignment ppo grpo agentic-engineering rlvr
IQuest 연구진의 arXiv 논문(2610.35013) 'Multiscale Policy Optimization for Long-Horizon LLM Agents'를 분석·정리한다. 멀티턴 에이전트에서 critic 가치가 토큰이 아니라 '턴' 사이에서 주로 변한다는 관찰에서 출발해, 턴 단위 GAE + 평균 보존 토큰 할당(MAE)과 턴 단위 im...

토크나이저를 모델 안으로: Cartesia 'From Tokens to Bytes I' — H-Net 스케일링 분석

articles llm tokenization bpe scaling-laws h-net byte-level-modeling
Cartesia Research의 'From Tokens to Bytes I: Scaling Hierarchical Networks'를 분석한다. 고정된 BPE 토크나이저 대신 모델 안에서 바이트를 동적으로 묶는 H-Net이 계산 최적 스케일링 사다리, 3B급 학습, 학습된 청킹의 질적 분석, DNA·이미지 확장에서 무엇을 보였는지 정리하고, 수치를 ...

딥러닝의 원리를 '유효 이론'으로 풀다: The Principles of Deep Learning Theory (Roberts·Yaida·Hanin)

articles paper ai deep-learning ml-theory neural-network
Daniel A. Roberts, Sho Yaida, Boris Hanin의 책/논문 'The Principles of Deep Learning Theory'(arXiv:2106.10165)를 소개·분석한다. 물리학의 유효 이론(effective theory) 관점에서 깊고 넓은 신경망을 무한폭 가우시안 한계와 1/n 유한폭 보정으로 전개하는 이 작업...
← 모든 카테고리 보기