Vikram Sreekanti와 Joseph E. Gonzalez의 'Data is Your Only Moat'를 읽고, AI 애플리케이션을 '문제 난이도 × 채택 난이도'의 2x2로 나눠 각 사분면의 경쟁 동학과 해자를 분석한다. 결론은 하나 — 어느 사분면에 있든 진짜 해자는 채택 용이성이 돌리는 데이터 플라이휠뿐이라는 것.
Stanford CS336 14강 정리. raw 웹을 좋은 학습 코퍼스로 바꾸는 세 기술 — 품질 필터링(KenLM·fastText·DSIR), 중복 제거(MinHash·LSH·Bloom filter), 데이터 믹스. 핵심 과제는 목표와 닮은 부분집합을 극도로 빠르게 골라내기.
데이터가 아키텍처보다 모델을 결정한다 — Common Crawl을 학습 코퍼스로 바꾸는 파이프라인(WARC/WET·HTML→텍스트), 사전학습 데이터셋의 계보(C4·The Pile·RefinedWeb·FineWeb·Dolma·DCLM), 그리고 저작권·공정 이용.
Anthropic 데이터 사이언스·엔지니어링 팀이 쓴 'How Anthropic enables self-service data analytics with Claude'를 읽고, agentic 분석의 정확도가 코드 생성이 아니라 거버넌스된 데이터 기반·구조화된 검색·skill·검증에서 나온다는 4계층 스택을 개발자 관점에서 분석·정리한다.
