[하린다이어리] 2025년 5월 3주차: 봉을 잡고 일어서려던 무릎과 잠 못 든 밤들
하린이의 2025년 5월 3주차 어린이집 한 주, 아빠가 적은 성장 일기.
[하린다이어리] 2025년 5월 3주차: 봉을 잡고 일어서려던 무릎과 잠 못 든 밤들 게시물 읽기"
[하린다이어리] 2025년 5월 2주차: 콧물이 한 줄 잦아들고 무릎이 한 호흡 올라온 주
하린이의 2025년 5월 2주차 어린이집 한 주, 아빠가 적은 성장 일기.
[하린다이어리] 2025년 5월 2주차: 콧물이 한 줄 잦아들고 무릎이 한 호흡 올라온 주 게시물 읽기"
[하린다이어리] 2025년 5월 1주차: 연휴 뒤 콧물 약봉투, 잡고 선 한 걸음
하린이의 2025년 5월 1주차 어린이집 한 주, 아빠가 적은 성장 일기.
[하린다이어리] 2025년 5월 1주차: 연휴 뒤 콧물 약봉투, 잡고 선 한 걸음 게시물 읽기"
Lumen 사이드 0편 – 시리즈 인덱스, 처음 펴는 분의 입구
Lumen LLM 추론 컴파일러 6주 사이드 시리즈의 입구. 1~10편 안내, 도시 건축 비유 매핑 표, 어디부터 읽어야 하는지 추천 순서. 처음 시리즈 펴는 분에게 도움 되는 정리.
Lumen 사이드 0편 – 시리즈 인덱스, 처음 펴는 분의 입구 게시물 읽기"
Lumen 사이드 10편 – 6주 회고, v0.1에서 v0.5까지의 시공 일지
사이드 마지막 편. Lumen v0.1.0(첫 토큰 ‘안녕’)에서 v0.5.0(release-tagged)까지의 6주 작업을 시간 순으로 정리. 1~2주차 인프라, 3~4주차 큰 가속, 5~6주차 부정 누적과 진단. 단일 스레드 10.3배 가속, ggml 대비 +13% 빠른 의외 결과.
Lumen 사이드 10편 – 6주 회고, v0.1에서 v0.5까지의 시공 일지 게시물 읽기"
Lumen 사이드 9편 – 측정-주도 의사결정, 직관 11번 중 8번이 틀린 이유
사이드 6주 동안 가설 11번 세웠는데 그중 8번이 측정으로 부정. 그 패턴이 어떤 모양이고 왜 그게 사이드의 본질인지. 50줄 마이크로벤치가 1주일 디버깅을 1시간으로 줄인 사례, prefill batching이 2.9배 회귀였던 충격까지.
Lumen 사이드 9편 – 측정-주도 의사결정, 직관 11번 중 8번이 틀린 이유 게시물 읽기"
Lumen 사이드 8편 – 8 코어인데 8배가 아닌 이유, 메모리 대역폭의 벽
8 코어 CPU에서 8 스레드 가속이 8배가 아닌 1.5배 정도밖에 안 나오는 이유. 메모리 대역폭이 코어 수와 무관한 하드웨어 한계라서. 한 우물에서 8명이 물 긷기 비유로 풀어봅니다. atomic counter 패턴이 mutex보다 빠른 이유까지.
Lumen 사이드 8편 – 8 코어인데 8배가 아닌 이유, 메모리 대역폭의 벽 게시물 읽기"
Lumen 사이드 7편 – Transformer 한 동(洞) 안에서 일어나는 일 8단계
1편에서 ‘도시 24개 동’으로 풀었던 그 한 동의 내부 동작. RMSNorm, Q/K/V, RoPE, Attention, FFN의 8단계가 어떻게 흐르는지. attention은 칵테일 파티에서 한 사람 말 듣기로 잠깐 풀고 다시 건축으로 돌아옵니다.
Lumen 사이드 7편 – Transformer 한 동(洞) 안에서 일어나는 일 8단계 게시물 읽기"
Lumen 사이드 6편 – 양자화, 32비트를 8비트로 줄여도 답이 같은 이유
모델 weight를 32비트 float에서 8비트 정수로 압축하면 메모리 4배 줄어드는데 답이 거의 똑같은 게 어떻게 가능한지. Q8과 Q4의 차이, fused matmul, VNNI 명령어까지. mm 단위 청사진을 cm 단위로 단순화해도 시공 결과는 같다는 비유로 풀어봅니다.
Lumen 사이드 6편 – 양자화, 32비트를 8비트로 줄여도 답이 같은 이유 게시물 읽기"
Lumen 사이드 5편 – SIMD, 1차선 도로를 8차선으로 바꾸는 기술
SIMD가 정확히 뭐고 매트멀이 빨라지는 진짜 원리. AVX2, AVX-512, FMA, 4-accumulator 패턴까지. 도시 자재 운송을 1차선 도로에서 8차선 도로로 바꾸는 비유로 풀어봅니다. AMD Zen 4에서 AVX-512가 -4.5% 회귀였던 일화도 본격적으로.
Lumen 사이드 5편 – SIMD, 1차선 도로를 8차선으로 바꾸는 기술 게시물 읽기"