성효진 · 유민수 연구 세계 입문

시스템, 컴파일러, 하드웨어-소프트웨어 경계의 두 연구 흐름.
GPU 위에 AI가 올라간 시대, 그 사이의 “보이지 않는 변환기”를 만드는 두 연구자의 작업을 한 권으로.

이 표가 보여주는 건, 두 분이 “같은 산을 다른 길로 오르고 있다”는 사실이다. 산은 “데이터를 누가 어디서 어떻게 움직일까”라는 거대 질문이고, 길은 한쪽이 IR과 컴파일러, 다른 쪽이 마이크로아키텍처와 시뮬레이터다.

왜 이 두 분을 한 권에 묶었을까

이야기의 출발

GPU 위에 AI가 올라간 시대, 모델을 보는 사람과 칩을 보는 사람 사이엔 여전히 깊은 골이 있다. 그 골을 메우는 사람들이 시스템 연구자다. 컴파일러를 짜는 사람, 메모리 시스템을 새로 그리는 사람, 가속기 안에서 데이터가 어떻게 흐르는지 시뮬레이션하는 사람. 이들이 바로 모델과 칩 사이의 “보이지 않는 변환기”다.

성효진 교수님(서울대 데이터사이언스대학원)과 유민수 교수님(KAIST 전기·전자공학부)은 한국에서 이 “하드웨어-소프트웨어 경계”를 가장 적극적으로 다루는 두 연구자다. 출발점은 다르다. 한 분은 캐시 코히런스에서, 다른 한 분은 GPU 마이크로아키텍처에서 시작했다. 그런데 두 분이 어디서 만나는가를 보면, 이 분야가 어디로 가고 있는지가 보인다.

스포일러: 두 분 모두 결국 “데이터를 어디 두고 누가 옮길지” 라는 같은 질문을 다른 도구로 풀고 있다.

이 문서가 약속하는 것

• 시간 순으로만 따라가지 않는다. 연구 질문 단위로 묶어서 읽기 좋게 만든다.
• “병목 → 기계 → 결과”가 한 단위다. 논문 제목 나열은 부록으로 미룬다.
• 출처를 붙인다. 추측은 “추정”이라고 못 박는다.
• 마지막엔 미니 프로젝트와 읽기 로드맵. 그냥 읽기만 하고 끝나지 말자는 뜻이다.

두 분을 함께 읽으면 보이는 것

한쪽은 컴파일러를 손에 잡고 있고, 다른 한쪽은 시뮬레이터와 RTL을 손에 잡고 있다. 그런데 두 사람이 잡는 단어는 신기하게도 같다. region, locality, data movement, capacity, bandwidth. 이건 우연이 아니다. AI 시스템이라는 거대한 산이 결국 이 단어들로 정의되어 있기 때문이다.

그래서 이 책은 두 분을 “비교”하는 책이 아니라 “두 길을 같이 보는” 책이다. 한 길만 본 사람은 자기가 아는 도구로만 생각한다. 두 길을 본 사람은 자기 도구가 무엇을 못 보는지를 안다. 시스템 연구자가 되려는 사람은 후자가 되어야 한다.

연구자 프로필

캐시 코히런스의 “반항아”로 시작해, 컴파일러를 손에 잡은 채 메모리의 가장자리(PIM·NDP·CXL)로 영역을 넓혀온 사람.

지금 어디에 계신가

• 서울대학교 데이터사이언스대학원(GSDS) 부교수. 부임 시점은 2024년 전후로 추정. (출처: hsung.snu.ac.kr, SNU CODE Lab)
• 사무실: 서울대 GSDS Building 43, Room 407 / 1 Gwanak-ro, Gwanak-gu, Seoul
• 연구실 이름: CODE Lab — Computing Optimization and Data-driven Exploration
• 직전 소속: POSTECH 컴퓨터공학과(2019–2024 추정). 같은 약자의 풀네임이 “Compiler Design and Optimization”이었으니, 같은 CODE Lab인데 “재정의된” 셈이다.

참고로 본 문서를 의뢰받았을 때 “연세대 컴퓨터과학과”로 적혀 있었다. 1차 자료를 다 뒤져본 결과 현재 소속은 서울대 GSDS로 일치한다. 본 문서는 SNU를 사실로 채택했다.

학력

경력

학술 프로필

• DBLP: dblp.org/pid/37/7474
• Google Scholar: scholar.google.com — h-index 8 · 인용 ~997 (2026.04 시점)
• ACM DL: profile/81444596778
• IEEE Xplore: author/38237507800

핵심 협업 네트워크

이 분의 논문을 읽다 보면 자연스럽게 같이 보이는 사람들이 있다. 동명이인 검증의 단서이기도 하다.

산학·커뮤니티

• IBM 내부 시스템: CORAL Project (Summit/Sierra 슈퍼컴 LLVM OpenMP 4.5 GPU 지원) 업스트림 직접 기여.
• ETRI/KISTI: 한국 차세대 슈퍼컴 AB21용 OpenCL 컴파일러·런타임 협력.
• 학회 서비스: ASPLOS 2014 Submission Co-chair, CGO 2021 SRC Chair, LCTES 2022 PC, ISPASS 2019 PC.
• 수상: PACT 2011 Best Paper (DeNovo), IEEE Micro Top Picks 2014 (DeNovoND), ACM Doctoral Dissertation Award Nomination (2015), MIT Rising Stars in EECS (2013).

이 챕터에서 가져갈 것

• “병렬 프로그램이 가진 특성을 활용하면 시스템 자원을 더 단순하게 만들 수 있지 않나?”라는 질문에서 시작했다.
• 학계 → 산업체(IBM) → 학계로 돌아오면서 컴파일러를 손에 잡는 사람으로 정체성이 굳어졌다.
• 박사 시기의 캐시 → IBM의 OpenMP → 한국의 ML/PIM 컴파일러로 레이어가 위로 올라가는 모습이 보인다.

전체 연구 지도

한 연구자의 논문을 “시간 순”으로 보면 그 연구자의 “인간”이 보이지만, “질문 단위”로 묶으면 그 연구자의 “생각”이 보인다. 이 절은 후자를 한다.

성 교수님의 작업은 6개 축으로 묶인다. 신기한 건 6축이 시간 순으로 나란히 펼쳐져 있고, 각 축이 “위쪽 레이어가 알고 있는 정보를 아래로 흘려보내자”라는 한 문장으로 환원된다는 것.

축 A — Disciplined Parallelism과 캐시 코히런스 UIUC, 2009-2015

축 B — Deterministic Parallel Programming UIUC, 2009

축 C — OpenMP-on-GPU 컴파일러 IBM, 2015-2019

축 D — ML for Compiler Optimization IBM 후기 + POSTECH, 2019-2022

축 E — PIM/NDP 컴파일러와 런타임 POSTECH, 2021-

축 F — 가속기 DSE POSTECH/SNU, 2023-

여섯 축이 한 줄로 모이면

시간 순으로 보면 한 칸씩 추상화 레이어가 위로 올라간다. 캐시 → 동기화 → OpenMP 컴파일러 → ML 컴파일러 → PIM 컴파일러 → DSE. 그러나 모든 축의 공통어는 같다. “프로그래머·컴파일러가 알고 있는 의미적 정보를 아래쪽 시스템에 흘려보내자.” RISC가 “하드웨어를 단순하게 하기 위해 컴파일러에 부담을 주자”라고 했던 그 줄에 정확히 서 있다.

연도별 연구 흐름

한 논문을 한 단위로 두고, “어떤 병목을 발견했고, 어떤 기계를 만들었고, 어떤 결과를 냈는가”를 일관된 형식으로 본다.

전체 논문 표는 부록 A에서 정리·검색용으로 제공한다. 이 절은 “읽고 이해하기”용이다.

2009 — DPJ: 결정적 병렬 자바

2010 — DeNovo 첫 발표 + ParKD

• DeNovo: Rethinking Hardware for Disciplined Parallelism (HotPar 2010) — DeNovo의 첫 워크샵 발표.
• Parallel SAH k-D Tree Construction (ParKD) (HPG 2010) — DeNovo 평가용 워크로드 중 하나. 코드 github.com/bchoi/ParKD.

2011 — DeNovo 본편 (PACT, Best Paper)

2013 — DeNovoND

2015 — DeNovoSync, PhD Thesis, IBM 합류

같은 해 PhD Thesis DeNovo: Rethinking the Memory Hierarchy for Disciplined Parallelism을 마무리. ACM Doctoral Dissertation Award Nomination, UIUC Kuck Outstanding Thesis Runner-up. 그리고 IBM TJ Watson에 합류해 CORAL 프로젝트(Summit/Sierra)에 투입.

2015 – 2017 — IBM CORAL: OpenMP 4.5 GPU 컴파일러

이 시기 논문은 한 묶음으로 읽어야 의미가 있다. 모두 “OpenMP 4.5 target 지시문을 NVIDIA GPU에서 어떻게 효율적으로 실행할까”라는 단일 질문 아래 쌓여 있다.

2019 — CogR: ML for systems의 시작

2019 – 2024 — POSTECH 시기: 두 줄거리

POSTECH 5년의 작업은 두 갈래로 흐른다. (1) 컴파일러를 ML 컴파일러로 확장하면서 autotuning과 cost model에 ML을 도입한다. (2) PIM/NDP가 등장하면서, 그 PIM을 ML 프레임워크가 자동으로 쓰도록 컴파일러·런타임을 만든다.

2024 — CXL NDP, NavCim, IMTP

2025 — HYPERF, ATiM

2026 — FORTE

이 챕터에서 가져갈 것

• 성 교수님 논문은 “시간이 지나면서 한 단계씩 위 레이어로 올라가지만 아래 레이어를 잊지 않는” 패턴.
• 박사 시기엔 캐시, IBM에선 컴파일러, 한국에선 ML 컴파일러 + PIM 컴파일러 + DSE.
• 모든 작업이 “데이터를 어디 두고 누가 옮길지를 컴파일러가 결정하게 하자”라는 한 줄로 모인다.

대표 프로젝트 해부

논문은 “주장”이고 시스템은 “물증”이다. 이 절은 다섯 개의 “물증”을 한 단위로 본다.

4-1. DeNovo 캐시 코히런스

4-2. PIMFlow

4-3. One-Shot Tuner

4-4. ATiM (UPMEM PIM 컴파일러)

4-5. NavCim (Analog CiM DSE)

성효진 교수님의 연구 스타일 요약

한 연구자의 “스타일”은 어떤 단어를 반복해서 쓰는지, 어떤 도구를 손에 잡는지, 어떤 종류의 병목에 흥분하는지로 드러난다.

반복 등장하는 문제의식

1. “위에서 알고 있는 정보를 아래로 보내자” — 언어 → 컴파일러 → 하드웨어로 의미 정보를 전달.
2. “휴리스틱은 ML 모델로 대체할 수 있다” — register allocator, autotuner, target/host 결정 등.
3. “데이터를 어디서 계산할 것인가” — GPU / PIM / NDP / CXL 사이의 분할.

선호하는 시스템 레이어

캐시 코히런스(박사) → 컴파일러 백엔드(IBM) → 컴파일러 프런트엔드 + 런타임(POSTECH/SNU) → DSE(2023+).

레이어가 위로 올라가면서도 “이 위 레이어가 아래 레이어에 무엇을 알려주면 더 빨라지는가”라는 같은 문제를 반복해서 푼다.

자주 쓰는 방법론

• 시뮬레이터 + 오픈 컴파일러 — SIMICS/GEMS/gem5, LLVM, TVM. 손에 잡고 직접 수정.
• 벤치마크 정의 → 측정 → 병목 식별 → 컴파일러 패스 추가 — 매우 일관된 워크플로.
• ML 모델로 휴리스틱 학습 — meta-learning, NAS, RL.

어떤 종류의 병목을 중요하게 보는가

• 하드웨어가 알 수 없는 의미적 정보(region, effect, workload structure)가 위에 있는데 못 쓰고 있는 상황.
• 컴파일러가 동일한 일을 매번 처음부터 다시 하는 상황(autotuning).
• 새 하드웨어(PIM/NDP/CXL/Analog CiM)가 등장했지만 ML 프레임워크가 못 쓰는 상황.

논문들이 어떤 스토리로 이어지는가

관심 있는 학생이 준비할 것

• 컴파일러 — LLVM/TVM 빌드 + IR pass 작성 경험.
• 컴퓨터구조 — 캐시/메모리/MMU/coherence.
• ML 시스템 — autotuning, cost model, NAS 기초.
• 가속기 시뮬레이션 — gem5, NeuroSim, SystemC 중 하나.
• 언어 — Python + C++ + (가능하면) CUDA.

CUDA / Triton / GPU 커널 지망자에게

성 교수님 작업은 “커널을 짜는 사람”보다 “커널을 자동으로 짜는 시스템을 만드는 사람”의 시각이다. 즉 Triton 자체보다는 “Triton의 schedule space를 어떻게 검색할까”에 가까운 영역. CUDA를 짜고 싶다면 PIMFlow 같은 결과물을 “사용자”로 활용하면서 “이 컴파일러가 만든 코드를 손으로 짠 코드와 비교”하는 방식이 학습에 좋다.

앞으로의 방향 — 명시 자료 + 추정

한 연구자의 “다음”을 정확히 점치는 사람은 본인뿐이다. 이 절은 공개 자료에서 확인되는 방향과 “흐름상 자연스러운 추정”을 분리한다.

명시 자료에서 확인되는 방향

• CXL 메모리 확장기 + NDP 컴파일러 — MICRO 2024 논문이 시작점. CXL 풀(pool)을 ML 프레임워크가 어떻게 자동 활용할지가 다음 단계.
• 상용 PIM 생태계 — ATiM(ISCA 2025)이 UPMEM 대상이므로, SK Hynix HBM-PIM 등 다른 상용 PIM 백엔드로 확장될 가능성이 높음.
• HPC 자동튜닝 — HYPERF(HPDC 2025) 흐름 연장. 한국 슈퍼컴 AB21용 OpenCL 컴파일러·런타임 후속.
• ML for Systems · Systems for ML — SNU 데이터사이언스 세미나의 슬로건이자 향후 연구 라인의 방향타.

최근 흐름상 자연스러운 다음 문제 추정

• LLM serving 컴파일러 — vLLM/SGLang/TensorRT-LLM이 KV cache, paged attention, speculative decoding을 손으로 짠다. 이걸 컴파일러가 자동화할 가능성. IMTP/ATiM이 그 시그널.
• Analog CiM + DNN training — NavCim이 inference만 다루는데, training으로 넓힐 가능성.
• DataFrame + 컴파일러 — FORTE(CGO 2026)는 SNU GSDS 정체성과 강하게 맞물림. 데이터프레임 컴파일 기반 가속이 후속으로.

산업 변화와의 연결 추정

• 삼성/SK 하이닉스 PIM 상용화 — 두 회사 모두 HBM-PIM 제품을 갖추고 있음. 컴파일러 측 협력이 거의 확실.
• CXL 2.0/3.0 풀링 — 데이터센터 표준이 CXL로 옮겨가면서 NDP가 보편 모델이 됨.
• NVIDIA Grace, AMD MI300, Intel Gaudi — 메모리 측에 점점 큰 SoC가 붙고 있어, OpenMP target 류의 컴파일러 경험이 다시 중요해짐.

학생이 준비하면 좋은 구현 프로젝트

1. TVM Relay + UPMEM 백엔드를 직접 작성해 dot product/conv1d 두 종을 매핑 — 1개월
2. DeNovo coherence를 gem5 ruby 위에 reimplement — 3개월
3. CXL Type-3 메모리 확장기 시뮬레이터에 NDP 모듈 추가 — 3개월+

이 연구자를 이해하는 한 문장

성효진 교수님은 “위쪽 레이어가 알고 있는 의미적 정보를 아래쪽 시스템에 흘려보내, 컴파일러가 직접 데이터의 위치와 흐름을 결정하게 만드는 사람”이다.

연구자 프로필

석사 때 JPEG2000 ASIC을 만들던 사람이 박사 때 GPU 분기 마이크로아키텍처를 풀고, NVIDIA에서 vDNN과 SCNN을 만들고, 한국으로 돌아와 추천시스템 가속과 PIM의 한국 학술 라인을 세운 사람.

지금 어디에 계신가

• KAIST 전기 및 전자공학부 정년보장 부교수 (2025년 7월 정년보장). 2026년 2월 KAIST Endowed Chair Professor(석좌교수) 임명. 출처: KAIST EE 프로필.
• 겸임 — KAIST 반도체시스템공학과, AI 대학원, AI 반도체 대학원.
• 연구실 — VIA · Vertically Integrated Architecture Research Group. sites.google.com/view/kaist-via
• 사무실 — KAIST N1 Building #809.

학력

경력

학술 프로필

• VIA Research Group — sites.google.com/view/kaist-via
• 개인 홈페이지 — minsoorhu.github.io
• DBLP — dblp.org/pid/02/8105
• Google Scholar — h-index 30 · 인용 ~5,833 (2026.04 시점)
• VIA GitHub 조직 — github.com/VIA-Research (uPIMulator, vTrain 등 공개)
• ORCID 0000-0003-3303-8681

핵심 협업 네트워크

VIA 그룹 학생들

박사과정 12명, 석사과정 11명 규모. 졸업생 행보 — Youngeun Kwon → NVIDIA, Yujeong Choi → Google, Bongjoon Hyun → Samsung Electronics DS, Ranggi Hwang → UNIST 교수, Yunjae Lee → Samsung DS. 한국 시스템 학술의 “송출망” 노드 중 하나로 자리잡았다.

수상과 학회 서비스

• HPCA-30 Best Paper Award (2024, Edinburgh) — uPIMulator. 한국 연구진 최초의 top-tier 컴퓨터 아키텍처 best paper.
• IEEE Micro Top Picks Honorable Mention 3회 — TensorDIMM (2020) · NeuMMU (2021) · uPIMulator (2025).
• 2024 KAIST 10대 연구성과 (uPIMulator).
• ISCA / HPCA / MICRO Hall of Fame 모두 입성.
• MICRO 2025 Program Co-Chair — 아시아 대학 교수 최초.
• IEEE Transactions on Computers Associate Editor (2024–).
• Google Research Scholar Award (2023), Facebook Faculty Research Award (2020).
• 2024 IITP SW Star Lab — “Secure and Private AI System” 8년 지원.

이 챕터에서 가져갈 것

• 유 교수님은 GPU 마이크로아키텍처에서 출발해 차츰 GPU 위에 얹는 것들(DL 학습·추천·LLM·에이전트)로 영역을 위로 옮긴 사람.
• NVIDIA에서 vDNN과 SCNN을 만든 경험이 한국 작업의 톤을 결정한다 — “DL 학습/추론의 메모리 병목”을 본능적으로 본다.
• 그가 만드는 시스템은 거의 항상 하드웨어 프로토타입 또는 사이클 정확 시뮬레이터가 함께 나온다 — 컴파일러 중심인 성 교수님 그룹과의 결정적 차이.

전체 연구 지도

한 사람이 어떻게 60+편의 논문을 일관된 “이야기”로 묶을 수 있는지 보여주는 좋은 사례.

9개 축으로 묶이는데, 첫 축이 GPU 마이크로아키텍처라면 마지막 축은 AI 에이전트 인프라다. 그 사이에 DL 메모리, 추천, NPU 서빙, PIM, 보안, GNN, LLM이 차곡차곡 쌓인다.

축 A — GPU 마이크로아키텍처 UT Austin / NVIDIA, 2012-2018

축 B — DL 학습 메모리 시스템 NVIDIA + KAIST, 2016-2022

축 C — 추천시스템 가속 KAIST 2018-

축 D — NPU 스케줄링과 서빙 KAIST 2020-

축 E — PIM/NMP 시리즈 KAIST 2019-

축 F — 보안 가속기: FHE / DP KAIST 2022-

축 G — GNN과 그래프 KAIST 2022-

축 H — LLM과 MoE 추론 KAIST 2024-

축 I — AI 에이전트 인프라 KAIST 2026-

축 J — 새 워크로드 특성화 KAIST 2024-, 부속

3D Gaussian Splatting, T2I Diffusion, Vision Mamba SSM, HSTU 등 새 모델이 나올 때마다 워크로드 특성을 분석하고 후속 가속기 작업으로 이어진다. 이 “특성화 → 가속기 → 시스템” 사이클이 VIA의 표준 작업 패턴.

아홉 축이 한 줄로 모이면

시간 순으로 “GPU 마이크로아키텍처 → DL 메모리 → 추천 → NPU 서빙 → PIM → 보안 → GNN → LLM → 에이전트”로 펼쳐진다. 각 축은 구체적 시스템(하드웨어 프로토타입 또는 사이클 정확 시뮬레이터)으로 마무리된다. 모든 축을 관통하는 단어는 “데이터의 양과 위치”다.

연도별 연구 흐름

한 사람이 14년 동안 한 건씩 쌓아 올린 “이야기”를 시간 순으로 따라간다.

전체 표는 부록 A에서. 이 절은 “읽고 이해하기”용.

2009 — JPEG2000 비트플레인 코더 KAIST 석사 시기

• Memory-less Bit-Plane Coder Architecture for JPEG2000 with Concurrent Column-Stripe Coding (ICIP 2009)
• Architecture Design of a High-Performance Dual-Symbol Binary Arithmetic Coder for JPEG2000 (ICIP 2009)
• A Novel Trace-Pipelined Binary Arithmetic Coder Architecture (SiPS 2009)
• Optimization of Arithmetic Coding for JPEG2000 (IEEE TCSVT 2010)

박인철 교수님 지도로 JPEG2000 영상부호화 ASIC 설계. 이 시기 경험이 RTL 감각을 만들고, 박사 시기 GPU 마이크로아키텍처와 자연스럽게 연결된다.

“석사 때 ASIC을 설계한 사람이 박사 때 GPU 아키텍처로 가는 길” — RTL을 손에 잡아본 사람만이 가능한 종류의 박사 연구가 있다는 점이 잘 보이는 사례.

2012 — CAPRI: 분기 컴팩션 예측

2013 — Dual-Path · SIMD Permutation · Locality-Aware Memory

2014 – 2015 — UT Austin 졸업 + NVIDIA 합류

• GPUVolt (ISLPED 2014) — GPU 전압 노이즈 특성화/완화. J. Leng / V. Reddi와 공동.
• Priority-Based Cache Allocation for Throughput Processors (HPCA 2015) — NVIDIA Research(D.R. Johnson, M. O'Connor, S.W. Keckler)와의 첫 외부 협업.
• CLEAN-ECC (MICRO 2015) — adaptive granularity 메모리 ECC.

2016 — vDNN

2017 — SCNN, Architecting DRAM, GPUpd

2018 — cDMA, Beyond the Memory Wall

2019 — TensorDIMM

2020 — Centaur, NeuMMU, PREMA

2021 — TRiM, Tensor Casting, LazyBatching, Trident

2022 — DiVa, ARK, SmartSAGE, GPU Scratch, BTS, PARIS/ELSA

이 해부터 KAIST VIA가 “여러 축이 동시에 굴러가는” 그룹으로 자리 잡는다.

2023 — GROW, HAMMER

2024 — 전성기 한 해

이 해는 VIA 그룹의 절정 — MICRO/ISCA/HPCA/ASPLOS top-tier 4개에서 동시에 큰 성과.

2025 — Debunking the CUDA Myth, Hera, Mamba-X

2026 — AI 에이전트와 reasoning LLM의 시대

이 챕터에서 가져갈 것

• 2018 KAIST 부임 이후 매년 ISCA/MICRO/HPCA/ASPLOS top-tier에 1~3편씩 꾸준히.
• “워크로드 특성화 → 시스템 제안 → 시뮬레이터/프로토타입 → 후속 확장” 사이클이 매우 안정.
• 특히 2024년에 PIM/LLM/추천/보안 4축이 동시에 정점.

대표 프로젝트 해부

VIA 그룹의 시스템들은 “학술 시뮬레이터 + 알고리즘”이라는 한 쌍으로 거의 항상 함께 다닌다. 여기 9개를 한 단위로 본다.

4-1. vDNN — DL 학습 메모리 가상화

4-2. SCNN — Sparse CNN 가속기

4-3. TensorDIMM — Embedding NMP

4-4. Centaur — Chiplet Recommendation Accelerator

4-5. PREMA — Preemptible NPU Scheduling

4-6. uPIMulator — Commercial PIM Simulator

4-7. vTrain — LLM 학습 비용 시뮬레이터

4-8. Pre-gated MoE — MoE 추론 코디자인

4-9. PASCAL & Cost of Dynamic Reasoning

유민수 교수님의 연구 스타일 요약

한 사람이 매년 top-tier에 1~3편씩 8년간 쌓을 수 있다면, 그 사람의 작업 스타일은 “학습 가능한 패턴”이 되어 있을 것이다.

반복 등장하는 문제의식

1. “이 워크로드는 메모리 어디에 어떻게 닿는가” — 거의 모든 작업이 워크로드 특성화에서 시작.
2. “데이터 위치를 옮기면 시스템이 빨라진다” — GPU↔CPU(vDNN) → memory측(NMP) → storage측(SmartSAGE/PreSto) → CXL pool(추후 추정).
3. “알고리즘 + 아키텍처 코디자인” — Pre-gated MoE, Tensor Casting, LazyDP. 알고리즘 자체를 바꿔 시스템을 더 효율적으로 만든다.

선호하는 시스템 레이어

GPU 마이크로아키텍처(박사) → DL 가속기/메모리(NVIDIA) → NPU/추천/PIM/FHE/DP 가속기(KAIST) → LLM 인프라/AI 에이전트 인프라(2024+).

자주 쓰는 방법론

• 워크로드 특성화 → 시스템 제안 — 한 작업의 첫 단계가 “핵심 병목이 뭔지” 측정.
• 사이클 정확 시뮬레이터 또는 RTL 프로토타입 — 거의 모든 작업이 정량 평가용 구체 인프라를 동반.
• 알고리즘+시스템 공동 설계 — 알고리즘 자체를 바꿔 시스템을 더 효율적으로.

어떤 종류의 병목을 중요하게 보는가

• 메모리 capacity — 모델이 GPU에 안 들어감.
• 메모리 bandwidth — embedding/expert lookup이 대역폭 잠식.
• 이종 워크로드의 자원 미스매치 — sparse/dense, prefill/decode가 한 칩에 같이.
• 새로운 워크로드의 인프라 비용 — reasoning LLM, AI 에이전트.

논문들이 어떤 스토리로 이어지는가

관심 있는 학생이 준비할 것

• 컴퓨터구조 — Hennessy & Patterson 6판, 캐시·메모리·branch predictor 깊이 있게.
• GPU 아키텍처 — PMPP 책, GPGPU-Sim 사용 경험.
• 디지털 회로 / Verilog — RTL 설계 경험.
• 시뮬레이터 빌드/수정 경험 — gem5, GPGPU-Sim, Ramulator, NVMain, uPIMulator 중 하나.
• 머신러닝 시스템 — PyTorch internals, vLLM, FlashAttention.
• 언어 — Python + C++/CUDA + (가능하면) SystemVerilog.

CUDA / Triton / GPU 커널 지망자에게

유 교수님 작업은 “커널이 어디에 닿는가”를 묻는 사람의 시각이다. Triton 커널을 짜는 사람도 “이 커널의 메모리 access 패턴이 GPU의 캐시/HBM/CXL과 어떻게 상호작용하는지”를 이해해야 한다. uPIMulator나 vTrain을 사용해 “이 커널이 메모리에 닿을 때 어떤 일이 일어나는가”를 정량적으로 보는 훈련이 효과적.

앞으로의 방향 — 명시 자료 + 추정

2026년 한 해 출판물만 봐도 그룹의 다음 큰 그림이 거의 그대로 드러난다 — AI 에이전트, reasoning LLM, 풀스택 PIM, 멀티 인스턴스 GPU 서빙.

명시 자료에서 확인되는 방향

• AI 에이전트 인프라 — HPCA 2026의 Cost of Dynamic Reasoning, Agent-X, PASCAL이 동시에 출판. 명시적으로 “AI 에이전트와 reasoning LLM 인프라가 다음 단계”라고 선언하는 셈.
• PIM 풀스택 — uPIMulator → PIM-MMU → PIM-malloc 순서로 점점 더 OS 친화적인 PIM 인프라.
• 2024 SW Star Lab “Secure and Private AI System” — 8년 지원. FHE/DP 가속기 라인이 더 깊어짐.
• MICRO 2025 Program Co-Chair — 학회 흐름을 본인이 형성할 수 있는 위치.

최근 흐름상 자연스러운 다음 문제 추정

• Reasoning LLM serving 풀스택 — PASCAL은 스케줄링만 다룸. KV cache 관리, expert offloading, speculative decoding을 통합한 reasoning serving 시스템이 다음 단계로 보임.
• Multi-modal LLM 서빙 가속 — KV Cache Quantization for Multimodal LLM(IEEE CAL 2026) 시그널.
• CXL + AI 인프라 — CXL이 NVIDIA Grace, AMD MI300X 등에서 주류가 되면 KAIST 그룹의 메모리 라인이 자연스럽게 CXL로 확장.
• Agentic AI workload + 모바일/엣지 가속 — Agent-X(MobiSys 2026) 시그널.

산업 변화와의 연결 추정

• NVIDIA Blackwell + Rubin 세대 GPU — vTrain 후속으로 next-gen GPU 학습 시뮬이 자연스러운 확장.
• Samsung HBM-PIM, SK Hynix AiM — 한국 PIM 양산이 시작되면 컴파일러/런타임/MMU 측에서 협력이 더 깊어질 것.
• Reasoning + Tool Use + Agent benchmarks — 학계가 이제 막 정량화하기 시작했으므로 “SLA-aware agent serving”류 작업이 늘어날 것.

학생이 준비하면 좋은 구현 프로젝트

1. uPIMulator를 빌드하고 자기만의 ML 워크로드(예: small transformer)를 UPMEM에 매핑 — 1개월
2. vTrain으로 GPT-3급 학습을 다양한 병렬화 전략으로 시뮬해 비용 곡선 그리기 — 2주
3. PyTorch 위에 vDNN-like activation offloading을 reimplement — 3주
4. NeuMMU의 NPU MMU 시뮬을 gem5에 추가해 NPU 가상메모리 평가 — 3개월

이 연구자를 이해하는 한 문장

유민수 교수님은 “새로 등장하는 거대한 ML 워크로드가 메모리·자원·보안 어디서 막히는지를 사이클 정확 시뮬과 RTL 프로토타입으로 측정하고, 알고리즘과 아키텍처를 함께 바꿔 그 막힘을 풀어내는 사람”이다.

두 분의 공통분모

출발점이 다른데 어떻게 같은 단어를 쓰게 되는가. AI 시스템이라는 산이 두 길의 정상에서 같은 풍경을 만들어내고 있기 때문이다.

공통분모 ① — 하드웨어/소프트웨어 경계의 이주민

두 분 모두 “한 레이어 안에 갇혀 있는 사람”이 아니다.

• 성효진 — PL(DPJ) → 하드웨어(DeNovo) → 컴파일러(IBM/TVM/PIM) → DSE.
• 유민수 — RTL(JPEG2000) → 마이크로아키텍처(GPU) → 가속기/시스템(NMP/PIM/NPU) → 인프라(LLM/에이전트).

두 분 모두 “나는 컴파일러 사람이다”거나 “나는 RTL 사람이다”에 머물지 않는다. 위·아래를 자유롭게 오가는 능력이 두 분의 가장 큰 공통점.

공통분모 ② — 시스템 병목을 “정보의 비대칭”으로 본다

두 분이 풀고자 하는 병목은 신기하게도 “위쪽 레이어가 알고 있는 정보를 아래쪽이 모른다”거나, 그 반대로 “아래쪽이 알고 있는 정보를 위쪽이 활용하지 못한다”는 형태가 많다.

• 성효진: DPJ region을 캐시가 모른다 → DeNovo가 알려준다. PIM의 능력을 TVM이 모른다 → PIMFlow가 알려준다.
• 유민수: 활성화의 “언제 다시 쓰는지”를 GPU가 모른다 → vDNN이 알려준다. MoE expert의 “다음 layer 선택”을 시스템이 모른다 → Pre-gated MoE가 미리 알려준다.

공통분모 ③ — 실험과 구현 중심성

두 분 모두 “수학적으로 멋지지만 만들어보지 못한 작업”을 거의 하지 않는다. 거의 모든 논문이 시뮬레이터, RTL, 컴파일러 패스, 또는 프레임워크 통합 같은 “손에 잡히는 산출물”을 동반한다.

공통분모 ④ — 컴파일러·런타임·아키텍처를 한 단어로 본다

예를 들어 “데이터 이동”이라는 단어 하나가 두 분 모두에게 — 컴파일러 입장(누가 옮길지 결정), 런타임 입장(언제 옮길지 결정), 아키텍처 입장(어떻게 옮기는 게 효율적일지)으로 동시에 보인다. 그래서 두 분 모두 한 작업의 다음 작업이 자연스럽게 옆 레이어로 이어진다.

공통분모 ⑤ — AI 시스템 시대와의 접점

두 분의 최근 작업은 AI 시스템 표면 아래의 “느린 부분”을 똑같이 두드린다.

• 성효진: ML 컴파일러 (autotuning), PIM-DRAM, CXL NDP, DataFrame 컴파일.
• 유민수: LLM serving, MoE 추론, AI agent 인프라, FHE/DP.

두 분 모두 “LLM을 더 빠르게 돌리는 방법”에 직접 일하지만, 한 분은 컴파일러 측에서, 한 분은 시스템/시뮬 측에서 접근한다.

차이점 — 한 표로

공통점만 보면 두 분이 “같은 사람”처럼 보이지만, 실제로는 “손에 잡는 도구”가 결정적으로 다르다. 같은 산을 다른 길로 오르는 두 사람의 도구함을 정리한다.

비교 표

차이가 만들어내는 “스타일” 차이

• 성효진 그룹의 논문은 자주 컴파일러 패스나 IR 변환의 이름이 제목에 붙는다 (PIMFlow, ATiM, NavCim, MetaTune, One-Shot Tuner).
• 유민수 그룹의 논문은 자주 시스템/시뮬 이름이 제목에 붙는다 (vDNN, TensorDIMM, Centaur, uPIMulator, vTrain, PASCAL, Hera).

이 “이름의 형식”만 봐도 두 사람이 “세상을 어떤 단위로 보는가”가 드러난다.

읽기 로드맵 — 네 가지 루트

두 분의 논문 100여 편을 다 읽으려는 사람은 거의 없다. 자기 목적에 맞는 “경로 설계”가 필요하다.

루트 ① — 입문 루트

배경 개념을 먼저 잡고 싶은 사람용. 너무 어려운 수식/구현은 피한다.

루트 ② — 시스템 구현 루트

실제 코드/프로토타입/벤치마크를 따라가며 읽고 싶은 사람용.

루트 ③ — GPU/컴파일러/AI 시스템 루트

CUDA · Triton · vLLM · TensorRT-LLM 쪽으로 진입하려는 사람용.

루트 ④ — 대학원 컨택 준비 루트

두 연구실 중 한 곳에 지원하거나 컨택하려는 사람용.

독학자용 미니 프로젝트 8선

읽고 끝나는 책은 죽은 책이다. 두 분의 작업에서 추출한 8개 미니 프로젝트를 “1주 / 1개월 / 3개월” 세 단계로 펼친다.

P1. vDNN 류 활성화 오프로딩 재구현 유민수 라인

P2. TVM PIM 백엔드 미니 버전 성효진 라인

P3. uPIMulator로 small transformer 매핑 유민수 라인

P4. DeNovo 캐시 코히런스 gem5 reimpl 성효진 라인

P5. vTrain로 LLM 학습 cost curve 그리기 유민수 라인

P6. One-Shot Tuner reimpl 성효진 라인

P7. Pre-gated MoE 알고리즘만 reimpl 유민수 라인

P8. CXL NDP 시뮬 모듈 성효진 라인

프로젝트 고르는 법

• 학부생/처음: P1(vDNN), P5(vTrain) 추천. PyTorch만 있어도 된다.
• 컴파일러 지망자: P2(TVM PIM), P6(One-Shot Tuner) 추천.
• 아키텍처 지망자: P3(uPIMulator), P4(gem5 DeNovo), P8(CXL NDP) 추천.
• LLM 시스템 지망자: P5(vTrain), P7(Pre-gated MoE) 추천.

전체 논문 목록

두 분의 검증된 논문을 한 표에 모았다. 표는 검색·정렬·인용 용도. 본문 챕터에서 다룬 “이야기”는 빅챕터 1·2를 보라.

자료 기준일 2026-04-26 · 데이터 원본은 data/papers.csv에도 정리. 원본 링크는 각 행의 “PDF/URL” 열.

A.1 성효진 교수님 — 27편

A.2 유민수 교수님 — 60+편

주요 용어 사전

두 분의 논문을 읽다 보면 만나는 용어들을 “시스템에서 실제로 무슨 일이 일어나는가”로 풀어 적었다.

컴파일러 · 런타임

메모리 · 캐시

GPU

가속기 · 시스템 레벨

측정 · 평가

병렬·동기화·OS·분산

AI 시스템 특화

선수 과목 지도

두 분의 논문을 따라 읽으려면 어느 과목을 어디까지 알아야 하는지를 “읽고 싶은 논문” 단위로 묶어 정리한다.

C.1 컴퓨터구조

C.2 운영체제

C.3 컴파일러

C.4 프로그래밍 언어 / 타입시스템

C.5 병렬·분산 컴퓨팅

C.6 데이터베이스 · 스토리지

C.7 GPU 프로그래밍

C.8 머신러닝 시스템

학습 우선순위 추천

1. 컴퓨터구조 → CSAPP → CUDA → 컴파일러 (이 순서가 가장 보편)
2. 그 다음 ML 시스템과 PIM/CXL을 “현장 이슈”로 따라가며 배움
3. 대학원 컨택 직전에 “시뮬레이터 빌드 1회”로 전체 그림을 마무리

출처와 한계

이 문서가 어떤 자료를 어떻게 썼고, 무엇을 못 봤고, 무엇을 추정으로 표시했는지 한 곳에 모은다. 학술 문서의 정직함은 “모르는 걸 모른다고 말하는 곳”에서 나온다.

D.1 1차 자료 — 성효진 교수님

공식 페이지

• SNU 개인 — hsung.snu.ac.kr
• SNU CODE Lab — codelab.snu.ac.kr
• POSTECH 구버전 — hsung.postech.ac.kr
• POSTECH CV (2022.04) — PDF

학술 프로필

• DBLP — dblp.org/pid/37/7474
• Google Scholar — Scholar
• ACM DL — ACM
• IEEE Xplore — IEEE

박사 시기 / DeNovo

• Sarita Adve UIUC — faculty page
• DeNovo 프로젝트 (RSim) — denovo

주요 코드 / 리포지토리

• PIMFlow — github
• NavCim — github
• Hetero-NeuroSim — github
• One-Shot Tuner artifact — Zenodo
• ParKD (UIUC) — github

D.2 1차 자료 — 유민수 교수님

공식 페이지

• VIA Research Group — sites.google.com/view/kaist-via
• VIA Publications — publications
• VIA People — people
• 개인 홈페이지 — minsoorhu.github.io
• KAIST EE 프로필 — ee.kaist
• KAIST Pure — pure.kaist
• NVIDIA Research 구프로필 — research.nvidia.com

학술 프로필

• DBLP — dblp.org/pid/02/8105
• Google Scholar — Scholar
• Semantic Scholar — Semantic Scholar

코드

• VIA Research GitHub — github.com/VIA-Research
• uPIMulator — github
• vTrain — github

KAIST EE 보도자료

• vTrain — link
• HPCA Best Paper — link
• ISCA Hall of Fame — link
• SW Star Lab — link

D.3 학회 / 데이터베이스

• DBLP — dblp.org
• Google Scholar — scholar.google.com
• arXiv (cs.AR / cs.DC / cs.PL) — arxiv.org
• ACM DL — dl.acm.org
• IEEE Xplore — ieeexplore.ieee.org

D.4 분야 입문용 외부 자료

• Hennessy & Patterson, Computer Architecture: A Quantitative Approach (6판)
• Patterson & Hennessy, Computer Organization and Design
• Aho/Sethi/Ullman, Compilers: Principles, Techniques, and Tools
• Bryant & O'Hallaron, Computer Systems: A Programmer's Perspective
• Hwu et al., Programming Massively Parallel Processors
• LLVM Tutorial — llvm.org/docs/tutorial
• TVM Documentation — tvm.apache.org/docs
• CUDA C++ Programming Guide — docs.nvidia.com
• Triton — triton-lang.org
• vLLM Documentation — docs.vllm.ai
• UPMEM SDK — sdk.upmem.com

D.5 자료의 한계 · 주의사항

D.6 데이터 파일 (별첨)

• data/papers.csv — 두 분 논문 메타데이터 표
• data/projects.csv — 시스템/프로젝트 표
• data/sources.md — 1차 자료 URL 모음

이 HTML이 단일 정적 페이지로 작동하도록 모든 본문 콘텐츠는 페이지 안에 인라인되어 있다. 별첨 파일들은 “표 형식 원본”이 필요할 때 참고용이며, HTML을 보는 데는 필요 없다.

맺음말

한 사람의 연구를 잘 읽었다는 것의 가장 정직한 증거는, 그 사람의 “다음 논문 제목”을 미리 짐작할 수 있게 되는 것이다. 이 문서를 다 읽은 사람이 두 분의 다음 논문 제목을 절반쯤 맞출 수 있다면, 이 책의 일은 끝난 것이다.

그리고 한 가지 — 이 문서는 두 분에 대한 평가가 아니라 두 분의 작업을 따라가기 위한 지도다. 실제 연구는 이 지도 너머에서 시작된다. 좋은 여행이 되길.