Efficient Computing Lab.

7-416 ETRI, Gajeong-ro 218,Yuseong-gu123, Daejeon, South Korea

Welcome to the Efficient Computing Lab. We focus on energy efficiency, system optimization, user experience, and sustainable tech solutions. Our research interests are the followings:

• Model Compression: Enhancing machine learning models’ efficiency through techniques like pruning, quantization, and knowledge distillation for better performance in resource-limited settings.
• AI Compiler: Developing optimized AI compilers to reduce computational power, energy use, and execution time, improving efficiency and sustainability.

For detailed research areas and insights into graduate life, please refer to the following slides. Students interested in pursuing graduate studies are encouraged to contact me directly after following the application instructions provided in the slides.

You can reach me at: leejaymin_at_etri_dot_re_dot_kr.

News

Jan 13, 2026	CNN Compression via Channel-Wise Variance-Based Filter Pruning was accepted at `IEEE Access`. Congratulations
Dec 24, 2025	Outstanding advising award – faculty advisor for sehyeon oh (ust research paper award)
Dec 23, 2025	Ust research paper award – sehyeon oh (etri representative student)
Dec 5, 2025	Sehyeon oh received the undang student paper award from kips
Nov 12, 2025	IPTQ-ViT: Post-Training Quantization of Non-linear Functions for Integer-only Vision Transformers was accepted at `IEEE/CVF Winter Conference on Applications of Computer Vision (WACV) 2026`! Round 2 acceptance rate was 41.1% (Round 1: 6.4%), and the overall acceptance rate reached 26.4%. Congratulations
Nov 9, 2025	Target-Aware Neural Network Execution via Compiler-Guided Pruning was accepted at `IEEE Transactions on Mobile Computing (IEEE TMC)`. Congratulations
Sep 8, 2025	Efficient Dataflow-flexible DNN Accelerator was accepted at `Future Generation Computer Systems (FGCS)`. Congratulations

Selected Publications

2026

WACV

IPTQ-ViT: Post-Training Quantization of Non-linear Functions for Integer-only Vision Transformers

Gihwan Kim, Jemin Lee, and Hyungshin Kim

In IEEE/CVF Winter Conference on Applications of Computer Vision (WACV) 2026, Round 1 acceptance rate 6.4%, Round 2 acceptance rate 41.1%, Overall acceptance rate 26.4%, Feb 2026

Abs PDF

2025

IEEE TMC

Target-Aware Neural Network Execution via Compiler-Guided Pruning

JooHyoung Cha, Taeho Kim, Jemin Lee*, Sangtae Ha, and Yongin Kwon*

IEEE Transactions on Mobile Computing (to appear), Accepted, JCR24 IF 9.2 Top 3.29% Nov. 9, 2025, ISSN: 1536-1233, Nov 2025

Abs PDF

모바일 기기는 이미지 분류나 음성 인식과 같은 다양한 목적을 위해 딥러닝 모델을 실행한다. 그러나 모바일 기기의 자원 제약으로 인해, 연구자들은 모델 프루닝(pruning)을 통해 경량화된 딥 뉴럴 네트워크(DNN) 모델을 만들거나, 컴파일러 최적화를 통해 효율적인 코드를 생성하는 데 주력해 왔다. 하지만 모델 압축과 컴파일러 자동 튜닝(auto-tuning)을 단순히 결합하는 방식은 특정 타깃 장치에서 가장 효율적인 모델을 만들지 못하는 경우가 많음이 관찰되었다. 이 문제를 해결하기 위해 우리는 CPrune을 제안한다. CPrune은 요구되는 정확도를 충족해야 하는 애플리케이션을 지원하기 위해, 타깃 장치 특화 효율적 실행을 위한 컴파일러 기반 정보 활용 모델 프루닝(compiler-informed model pruning) 기법이다. 또한 실제 배포 환경에서의 자원 또는 지연(latency) 제약을 고려하여, 우리는 RB-CPrune을 도입한다. RB-CPrune은 학습된 **지연 예측기(latency estimator)**를 활용해 반복적인 튜닝 과정을 제거한 예측 기반(prdictive) 변형 기법이다. CPrune은 컴파일러 튜닝 과정에서 구축된 서브그래프의 구조적 정보를 기반으로 프루닝을 수행함으로써 경량 DNN 모델을 생성한다. 실험 결과, CPrune은 정확도 요구 조건을 충족하면서도 최첨단 TVM auto-tune 대비 최대 2.73배 빠른 DNN 실행 속도를 달성함을 보여주었다.
CASESArtifacts

Luthier: Bridging Auto-Tuning and Vendor Libraries for Efficient Deep Learning Inference

Yongin Kwon, JooHyoung Cha, Sehyeon Oh, Misun Yu, Jeman Park, and Jemin Lee*

In ACM International Conference on Compilers, Architectures, and Synthesis for Embedded Systems (ESWEEK CASES 2025) (NRF BK21+ IF: 2, Acceptance Rate 28.2% (20 papers accepted out of 71 submitted)) and ACM Transactions on Embedded Computing Systems (TECS) Vol. 24, No. 5s, pp. 1–23 ISSN:1539-9087, September 29, 2025., Sep 2025

Abs PDF Code Poster Slides

최근 딥러닝 컴파일러는 텐서 프로그래밍에서 최적의 커널 구성을 처음부터 탐색하는 자동 튜닝 방식을 주로 채택하는데, 이는 작업당 수십 시간이 소요되며 비대칭 멀티코어 프로세서에서의 병렬 컴퓨팅에 필수적인 최적화 요소를 간과합니다. 한편 하드웨어 벤더의 수동 최적화 추론 라이브러리는 높은 성능을 제공하지만 신흥 모델에 필요한 유연성과 자동화가 부족합니다. 이러한 격차를 해소하기 위해 우리는 기존 추론 라이브러리에서 최적의 커널을 선별하여 탐색 공간을 크게 축소하고, 비용 모델 기반 프로파일링을 활용해 병렬 컴퓨팅에 가장 효율적인 작업 부하 분배를 신속히 결정하는 Luthier를 제안합니다. 그 결과 Luthier는 ArmNN, AutoTVM, Ansor, ONNXRuntime, TFLite 대비 평균 튜닝 시간을 95% 단축하면서, CPU와 GPU 모두에서 컨볼루션 기반 비전 모델과 트랜스포머 기반 언어 모델(BERT, GPT)에서 최대 2.0배 빠른 실행 속도를 달성합니다.
IJCAI

Exploring the Trade-Offs: Quantization Methods, Task Difficulty, and Model Size in Large Language Models From Edge to Giant

Jemin Lee, Sihyeong Park, Jinse Kwon, Jihun Oh, and Yongin Kwon*

In International Joint Conferences on Artificial Intelligence (IJCAI) Aug. 22, 2025, NRF BK21+ IF: 4, Acceptance Rate 19.3% (1042 papers accepted out of 5404 submitted)., Aug 2025

Abs PDF Code

양자화는 대규모 및 소규모 언어 모델의 비용 효율적 배포를 위한 유망한 해결책으로 주목받고 있습니다. 그러나 기존 연구 대부분은 퍼플렉시티나 기초 지식 작업에 국한되어 있으며 Llama-3.3과 같은 최신 모델에 대한 포괄적 평가가 부족했습니다. 본 논문에서는 10억에서 4050억 매개변수에 이르는 명령어 학습 모델을 대상으로 13개 데이터셋에 걸쳐 4가지 양자화 기법을 적용하여 포괄적 평가를 수행합니다. 우리의 연구 결과는 다음과 같다: (1) 양자화 모델은 일반적으로 더 작은 FP16 기준 모델을 능가하지만, 명령어 수행 및 환각 탐지에서는 종종 어려움을 겪는다; (2) FP8은 모든 작업에서 가장 견고한 옵션으로 꾸준히 나타났으며, 가중치 전용 양자화에서는 AWQ가 GPTQ보다 우수한 성능을 보이는 경향이 있다; (3) 소규모 모델은 4비트 양자화 시 심각한 정확도 하락을 겪을 수 있는 반면, 70B 규모 모델은 안정적인 성능을 유지한다; (4) 특히, 어려운 작업이 항상 가장 큰 정확도 손실을 보이는 것은 아니며, 이는 양자화가 모델의 본질적 약점을 증폭시키기보다는 가려진 부분을 드러낸다는 점을 시사한다. 4비트 양자화 시 심각한 정확도 하락을 보일 수 있으나, 70B 규모 모델은 안정적인 성능을 유지함; (4) 특히 어려운 과제가 항상 가장 큰 정확도 손실을 보이는 것은 아니며, 이는 양자화가 단순히 과제 난이도와 상관관계를 가지는 것이 아니라 모델의 내재적 약점을 증폭시킨다는 점을 시사함; (5) LLM 기반 평가 도구(MTBench)는 코딩 및 STEM 과제에서 상당한 성능 저하를 강조하지만, 추론에서는 가끔 개선을 보고함.
LCTES

Multi-Level Machine Learning-Guided Autotuning for Efficient Code Generation on a Deep Learning Accelerator

JooHyoung Cha, Munyoung Lee, Jinse Kwon, Jemin Lee, and Yongin Kwon

In The 26th ACM SIGPLAN/SIGBED International Conference on Languages, Compilers, and Tools for Embedded Systems (LCTES) Jun. 17, 2025, To appear, NRF BK21+ IF: 2, Acceptance Rate 38% (16 papers accepted out of 42 submitted)., Jun 2025

Abs PDF

딥 러닝 모델의 복잡성 증가는 특히 딥 러닝 가속기를 위한 특수 하드웨어 및 소프트웨어 최적화를 필요로 합니다. 기계 학습 기반 자동 튜닝 방법이 수동 작업을 줄이는 유망한 해결책으로 부상했지만, 템플릿 기반 및 템플릿 프리 접근법 모두 유효하지 않은 구성 프로파일링으로 인해 튜닝 시간이 길어지는 문제점을 안고 있으며, 이는 런타임 오류로 이어질 수 있습니다. 이 문제를 해결하기 위해 효율성과 견고성을 개선하도록 설계된 다단계 머신 러닝 기반 자동 튜닝 기술인 ML2Tuner를 제안합니다. ML2Tuner는 두 가지 핵심 아이디어를 도입합니다: (1) 프로파일링 전에 무효한 구성을 걸러내는 유효성 예측 모델, (2) 컴파일 과정에서 추출된 숨겨진 특징을 활용하는 고급 성능 예측 모델입니다. 확장된 VTA 가속기에서의 실험 결과, ML2Tuner는 TVM 유사 접근법이 요구하는 샘플의 12.3%만을 사용하여 동등한 성능 향상을 달성하며, 무효 프로파일링 시도를 평균 60.8% 감소시킵니다. 이는 무효 구성을 걸러내어 자동 튜닝 성능을 향상시킬 수 있는 잠재력을 보여줍니다.

2024

IEEE IoT J.

Q-HyViT: Post-Training Quantization for Hybrid Vision Transformer with Bridge Block Reconstruction for IoT Systems

Jemin Lee, Yongin Kwon, Misun Yu, Jeman Park, and Hwanjun Song

IEEE Internet of Things Journal Vol. 11, Issue 22, pp.36384-36396, ISSN: 2327-4662, Nov. 15, 2024 (JCR24 IF: 8.9 Top 4.07%), Nov 2024

Abs PDF Code

최근 비전 트랜스포머(ViT)는 분류, 탐지, 세분화 등 다양한 응용 분야에서 합성곱 신경망(CNN)을 대체하며 뛰어난 성능을 보이고 있다. 그러나 ViT의 높은 계산 요구량은 광범위한 활용을 어렵게 만든다. 이러한 문제를 해결하기 위해 연구자들은 합성곱 레이어와 트랜스포머 레이어를 결합하고, 선형 복잡도의 최적화된 어텐션 계산을 사용하는 효율적인 하이브리드 트랜스포머 아키텍처를 제안해 왔다. 또한 사후학습 양자화(PTQ)가 계산 부담을 줄이는 방법으로 제시되었다. 모바일 장치에서 ViT의 최적 가속을 달성하려면 양자화 기법과 효율적인 하이브리드 트랜스포머 구조를 전략적으로 통합해야 한다. 그러나 지금까지 효율적인 하이브리드 트랜스포머에 양자화를 적용한 연구는 없었다. 이 논문에서는 기존의 ViT용 PTQ 기법을 효율적인 하이브리드 트랜스포머에 적용할 경우 정확도가 크게 떨어진다는 사실을 발견했으며, 이는 매우 동적인 값 범위, 제로포인트 오버플로, 다양한 정규화 방식, 5M 미만의 제한된 모델 파라미터 수 등 네 가지 문제 때문이라고 밝힌다. 이러한 문제를 해결하기 위해 우리는 새로운 PTQ 기법을 제안하며, 이는 MobileViTv1, MobileViTv2, Mobile-Former, EfficientFormerV1, EfficientFormerV2 등 효율적인 하이브리드 ViT를 최초로 양자화한 방법이다. 우리 방법은 기존 PTQ 기법(EasyQuant, FQ-ViT, PTQ4ViT, RepQ-ViT) 대비 8비트에서 평균 17.73%, 6비트에서 평균 29.75%의 성능 향상을 달성했다. 코드는 https://gitlab.com/ones-ai/q-hyvit 에서 공개할 예정이다.
IROS

Visual Preference Inference: An Image Sequence-Based Preference Reasoning in Tabletop Object Manipulation

Joonhyung Lee, Sangbeom Park, Yongin Kwon, Jemin Lee, Minwook Ahn, and Sungjoon Choi

In 2024 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2024), 14 Oct. 2024, Oct 2024

PDF Code Website

2022

ECCV

CPrune: Compiler-informed model pruning for efficient target-aware DNN execution

T. Kim, Yongin Kwon, Jemin Lee, Taeho Kim, and Sangtae Ha

In European Conference on Computer Vision (ECCV), pp.651–667, Oct. 23-27, 2022, NRF BK21+ IF: 2, Acceptance Rate 28% (1,650 papers accepted out of 5,803 submitted), doi: https://doi.org/10.1007/978-3-031-20044-1_37, Oct 2022

Abs PDF Code

모바일 기기에서는 이미지 분류, 음성 인식 등 다양한 목적을 위해 딥러닝 모델이 실행된다. 그러나 모바일 기기의 자원 제약으로 인해 연구자들은 모델 프루닝을 활용하여 경량화된 DNN 모델을 만들거나, 컴파일러 최적화를 통해 효율적인 코드를 생성하는 것에 주로 집중해 왔다. 놀랍게도, 우리는 모델 압축과 컴파일러 자동 튜닝(auto-tuning)을 단순히 결합하는 방식이 특정 타깃 장치에서 가장 효율적인 모델을 생성하지 못하는 경우가 많다는 사실을 발견했다. 이 문제를 해결하기 위해, 우리는 CPrune을 제안한다. CPrune은 목표 정확도를 충족해야 하는 애플리케이션을 지원하기 위해 타깃 장치에 최적화된 DNN 실행을 가능하게 하는 컴파일러 기반 정보 활용 프루닝(compiler-informed model pruning) 기법이다. CPrune은 컴파일러 튜닝 과정에서 생성되는 서브그래프의 구조적 정보를 기반으로 프루닝을 수행하여 경량화된 DNN 모델을 만든다. 실험 결과, CPrune은 정확도 요구 조건을 충족하면서도 최첨단 TVM auto-tune 대비 최대 2.73배 빠른 DNN 실행 속도를 달성하였다.

2020

IEEE TMC

PASS: Reducing redundant notifications between a smartphone and a smartwatch for energy saving

Jemin Lee, Uichin Lee, and Hyungshin Kim

IEEE Transactions on Mobile Computing,(impact factor: 5.538, JCR20: Top 17%, telecommunications rank #16 out of 91), ISSN: 1536-1233, doi: https://doi.org/10.1109/TMC.2019.2930506, Nov 2020

PDF Code

2019

MobiCom

Fire in your hands: Understanding thermal behavior of smartphones

Soowon Kang, Hyeonwoo Choi, Sooyoung Park, Chunjong Park, Jemin Lee, Uichin Lee, and Sung-Ju Lee

In The 25th Annual International Conference on Mobile Computing and Networking, pp. 1-16, Los Cabos, Mexico, 21-25 Oct. 2019, NRF BK21+ IF: 4, Acceptance Rate 19% (55 papers accepted out of 290 submitted)., Oct 2019

PDF Website