서울과학기술대학교 전기정보공학과 Intelligent Digital Systems Design Lab(지능형 디지털 시스템 설계 연구실) (https://idsl.seoultech.ac.kr/) 김현 교수 연구팀은 7월 15일(화) BK선정 국제학술대회인 ICML 2025 컨퍼런스에서 " LRA-QViT: Integrating Low-Rank Approximation and Quantization for Robust and Efficient Vision Transformers" 논문을 발표했다.

ICML(International Conference on Machine Learning)은 BK21 선정 국제학술대회로, 학습이론부터 심층 신경망, 강화학습, 최적화, 생성모델, 응용 시스템 등 이론과 실제를 아우르는 폭넓은 연구 주제를 다루며, 매년 최첨단 인공지능 기술의 발전 방향을 제시하는 세계 최고 수준의 학술 대회이다. 2025년도 ICML 학회는 7월 13일(일)부터 7월 19일(토)까지 캐나다 벤쿠버 컨벤션 센터(Vancouver Convention Center)에서 개최되었다.

▲ (왼쪽부터)전기정보공학과 김현 교수 연구팀 석사과정 강범진, 전기정보공학과 김현 교수 연구팀 박사과정 김남준

본 논문은 Vision Transformer(ViT) 모델을 모바일 및 엣지 디바이스에서 효율적으로 활용하기 위해 저계수 행렬 근사와 8-bit 양자화를 통합한 경량화 프레임워크를 제안하였다. 

결과적으로, 다양한 ViT 모델에서 최대 87%의 모델 압축률과 3.2배의 추론 속도 향상을 달성하였으며, 강범진 석사과정이 주저자로 참여하였다. 

본 연구는 과학기술정보통신부 및 정보통신기획평가원의 대학ICT연구센터육성지원사업의 연구결과로 수행되었으며 (IITP-2025-RS-2022-00156295), 2025년도 산업통상자원부 및 한국산업기술기획평가원(KEIT) 연구비 지원에 의한 연구 결과이다 (RS-2025-02307330).