전기정보공학과 Intelligent Digital Systems Design Lab(지능형 디지털 시스템 설계 연구실) (https://idsl.seoultech.ac.kr/) 김현 교수 연구팀은 8월 9일(목) 인공지능 최우수 국제학술대회인 IJCAI 2024 컨퍼런스에서 "HyQ: Hardware-Friendly Post-Training Quantization for CNN-Transformer Hybrid Networks" 논문을 발표했다.

IJCAI(International Joint Conferences on Artificial Intelligence)는 1969년 미국 캘리포니아에서 설립된 세계 최고 권위의 인공지능 학회로, 최신 인공지능 기술과 연구 성과를 공유하고 인공지능 연구자와 실무자의 주요 국제 모임을 제공한다. 2024년도 IJCAI는 8월 3일(월)부터 8월 9일(금)까지 한국 제주도에서 열렸다.

▲전기정보공학과 김현 교수 연구팀 박사과정 김남준

본 논문은 CNN과 Transformer를 결합한 하이브리드 모델에 대해 하드웨어 친화적인 post-training quantization을 제안하였다. CNN에서 발생하는 큰 outlier를 해결하고, Transformer에서 softmax 연산을 선형 함수로 근사하여 하드웨어에서의 계산 효율성을 상당히 높였으며, 김남준 박사과정이 주저자로 참여했다.

논문링크: https://www.ijcai.org/proceedings/2024/474

본 연구는 과학기술정보통신부 및 정보통신기획평가원의 대학ICT연구센터육성지원사업의 연구결과(IITP-2022-RS-2022-00156295)와 산업통상자원부 전자부품산업기술개발사업으로 지원 (No. 20019367)된 연구결과이다.