지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.47 No.1
- 발행연도
- 2020.1
- 수록면
- 27 - 35 (9page)
- DOI
- 10.5626/JOK.2020.47.1.27
이용수
초록· 키워드
오류제보하기
심층신경망(DNN)의 연산 복잡성은 과도한 연산량과 에너지 소비를 초래하기 때문에 제한적인 자원을 가진 임베디드 디바이스로의 DNN 적용을 어렵게 만드는 주요한 요인이다. 이를 완화하기 위해 본 논문에서는 DNN의 가중치 정밀도를 감소시키면서 기존 양자화 기법에 비해 더 많은 희소성을 부여하여 연산량과 에너지 소비를 감소시킬 수 있는 역제곱 비균일 양자화 기법을 제안한다. 서로 다른 맵핑 정책을 가진 다양한 균일/비균일 양자화 기법을 AlexNet과 VGGNet 모델에서 구현하여 CIFAR-10과 ImageNet 데이터셋을 활용한 이미지 분류 작업을 통해 제안된 역제곱 양자화 기법의 정확도와 에너지 효율성을 입증하고, 이를 더욱 향상시킬 수 있는 추가적인 학습 기법도 제시한다. 실험 결과, 제안된 역제곱 비균일기법으로 양자화된 AlexNet과 VGGNet 모델의 비트폭이 2인 경우에 완전 정밀도 기법에 비해 정확도는 각각 2.2%와 2.5%의 손실이 있지만, 에너지 효율성 측면에서는 완전 정밀도 대비 각각 63.2%와 66.5% 정도로 에너지 소비를 감소시켰다.
목차
요약
Abstract
1. 서론
2. 관련 연구
3. 균일 vs 비균일 양자화 기법
4. 실험 결과 및 성능 평가
5. 결론
References
참고문헌 (25)
참고문헌 신청
F. Schroff, D. Kalenichenko and J. Philbin, "Facenet: A unified embedding for face recognition and clustering," Proc. of the IEEE conference on Computer Vision and Pattern Recognition (CVPR), 2015.
M. Teichmann, M. Weber, M. Zoellner, R. Cipolla, and R. Urtasun, "Multinet: Real-time joint semantic reasoning for autonomous driving," the IEEE Intelligent Vehicles Symposium(IV), pp. 1013-1020, 2018.
A. Kumar, J. Kim, D. Lyndon, M. Fulham and D. Feng, "An ensemble of fine-tuned convolutional neural networks for medical image classification," IEEE Journal of Biomedical and Health Informatics (JBHI), Vol. 21, No. 1, pp. 31-40, 2017.
M. Johnson, M. Schuster, Q. V. Le, M. Krikun, Y. Wu, Z. Chen, N. Thorat, F. Viégas, M. Wattenberg, G. Corrado, M. Hughes and J. Dean, "Google’s multilingual neural machine translation system: Enabling zero-shot translation," Transactions of the Association for Computational Linguistics(TACL), Vol. 5, pp. 339-351, 2017.
O. Russakovsky, J. Deng, H. Su, J. Krause, S. Satheesh, S. Ma, Z. Huang, A. Karpathy, A. Khosla, M. Bernstein, A. C. Berg and L. Fei-Fei, "ImageNet Large Scale Visual Recognition Challenge," International Journal of Computer Vision (IJCV), Vol. 115, No. 3, pp. 211-252, 2015.
M. Teichmann, M. Weber, M. Zoellner, R. Cipolla, and R. Urtasun, "Multinet: Real-time joint semantic reasoning for autonomous driving," the IEEE Intelligent Vehicles Symposium(IV), pp. 1013-1020, 2018.
A. Kumar, J. Kim, D. Lyndon, M. Fulham and D. Feng, "An ensemble of fine-tuned convolutional neural networks for medical image classification," IEEE Journal of Biomedical and Health Informatics (JBHI), Vol. 21, No. 1, pp. 31-40, 2017.
M. Johnson, M. Schuster, Q. V. Le, M. Krikun, Y. Wu, Z. Chen, N. Thorat, F. Viégas, M. Wattenberg, G. Corrado, M. Hughes and J. Dean, "Google’s multilingual neural machine translation system: Enabling zero-shot translation," Transactions of the Association for Computational Linguistics(TACL), Vol. 5, pp. 339-351, 2017.
O. Russakovsky, J. Deng, H. Su, J. Krause, S. Satheesh, S. Ma, Z. Huang, A. Karpathy, A. Khosla, M. Bernstein, A. C. Berg and L. Fei-Fei, "ImageNet Large Scale Visual Recognition Challenge," International Journal of Computer Vision (IJCV), Vol. 115, No. 3, pp. 211-252, 2015.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
균일 양자화 기법의 성능 비교 분석
한국통신학회 학술대회논문집
2024 .11
-
인공신경망 모델 압축을 위한 적응적 양자화 기반 지식 증류 기법
전자공학회논문지
2020 .09
-
DNN 추론 가속 하드웨어 최적화를 위한 양자화 기법
대한전자공학회 학술대회
2018 .06
-
하드웨어 구현에 효율적인 Power-of-Two 균일 양자화 기법 연구
대한전자공학회 학술대회
2021 .06
-
경량형 에지 DNN을 위한 스케일링된 가중치 정규화 기반 사후학습 양자화 기법
한국통신학회 학술대회논문집
2020 .08
-
DNN 계층별 출력 뉴런 수에 기반한 고속 양자화 기법
대한전자공학회 학술대회
2024 .11
-
효율적인 양자화 기법을 통한 DNN 기반 화자 인식 모델 최적화
대한전자공학회 학술대회
2024 .06
-
효율적인 심층신경망 구조를 위한 새로운 가중치 예측 기반 양자화 방법
한국정보과학회 학술발표논문집
2019 .06
-
시냅스 소자 구현을 위한 균일 양자화 방식
한국방송미디어공학회 학술발표대회 논문집
2019 .06
-
SWNQ: 스케일링된 가중치 정규화 기반 사후학습 양자화 기법
한국통신학회논문지
2021 .03
-
SMT-based Formal Verification Methods of Deep Neural Networks using Structural Properties
Journal of KIISE
2021 .09
-
터커 분해 및 은닉층 병렬처리를 통한 임베디드 시스템의 다중 DNN 가속화 기법
한국정보통신학회논문지
2022 .06
-
딥러닝 모델의 압축 방법에 따른 엣지 장치에서의 성능 평가 연구
전자공학회논문지
2021 .06
-
음의 임계값을 이용한 딥뉴럴네트워크의 하드웨어 친화적 양자화
대한전자공학회 학술대회
2021 .06
-
혼합 정밀도와 선형 변환을 이용한 양자화 된 심층 신경망의 추론 성능 개선 및 저장 공간 축소
한국정보과학회 학술발표논문집
2021 .06
-
글로벌 큐를 통한 임베디드 멀티코어 프로세서의 멀티 DNN 연산 성능 향상
한국정보통신학회논문지
2020 .06
-
자율주행 자동차에서 DNN 기반 안전 필수 응용의 성능 저하 방지
전자공학회논문지
2020 .09
-
자율주행차용 우선순위 기반 다중 DNN 모델 스케줄링 프레임워크
한국정보통신학회논문지
2021 .03
-
중요도 기반 딥러닝 네트워크 학습 중 양자화 기법
대한전자공학회 학술대회
2022 .06
-
DNN 기반 2 단계 계층적 빔 탐색 기법
한국통신학회 학술대회논문집
2025 .02
이 논문의 저자 정보
최근 본 자료
댓글(0)
0