지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.47 No.3
- 발행연도
- 2020.3
- 수록면
- 276 - 282 (7page)
- DOI
- 10.5626/JOK.2020.47.3.276
이용수
초록· 키워드
오류제보하기
최근 개발된 경량화된 뉴럴 네트워크는 적은 개수의 모델 가중치 개수 및 낮은 연산량으로도 어느정도 높은 정확도를 유지한다. 그럼에도 불구하고, 기존 컨볼루션 뉴럴 네트워크들은 공통적으로 Pointwise Convolution (1×1 Convolution)에서 많은 가중치 개수를 가지며, 상당한 계산량을 유발한다. 본 논문은 최초로 Pointwise Convolution을 1차원 고속 이산 코사인 변환(FDCT)으로 대체하여 획기적으로 학습 가중치 값 개수를 줄였고 연산속도를 높였다. 본 논문은 구체적으로 두가지 측면, 즉 1) Block 단위에서의 DCT 적용 및 2) CNN 모델의 계층적 위치에 따른 DCT 적용을 통해 경량화를 제안한다. 실험결과, CIFAR100 이미지분류 데이터셋에 대해서 기존 MobileNet v1 모델 대비 학습 가중치 값 개수를 79.1% 줄이고 연산량을 48.3% 줄이면서 top-1 정확도는 0.8% 상승한 결과를 보였다.
목차
요약
Abstract
1. 서론
2. 관련 연구
3. 제안 방법
4. 분석
5. 결론
References
참고문헌 (19)
참고문헌 신청
A. Krizhevsky, I. Sutskever, and G. Hinton, "Imagenet classification with deep convolutional neural networks," Advances in neural information processing systems, pp. 1097-1105, 2012.
K. He, X. Zhang, S. Ren and J. Sun, "Deep Residual Learning for Image Recognition," Proc. of the IEEE conference on computer vision and pattern recognition, pp. 770-778, 2016.
Huang, Gao, et al., "Densely Connected Convolutional Networks," Proc. of the IEEE conference on computer vision and pattern recognition, pp. 4700-4708, 2017.
Szegedy, Christian, et al., "Inception-v4, inceptionresnet and the impact of residual connections on learning," Thirty-First AAAI Conference on Artificial Intelligence, 2017.
Jia Deng, Wei Dong, Richard Socher, Li-Jia Li, Kai Li, and Li Fei-Fei, "Imagenet: A large-scale hierarchical image database," IEEE conference on computer vision and pattern recognition, pp. 248- 255, 2009.
K. He, X. Zhang, S. Ren and J. Sun, "Deep Residual Learning for Image Recognition," Proc. of the IEEE conference on computer vision and pattern recognition, pp. 770-778, 2016.
Huang, Gao, et al., "Densely Connected Convolutional Networks," Proc. of the IEEE conference on computer vision and pattern recognition, pp. 4700-4708, 2017.
Szegedy, Christian, et al., "Inception-v4, inceptionresnet and the impact of residual connections on learning," Thirty-First AAAI Conference on Artificial Intelligence, 2017.
Jia Deng, Wei Dong, Richard Socher, Li-Jia Li, Kai Li, and Li Fei-Fei, "Imagenet: A large-scale hierarchical image database," IEEE conference on computer vision and pattern recognition, pp. 248- 255, 2009.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
고속 이산 코사인 변환을 이용한 새로운 경량화 콘볼루션 신경망
한국정보과학회 학술발표논문집
2019 .06
-
FFT 적용을 통한 Convolution 연산속도 향상에 관한 연구
멀티미디어학회논문지
2021 .11
-
Convolution Neural Network Front-end / Back-end Design
대한전자공학회 학술대회
2020 .11
-
2D DCT를 활용한 CNN 모델의 압축 기법
한국통신학회 학술대회논문집
2022 .02
-
Efficient CNNs with Channel Attention and Group Convolution for Facial Expression Recognition
Journal of KIISE
2019 .12
-
문서분류 컨볼루션 신경망(Convolution Neural Network)기반 토마토 병해충 진단
한국통신학회 학술대회논문집
2018 .01
-
Deep Learning을 위한 GPGPU 기반 Convolution 가속기 구현
전기전자학회논문지
2016 .09
-
CNN(Convolution Neural Network) 기반의 심혈관질환 분류
정보 및 제어 논문집
2018 .10
-
Attention for Adaptive Convolution in Convolutional Neural Networks for Single Image Super-Resolution
방송공학회논문지
2023 .12
-
RGB-csb를 활용한 제한된 CNN에서의 정확도 분석 및 비교
한국전자통신학회 논문지
2020 .01
-
Convolution Neural Network를 이용한 도로인식 모델
한국정보통신학회 종합학술대회 논문집
2019 .10
-
컨볼루션 신경망을 이용한 표면실장부품 자동 분류 시스템
제어로봇시스템학회 국내학술대회 논문집
2018 .05
-
균형적인 신체활동을 위한 맞춤형 AI 운동 추천 서비스
융합신호처리학회 논문지
2022 .12
-
합성곱 신경망 연산을 위한 저전력 콘볼루션 레이어 하드웨어 설계
한국정보통신학회논문지
2024 .07
-
YOLO v2 Tiny에서 하드웨어 가속화를 위한 Convolution 구조
대한전자공학회 학술대회
2021 .06
-
수정 이산 코사인 변환 도메인에서 Deep Neural Network 기반의 음성 향상
한국통신학회 학술대회논문집
2020 .02
-
한국어 자모 단위 기반의 Convolution Neural Network를 이용한 텍스트 분류
한국정보과학회 학술발표논문집
2017 .06
-
Explainable Grouped Convolution Neural Network Inspired Acoustic-based Mine Recognition for Underwater Surveillance System
한국통신학회 학술대회논문집
2022 .06
-
New Approach to Optimize the Size of Convolution Mask in Convolutional Neural Networks
한국컴퓨터정보학회논문지
2016 .01
-
컨볼루션 신경망을 이용한 교통 표지판 인식
대한기계학회 춘추학술대회
2015 .05
이 논문의 저자 정보
이 논문과 함께 이용한 논문
Disassortative Network Distribution Techniques Using Hub Grouping Based On Local Differential Privacy
김용준
,
박석
Journal of KIISE
2020
.06
Latent Representation Learning for Autoencoder-based Top-K Recommender System
박동민
,
강준혁
,
이재길
Journal of KIISE
2020
.02
CAAM - Model for National-level Cyber Attack Attribution
이민호
,
박창욱
,
김완주
외 1명
Journal of KIISE
2020
.01
DCT를 이용한 CNN 모델의 압축방법
김승환
,
박은수
,
굴람 무즈타바
외 1명
한국방송미디어공학회 학술발표대회 논문집
2020
.07
이미지 유사도 측정을 위한 CNN 기반 이미지 임베딩 모델 비교 분석
서민지
,
이기용
한국정보과학회 학술발표논문집
2019
.06
최근 본 자료
댓글(0)
0