지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술대회자료
- 저자정보
- 발행연도
- 2020.2
- 수록면
- 384 - 387 (4page)
이용수
초록· 키워드
오류제보하기
Regularization methods have been studied for efficient learning on deep learning. Regularization is quite a critical better performance in training. However, most existing regularization methods have used relatively simple linear combinations of L1 and L2 regularization. We observed that this linear combination of L1 and L2 regularization had a limitation that the effects of regularization are not enough for fast converge and finding solutions. We introduce a novel combination of L1 and L2 regularization by adopting the exponential function, called exponential nonlinear regularization. In exponential nonlinear regularization, the L1 regularization is multiplied with L2 regularization after applying the exponential function. From this, deep neural networks can find a better training path of gradients than linear regularization. This is because the loss with exponential nonlinear regularization can focus on a more critical loss in regularization. In addition, an exponential moving average regularization experiment was conducted. From two experiments on generation and segmentation tasks, we could find that our method showed excellent performances. We experimented with further improvements but included a drop in performance.
목차
Abstract
I. INTRODUCTION
II. OUR PROPOSAL
III. CONCLUSION
REFERENCES
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
Regularization 기법을 활용한 과적합 방지 연구
한국정보통신학회 종합학술대회 논문집
2023 .10
-
연합학습에서 Dynamic Regularization의 부작용에 대한 분석
한국정보과학회 학술발표논문집
2022 .12
-
lp-norm regularization for impact force identification from highly incomplete measurements
Smart Structures and Systems, An International Journal
2024 .08
-
Network based regularization for semi-supervised regression
한국정보과학회 학술발표논문집
2020 .07
-
상호작용 이중-모드 조정방법을 이용한 저항률 영상 복원
전기전자학회논문지
2016 .06
-
Regularization Parameter Selection for Total Variation Model Based on Local Spectral Response
JIPS(Journal of Information Processing Systems)
2017 .01
-
Analytical bond-order parameter regularization of neural force field for multi-component systems
한국표면공학회 학술발표회 초록집
2022 .11
-
Boosting Federated Learning Convergence with Prototype Regularization
한국정보과학회 학술발표논문집
2023 .06
-
일관성 정규화 기반의 능동 학습 알고리즘
한국자동차공학회 춘계학술대회
2021 .06
-
Bayesian Regularization 기법을 이용한 방사형 기저함수 신경회로망 설계
정보 및 제어 논문집
2024 .10
-
Noise Robust Federated Learning with Active Negative Loss and Representation Regularization
한국정보과학회 학술발표논문집
2024 .06
-
Material exposed to light in regularization for positive-tone photoresists
한국고분자학회 학술대회 연구논문 초록집
2017 .04
-
인체 흉부 영상 복원을 위한 행렬 적응 조정 방법의 적용
전기전자학회논문지
2015 .03
-
전기 저항 단층촬영법에서의 조정기법 성능비교
전기전자학회논문지
2016 .09
-
영상 복원을 위한 자기 정규화 방법
한국전자통신학회 논문지
2016 .01
-
제한된 피드백 기반 블록 다중화의 정규화 파라미터에 관한 연구
한국통신학회논문지
2021 .07
-
정규화(regularization)을 이용한 RMC 영상화 알고리즘의 성능 향상
대한전자공학회 학술대회
2016 .06
-
A performance comparison study of sparse regularization methods of spectroscopic signals of virtual metrology modeling
대한산업공학회 추계학술대회 논문집
2016 .11
-
안저영상에 대한 심층 분류 모델 범용화
한국정보과학회 학술발표논문집
2024 .06
-
Combined Regularization Affine Projection Sign Algorithm Against Impulsive Noises
제어로봇시스템학회 국제학술대회 논문집
2019 .10
이 논문의 저자 정보
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0