지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2022.1
- 수록면
- 15 - 23 (9page)
이용수
초록· 키워드
오류제보하기
지속적 학습 환경을 위한 학습 방법 중 LwF(Learning without Forgetting)는 정규화 강도가 고정되어 있어 다양한 데이터가 들어오는 환경에서 성능이 하락 할 수 있다. 본 논문에서는 학습하려는 데이터의 특징을 파악하여 가중치를 가변적으로 설정할 수 있는 방법을 제안하고, 실험으로 성능을 검증한다. 상관 관계와 복잡도를 이용하여 적응적으로 가중치를 적용하도록 하였다. 평가를 위해 다양한 데이터를 가진 태스크가 들어오는 시나리오를 구성하여 실험을 진행하였고, 실험 결과 새로운 태스크의 정확도가 최대 5%, 이전 태스크의 정확도가 최대 11% 상승하였다. 또한, 본 논문에서 제안한 알고리즘으로 구한 적응적 가중치 값은, 각 실험 시나리오마다 반복적 실험에 의해, 수동으로 계산한 최적 가중치 값에 접근한 것을 알 수 있었다. 상관 계수 값은 0.739 이었고, 전체적으로 평균 태스크 정확도가 상승하였다. 본 논문의 방법은, 새로운 태스크를 학습할 때마다 적절한 람다 값을 적응적으로 설정하였으며, 본 논문에서 제시한 여러 가지 시나리오에서 최적의 결과값을 도출하고 있다는 것을 알 수 있다.
목차
요약
ABSTRACT
Ⅰ. 서론
Ⅱ. 본론
Ⅲ. 결론
REFERENCES
참고문헌 (10)
참고문헌 신청
I. J. Goodfellow, M. Miraza, D. Xiao, A. Courville, and Y. Bengio, “An empirical investigation of catastrophic forgetting in gradient-based neural networks,” arXiv preprint arXiv:1312.6211, 2013.
R. M. French, “Catastrophic forgetting in connectionist networks,” Trends in cognitive sciences, vol. 3, no. 4, pp.128-135, Apr. 1999.
G. I. Parisi, R. Kemker, J. L. Part, C. Kanan, and S. Wermter, “Continual lifelong learning with neural networks: A review,” Neural Networks, vol. 113, pp. 54-71, 2019.
Z. Li and D. Hoiem, “Learning without forgetting,” IEEE transactions on pattern analysis and machine intelligence, vol. 40, no. 12, pp. 2935-2947, Nov. 2017.
Y. Hsu, Y. Liu, A. Ramasamy, and Z. Kira, “Re-evaluating continual learning scenarios: A categorization and case for strong baselines,” arXiv preprint, arXiv:1810.12488, 2018.
G. I. Parisi, R. Kemker, J. L. Part, C. Kanan, and S. Wermter, “Continual lifelong learning with neural networks: A review,” Neural Networks, vol. 113, pp. 54-71, 2019.
Z. Li and D. Hoiem, “Learning without forgetting,” IEEE transactions on pattern analysis and machine intelligence, vol. 40, no. 12, pp. 2935-2947, Nov. 2017.
Y. Hsu, Y. Liu, A. Ramasamy, and Z. Kira, “Re-evaluating continual learning scenarios: A categorization and case for strong baselines,” arXiv preprint, arXiv:1810.12488, 2018.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
어텐션 기반의 지속학습에서 정규화값 제어 방법
전기전자학회논문지
2022 .03
-
지속적 학습 환경에서 지식전달에 기반한 LwF 개선모델
한국정보통신학회논문지
2022 .03
-
지속적 학습 환경에서 효율적 경로 선택
전기전자학회논문지
2021 .09
-
LwF 환경에서 손실값 제어에 의한 망각현상 완화
한국정보과학회 학술발표논문집
2021 .12
-
Improvement of Catastrophic Forgetting Phenomenon by Convolution Layer Separation
INTERNATIONAL CONFERENCE ON FUTURE INFORMATION & COMMUNICATION ENGINEERING
2021 .02
-
데이터 유사도를 이용한 지속적 학습방법
전기전자학회논문지
2020 .06
-
가변 람다값을 이용한 EWC에서의 치명적 망각현상 개선
한국정보통신학회논문지
2021 .01
-
활성 가중치만을 이용한 딥 네트워크 학습
한국정보과학회 학술발표논문집
2019 .12
-
베이지안 기반의 정규화를 이용한 파괴적 망각 극복
대한전자공학회 학술대회
2019 .06
-
CNN의 점진 학습을 위한 가중치 변조 연구
한국정보과학회 학술발표논문집
2021 .06
-
인공 신경망의 Catastrophic forgetting 현상 극복을 위한 순차적 반복 학습에 대한 연구
JOURNAL OF PLATFORM TECHNOLOGY
2018 .12
-
유전적 알고리즘이 데이터셋 생성에 미치는 영향에 대한 연구
디지털콘텐츠학회논문지
2019 .01
-
Global Weight: 심층 신경망의 압축을 위한 네트워크 수준의 가중치 공유
한국방송미디어공학회 학술발표대회 논문집
2020 .07
-
전환학습을 통한 적응학습에서 임파워먼트와 네트워킹의 영향 및 팀 요인의 조절효과
인적자원관리연구
2017 .01
-
메타러닝 학습에서의 학습순서에 관한 연구
한국통신학회 학술대회논문집
2021 .06
-
로봇 매니퓰레이터의 다양한 작업 확장성을 위한 지속적 강화학습 기법
대한전자공학회 학술대회
2024 .06
-
단계적 가중치 학습을 적용한 신경망 기반 앙상블 예측 방법
한국정보과학회 학술발표논문집
2018 .12
-
Control of neural network weights in 3D simulation using value optimization
한국정보과학회 학술발표논문집
2020 .07
-
관체 평가항목의 신뢰성 향상을 위한 가중치 설정 연구
대한환경공학회 학술발표논문집
2015 .10
-
베이지안 신경망을 이용한 순차적 다중작업 학습 최적화
정보과학회 컴퓨팅의 실제 논문지
2018 .05
이 논문의 저자 정보
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0