지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers 정보과학회논문지 : 소프트웨어 및 응용 정보과학회논문지 : 소프트웨어 및 응용 제30권 제3·4호
- 발행연도
- 2003.4
- 수록면
- 326 - 338 (13page)
이용수
이 논문의 연구 히스토리 (3)
2003
- 이 논문의 후속연구가 궁금하신가요?
- 연관 학술논문 또는 학술발표를 통해 보다 발전된 연구결과를 확인하실 수 있습니다.
- 이 논문의 연구 히스토리 확인하기
초록· 키워드
오류제보하기
신경회로망 설계 및 모델선택의 목표는 최적의 구조를 가지는 일반화 성능이 우수한 네트워크를 구성 하는 것이다. 하지만 학습데이타에는 노이즈(noise)가 존재하고, 그 수도 충분하지 않기 때문에 최종적으로 표현하고자 하는 진확률 분포와 학습데이타에 의해 표현되는 경험확률분포(empirical probability density) 사이에는 차이가 발생한다. 이러한 차이 때문에 신경회로망을 학습데이타에 대하여 과다하게 적합(fitting)시키면, 학습데이타만의 확률분포를 잘 추정하도록 매개변수들이 조정되어 버리고, 진 확률 분포로 부터 멀어지게 된다. 이러한 현상을 과다학습이라고 하며, 과다 학습된 신경회로망은 학습데이타에 대한 근사는 우수하지만, 새로운 데이타에 대한 예측은 떨어지게 된다. 또한 신경회로망의 복잡도가 증가 할수록 더 많은 매개변수들이 노이즈에 쉽게 적합 되어 과다학습 현상은 더욱 심화된다.
본 논문에서는 통계적인 관점을 바탕으로 신경회로망의 일반화 성능을 향상시키는 신경회로망의 설계 및 모델 선택의 통합적인 프로세스를 제안하고자 한다. 먼저 학습의 과정에서 적응적 정규화가 있는 자연기울기 학습을 통해 수렴속도의 향상과 동시에 과다학습을 방지하여 진확률 분포에 가까운 신경회로망을 얻는다. 이렇게 얻어진 신경회로망에 자연 프루닝(natural pruning) 방법을 적용하여 서로 다른 크기의 후보 신경회로망 모델을 얻는다. 이러한 학습과 복잡도 최적화의 통합 프로세스를 통하여 얻은 후보 모델들 중에서 최적의 모델을 베이시안 정보기준에 의해 선택함으로써 일반화 성능이 우수한 최적의 모델을 구성하는 방법을 제안한다. 또한 벤치마크 문제를 이용한 컴퓨터 시뮬레이션을 통하여, 제안하는 학습 및 모델 선택의 통합 프로세스의 일반화 성능과 구조 최적화 성능의 우수성을 검증한다.
본 논문에서는 통계적인 관점을 바탕으로 신경회로망의 일반화 성능을 향상시키는 신경회로망의 설계 및 모델 선택의 통합적인 프로세스를 제안하고자 한다. 먼저 학습의 과정에서 적응적 정규화가 있는 자연기울기 학습을 통해 수렴속도의 향상과 동시에 과다학습을 방지하여 진확률 분포에 가까운 신경회로망을 얻는다. 이렇게 얻어진 신경회로망에 자연 프루닝(natural pruning) 방법을 적용하여 서로 다른 크기의 후보 신경회로망 모델을 얻는다. 이러한 학습과 복잡도 최적화의 통합 프로세스를 통하여 얻은 후보 모델들 중에서 최적의 모델을 베이시안 정보기준에 의해 선택함으로써 일반화 성능이 우수한 최적의 모델을 구성하는 방법을 제안한다. 또한 벤치마크 문제를 이용한 컴퓨터 시뮬레이션을 통하여, 제안하는 학습 및 모델 선택의 통합 프로세스의 일반화 성능과 구조 최적화 성능의 우수성을 검증한다.
목차
요약
Abstract
1. 서론
2. 통계적 신경회로망
3. 제안하는 방법의 구성
4. 실험 결과 및 분석
5. 결론
참고문헌
저자소개
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
임팩트 팩터를 이용한 신경 회로망의 연결 소거 알고리즘
전자공학회논문지-CI
2004 .03
-
다층 신경회로망을 위한 자기 구성 알고리즘
전자공학회논문지-CI
2004 .05
-
논리학습과 신경회로망
로봇과 인간
2006 .11
-
신경회로망 특집을 내면서
전기의세계
1989 .02
-
Self-Adaptive Learning Algorithm for Training Multi-Layered Neural Networks and Its Applications
한국음향학회지
1994 .01
-
신경회로망에 의한 최적제어
제어로봇시스템학회 국내학술대회 논문집
1999 .10
-
통계적 모델과 신경회로망 모델의 성능 비교에 관한 연구
대한전기학회 학술대회 논문집
2000 .07
-
FIR 신경회로망을 위한 계층별 학습알고리듬
한국정보과학회 학술발표논문집
1995 .10
-
신경회로망 최적화 기법에 관하여
한국통신학회 워크샵
1989 .01
-
신경회로망과 최적화 기법에 관하여
대한전자공학회 워크샵
1989 .01
-
신경회로망에 의한 시간최적 제어
한국정밀공학회 학술발표대회 논문집
2000 .05
-
연속 시스템 모델링을 위한 칼만 필터링 기반 신경회로망 학습에 대한 기술 동향
제어로봇시스템학회지
2011 .09
-
선택적 학습률을 활용한 학습법칙을 사용한 신경회로망
한국지능시스템학회 논문지
2010 .10
-
가변구조 시스템을 위한 신경회로망 학습 알고리즘
대한전기학회 학술대회 논문집
1996 .11
-
[特輯]신경회로망의 소개
정보과학회지
1992 .04
-
퍼지 학습법칙을 사용한 감독 신경회로망
한국지능시스템학회 학술발표 논문집
2009 .04
-
학습된 지식의 분석을 통한 신경망 재구성 방법
정보과학회논문지 : 소프트웨어 및 응용
2002 .06
-
학습 패턴의 분포 특징을 고려한 다층퍼셉트론 신경회로망의 개선
정보과학회논문지(B)
1996 .09
-
주파수 변조 신경회로망 모델 및 그 학습 알고리즘
한국지능시스템학회 학술발표 논문집
1996 .03
-
신경회로망 데이타 연관 알고리즘 파라미터의 실험적 분석 ( Experimental Analysis of Parameters in Neural Network Data Association Algorithm )
대한전자공학회 학술대회
1993 .01
이 논문의 저자 정보
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-ECN-0101-2009-569-017872081