지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2025.1
- 수록면
- 65 - 72 (8page)
- DOI
- 10.9708/jksci.2025.30.01.065
이용수
초록· 키워드
오류제보하기
CBOW 모델은 주변 단어로부터 표적 단어를 예측하는 분산 표현 방식의 자연어 처리 신경망 모델이다. CBOW 모델의 성능을 평가하는 데 있어 대표적인 벤치마크로 사용되는 PTB는 자연어 처리와 컴퓨터 언어학에서 중요한 역할을 하는 중형 말뭉치이며, 1989년 월스트리트 저널에서 발췌한 2,499개의 기사로 구성되어, 약 100만개의 단어와 49,208개의 문장이 포함되어 있다. 본 논문은 CBOW 모델에 배치정규화를 적용하여 PTB를 학습시켜 손실함수의 평균 손실값을 개선하는 것을 목표로 한다. 논문의 목표를 구현하기 위해, CuPy를 탑재한 노트북 환경에서 기존 CBOW 모델과 배치정규화 적용 모델을 비교 실험하였으며, 그 결과 평균 손실값이 1.25에서 0.65로 감소함을 확인하였다. 그러므로 본 논문은 CBOW 모델 성능 향상에 있어 배치정규화의 유효성을 입증하고, 전이학습을 위한 분산 표현의 정교화를 이루는 데 도움을 줄 것으로 기대된다.
목차
Abstract
요약
I. Introduction
II. Preliminaries
III. Problems on the Basic CBOW Model
IV. The Proposed Scheme
V. Model Training
VI. Experimental Results
VII. Evaluation
VIII. Conclusions
REFERENCES
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
배치정규화를 적용한 CBOW 모델 성능 향상 개선에 관한 연구
한국통신학회 인공지능 학술대회 논문집
2024 .09
-
CBOW 기반 양방향 순환 신경망을 이용한 감성 분석
정보 및 제어 논문집
2016 .10
-
CBOW 기반 양방향 순환 신경망을 이용한 감성 분석
대한전기학회 학술대회 논문집
2016 .10
-
Comparative Analysis of Various Korean Morpheme Embedding Models using Massive Textual Resources
Journal of KIISE
2019 .05
-
Korean Named Entity Recognition and Classification using Word Embedding Features
Journal of KIISE
2016 .06
-
한국어 단어 임베딩을 위한 Word2vec 모델의 최적화
디지털콘텐츠학회논문지
2019 .04
-
트위터 데이터를 위한 효과적인 단어 임베딩
한국통신학회논문지
2018 .11
-
워드 임베딩과 딥러닝 기법을 이용한 SMS 문자 메시지필터링
스마트미디어저널
2018 .01
-
Method for the Automatic Generation of Training Sets for Word Embedding Reflecting Sentiment Information
Journal of KIISE
2022 .01
-
딥러닝의 모델 학습 과정 개선을 위한 배치 정규화에 대한 연구
제어로봇시스템학회 국내학술대회 논문집
2019 .05
-
Word Embedding에 PCA를 적용한 개체명 인식 모델을 위한 효율적인 학습방법 연구
대한산업공학회지
2019 .02
-
Cupy를 활용한 GPU 기반 시간-주파수 분석 알고리즘 처리 속도 분석
한국통신학회 학술대회논문집
2024 .06
-
Word Embedding using Relative Position Information between Words
Journal of KIISE
2018 .09
-
단어 의미와 자질 거울 모델을 이용한 단어 임베딩
정보과학회 컴퓨팅의 실제 논문지
2017 .04
-
하드웨어 친화적인 CNN 기반 객체 분할 모델 구현을 위한 배치 정규화 기법
대한전자공학회 학술대회
2023 .06
-
단어의 위치정보를 이용한 Word Embedding
한국어정보학회 학술대회
2017 .01
-
Single batch training 환경에서 normalization 방식에 따른 성능 비교
대한전자공학회 학술대회
2023 .06
-
Improving Generalization in Reinforcement Learning via Distribution-Aware Batch Normalization
한국정보과학회 학술발표논문집
2022 .06
-
이동형 로봇의 물체 관계 학습을 통한 적응적 공간 이해 방법
한국정보과학회 학술발표논문집
2021 .12
-
Batch Normalization을 결합한 CNN과 MNIST 데이터셋에서의 정확도 향상에 관한 연구
한국컴퓨터정보학회논문지
2024 .09
이 논문의 저자 정보
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-151-25-02-092242851