지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.50 No.7
- 발행연도
- 2023.7
- 수록면
- 614 - 620 (7page)
- DOI
- 10.5626/JOK.2023.50.7.614
이용수
초록· 키워드
오류제보하기
Transformer 모델은 Neural Machine Translation과 같은 자연 언어 처리 작업에 혁명을 일으켰고, 아키텍처 연구에 많은 노력을 통해 효율성과 정확성을 높여왔다. 개선을 위한 잠재적인 영역 중 하나는 Transformer가 사용하지 않을 빈 토큰의 계산 횟수를 줄여 불필요한 계산 부담을 줄이는 것이다. 계산 부담을 줄이는 방법으로, 우리는 데이터 로더에서 mini-batch 를 만들기 전에, 길이에 따라 번역 문장 쌍을 정렬한 뒤 유사한 길이의 문장들로 mini-batch 를 구성함으로써 계산 능력의 낭비를 최소화하는 방법을 제안한다. 이때, 정렬의 양은 독립적이고 동일하게 분포 된 (i.i.d) 데이터 가정을 위반 할 수 있으므로 부분 정렬한다. 실험에서 영어-한국어 및 영어-루간다 언어 쌍에 적용하여 기계 번역을 수행했고, 번역 성능을 유지하면서 계산 시간에 이득이 있음을 확인했다. 제안된 방법은 모델 구조와 독립적이여서 다양한 길이를 갖는 데이터로부터 학습하는 경우에 쉽게 사용될 수 있다.
목차
요약
Abstract
1. Introduction
2. Preliminaries
3. Methods
4. Results
5. Conclusion
References
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
한국어-영어 기계 번역에 대한 Transformer 모델 경량화의 영향 분석
대한전자공학회 학술대회
2024 .06
-
English-Korean Neural Machine Translation using MASS with Relative Position Representation
Journal of KIISE
2020 .11
-
Neural Machine Translation with Word Embedding Transferred from Language Model
디지털콘텐츠학회논문지
2019 .11
-
숫자 기호화를 통한 신경기계번역 성능 향상
디지털콘텐츠학회논문지
2018 .06
-
Neural Machine Translation 기반의 영어-일본어 자동번역
정보과학회지
2015 .10
-
신경망 기반 기계번역 모델의 이해
정보과학회지
2019 .02
-
생산 라인에서의 실시간 배치 크기 결정
산업경영시스템학회지
2019 .01
-
English-to-Korean Machine Translation using Image Information
Journal of KIISE
2019 .07
-
단어 임베딩 분석을 통한 신경망 기계 번역 시스템의 성능 비교: 한국어-일본어, 한국어-영어를 중심으로
정보과학회 컴퓨팅의 실제 논문지
2022 .02
-
전이 학습을 사용한 인공신경망 기반의 한국어-영어 기계번역
한국정보과학회 학술발표논문집
2018 .06
-
Kor-Eng NMT using Symbolization of Proper Nouns
Journal of KIISE
2021 .10
-
Quality Estimation of English-Korean Machine Translation using Neural Network based Predictor-Estimator Model
Journal of KIISE
2018 .06
-
심층학습을 이용한 기계번역 연구동향
정보과학회지
2015 .10
-
Shared Attention Network와 Multi-Query Attention을 이용한 Transformer 모델의 디코더 속도 개선
한국정보과학회 학술발표논문집
2021 .06
-
Mini-Batch Ensemble Method on Keystroke Dynamics based User Authentication
International journal of advanced smart convergence
2016 .01
-
언어 모델링을 활용한 도메인 특화 신경망 기계 번역
한국지능정보시스템학회 학술대회논문집
2020 .06
-
Document-level Machine Translation Data Augmentation Using a Cluster Algorithm and NSP
Journal of KIISE
2023 .05
-
온라인 어학사전을 활용한 신조어 기계 번역의 정확도 향상 방법
Proceedings of KIIT Conference
2021 .06
-
이미지 정보를 이용한 영어-한국어 자동 번역
한국정보과학회 학술발표논문집
2018 .12
-
Building a Parallel Corpus and Training Translation Models Between Luganda and English
Journal of KIISE
2022 .11
이 논문의 저자 정보
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-ECN-0102-2023-569-001747104