메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
김도경 (강원대학교) 정영준 (강원대학교) 황현선 (강원대학교) 이창기 (강원대학교) 이성민 (현대자동차) 류우종 (현대자동차) 염홍선 (현대자동차) 김준석 (현대자동차)
저널정보
Korean Institute of Information Scientists and Engineers 정보과학회 컴퓨팅의 실제 논문지 정보과학회 컴퓨팅의 실제 논문지 제28권 제6호
발행연도
2022.6
수록면
348 - 353 (6page)
DOI
10.5626/KTCP.2022.28.6.348

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

이 논문의 연구 히스토리 (2)

2022

CAN과 Dense Synthesizer를 이용한 트랜스포머 디코딩 속도 개선
김도경 ,  정영준 ,  황현선 외 5명 정보과학회 컴퓨팅의 실제 논문지 2022.06 학술저널

2021

CAN과 Dense Synthesizer를 이용한 트랜스포머 디코딩 속도 개선
김도경 ,  정영준 ,  황현선 외 5명 한국정보과학회 학술발표논문집 2021.06 학술대회자료

초록· 키워드

오류제보하기
최근 신경망을 이용한 기계 번역 연구들이 다양하게 진행되고 있으며, 그중에서 트랜스포머 모델이 가장 우수한 번역 성능을 보이나, 번역 속도가 느리다는 단점이 있어 번역 속도를 증가시키기 위한 많은 연구가 진행되고 있다. 본 논문에서는 번역 속도를 증가시키는 것을 목표로 하며 선행 연구 중 트랜스포머 디코더의 Self-Attention, Cross-Attention, FFN(Feed Forward Network)을 하나의 Attention으로 통합한 CAN(Compressed Attention Network)과 Self-Attention을 대체할 수 있는 Synthetic Attention 중 하나인 Dense Synthesizer를 결합하여 트랜스포머 모델의 디코딩 속도를 개선하였다. 실험 결과, Baseline과 비교할 때 CAN과 Dense Synthesizer를 결합한 모델은 번역 성능이 BLEU 2.8 감소하였지만, 번역 속도를 153.9% 증가시켰다.
#기계 번역 #신경망 기계 번역 #트랜스포머 #속도 개선 #machine translation #neural machine translation #transformer #speed improvement

목차

요약
Abstract
1. 서론
2. 관련 연구
3. 트랜스포머 디코딩 속도 개선 모델
4. 실험 및 결과
5. 결론
References

참고문헌 (10)

참고문헌 신청
Dzmitry Bahdanau et al., "Neural Machine Translation by Jointly Learning to Align and Translate," ICLR, 2015. google schola Ashish Vaswani et al., "Attention Is All You Need," NIPS, 2017. google schola Devlin, Jacob, et al., "Bert: Pre-training of deep bidirectional transformers for language understandding," arXiv preprint arXiv:1810.04805, 2018. Radford, Alec, et al., "Improving language understandding by generative pre-training," 2018. google schola Yanyang Li et al., "An Efficient Transformer Decoder with Compressed Sub-layers," AAAI, 2021. google schola

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

최근 본 자료

전체보기

댓글(0)

0