메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
김유진 (서강대학교) 황인준 (서강대학교) 장기석 (서강대학교) 이윤동 (서강대학교)
저널정보
한국통계학회 응용통계연구 응용통계연구 제37권 제5호
발행연도
2024.10
수록면
567 - 582 (16page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
지난 10년의 기간 심층신경망의 비약적 발전은 언어모형의 개발과 그 발전을 함께 해 왔다. 언어모형은 초기 RNN을 이용한 encoder-decoder 모형의 형태로 개발되었으나, 2015년 attention이 등장하고, 2017년 transformer가 등장하여 혁명적 기술로 성장하였다. 본연구에서는 언어모형의 발전과정을 간략하게 살펴보고, 트랜스포머의 작동원리와 기술적 요소에 대하여 구체적으로 살펴본다. 동시에 언어모형, 트랜스포머와 관련되는 통계모형과, 방법론에 대하여 함께 검토한다.
#language model #transformer #multi-head attention #encoder-decoder #positional encoding #언어모형 #트랜스포머 #다중어텐션 #인코더-디코더 #위치인코딩

목차

Abstract
1. 서론
2. RNN 기반 Seq2Seq 모형
3. Transformer에 대하여
4. 셀프어텐션과 RNN, CNN의 비교
5. 결론
References
요약

참고문헌 (0)

참고문헌 신청
참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문과 함께 이용한 논문

거대언어모델(LLM) 응용 기술 최근 동향
임준호 한국통신학회지(정보와통신) 2025 .03
거대언어모델 기반 Conflict-Free Replicated Data Type을 사용하여 분산 테이블의 의미적 어노테이션 일관성 보장
손원석 ,  천세진 ,  한정규 한국통신학회 학술대회논문집 2025 .02
ChronoPatternNet: Revolutionizing Electricity Consumption Forecasting with Advanced Temporal Pattern Recognition and Efficient Computational Design
Le Hoang Anh ,  Soo-Chang Lee ,  Gwang-Hyun Yu 외 1명 디지털콘텐츠학회논문지 2024 .01

최근 본 자료

전체보기

댓글(0)

0

UCI(KEPA) : I410-151-25-02-090977833