메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류

추천
검색
질문

논문 기본 정보

자료유형
학술대회자료
저자정보
김봉민 (경희대학교) 홍충선 (경희대학교) 박성배 (경희대학교)
저널정보
Korean Institute of Information Scientists and Engineers 한국정보과학회 학술발표논문집 한국정보과학회 2021 한국소프트웨어종합학술대회 논문집
발행연도
2021.12
수록면
798 - 800 (3page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
많은 양의 corpus로 사전 학습된 language model은 다양한 자연어 처리 task에서 높은 성능을 보여줘 왔다. 하지만 이는 수많은 parameter가 동반되기에 실제 application 적용에 있어 어려움을 갖는다. 이에 따라 높은 성능을 유지하면서 parameter의 양을 줄이기 위한 distillation 모델이 연구되고 있다. 기존의 task-specific distillation 연구들은 teacher 모델의 hidden state와 attention distribution 등을 모방하도록 loss 함수를 설계해왔다. 그러나 제안된 모델들은 많은 양의 자연어 학습을 통해 얻은 teach ... 전체 초록 보기

목차

등록된 정보가 없습니다.

참고문헌 (0)

참고문헌 신청

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

최근 본 자료

전체보기

댓글(0)

0