메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
황현선 (강원대학교) 이창기 (강원대학교)
저널정보
Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.45 No.5
발행연도
2018.5
수록면
451 - 456 (6page)
DOI
10.5626/JOK.2018.45.5.451

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
Sequence-to-sequence 모델은 입력열을 길이가 다른 출력열로 변환하는 end-to-end 방식의 모델로, 높은 성능을 내기 위해 attention mechanism, input-feeding 등의 기술들을 사용하여 속도가 느려 실제 서비스에 적용되기 어렵다는 단점이 있다. 본 논문에서는 학습된 인공신경망을 실제 서비스에 적용하기 위해 효과적으로 모델을 압축하여 속도를 향상시키는 방법인 지식의 증류기법(Knowledge distillation)의 기술 중에서 자연어처리를 위한 sequence-level knowledge distillation을 한국어 구구조 구문 분석에 적용하여 성능저하를 최소화하여 모델 압축을 시도하였다. 실험 결과 hidden layer의 크기를 500에서 50까지 줄였을 때 baseline 모델보다 F1 0.56%의 성능향상을 보였고 속도는 60.71배 빨라지는 효과를 보였다.
#딥 러닝 #구구조 구문 분석 #모델 압축 #deep learning #phrase structure parsing #sequence-to-sequence learning #model compression

목차

요약
Abstract
1. 서론
2. 관련 연구
3. Sequence-to-sequence 모델을 이용한 한국어 구구조 구문 분석
4. Knowledge Distillation
5. Knowledge Distillation을 이용한 한국어 구구조 구문 분석 모델의 압축
6. 실험
7. 결론
References

참고문헌 (11)

참고문헌 신청
Vinyals, Oriol, et al., Grammar as a foreign language, Advances in Neural Information Processing Systems, 2015. H. Hwang, C. Lee, Korean phrase structure parsing using sequence-to-sequence learning, Proceedings of the 28th Annual Conference on Human and Cognitive Language Technology, pp. 20-24. (in Korean) Collobert, Ronan, et al., Natural language processing (almost) from scratch, Journal of Machine Learning Research, 12, 2011. C. Lee, J. Kim and J. Kim, Korean Dependency Parsing using Deep Learning, Proc. of the 26th Annual Conference on Human & Cognitive Language Technology, pp. 87-91, 2014. (in Korean) Sutskever, Ilya, Oriol Vinyals, and Quoc V. Le, Sequence to sequence learning with neural networks, Advances in neural information processing systems, 2014.

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

생성적 적대 신경망을 이용한 정형 데이터 증강에 대한 연구
박성철 ,  정창훈 ,  서상현 외 1명 한국정보과학회 학술발표논문집 2018 .06
쇼핑몰 지능형 챗봇의 자연어 처리를 위한 패션쇼핑 개체명 인식 사전 구축
김용기 ,  이창희 ,  이정민 한국경영과학회 학술대회논문집 2018 .04
인공지능 기반 국방 의료정보 빅데이터 분석체계 기술 개발
심우호 대한산업공학회 춘계공동학술대회 논문집 2018 .04
대립 생성 네트워크를 활용한 비식별 데이터 생성
김재권 ,  이미진 ,  김경륜 외 2명 대한산업공학회 춘계공동학술대회 논문집 2018 .04
텍스트 마이닝 기법을 적용한 뉴스 데이터에서의 사건 네트워크 구축
이민철 ,  김혜진 지능정보연구 2018 .03

최근 본 자료

전체보기

댓글(0)

0

UCI(KEPA) : I410-ECN-0101-2018-569-002037975