지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers 정보과학회 컴퓨팅의 실제 논문지 정보과학회 컴퓨팅의 실제 논문지 제27권 제12호
- 발행연도
- 2021.12
- 수록면
- 549 - 554 (6page)
- DOI
- 10.5626/KTCP.2021.27.12.549
이용수
초록· 키워드
오류제보하기
인간과 상호작용할 수 있는 대화시스템 개발은 인공지능 분야의 중요한 과제 중 하나이다. 이러한 문제를 해결하기 위해 대화 시스템에서 외부 지식을 활용하는 연구는 꾸준히 진행되어 왔다. 하지만 외부 지식을 학습하기 위해서는 구조화된 지식이 필요하며, 이를 생성하기 위해선 상당한 자원이 필요하다. 이러한 관점에서 본 연구는 검색 기반 대화 시스템에서 구조화 되지 않는 텍스트를 외부 지식으로 사용하는 모델을 제안한다. 기본 모델로 사전 학습된 언어 모델인 BERT를 사용하고 사후 학습을 통해 모델에 외부 지식을 학습시킨다. 이 후 사후 학습된 모델을 대화 응답 선택 태스크에 미세조정하여 문제를 해결한다. 기존 BERT 모델에 비해 외부 지식을 학습한 모델의 성능이 우분투 코퍼스에서 R<SUB>10</SUB>@1기준 1.3% 향상된 결과를 보였다.
목차
요약
Abstract
1. 서론
2. 관련 연구
3. 본론
4. 실험
5. 결론
References
참고문헌 (15)
참고문헌 신청
J. Devlin, M.-W. Chang, K. Lee, and K. Toutanova, "BERT: Pre-training of deep bidirectional transformers for language understanding," Proc. of the 2019 Conference of the North American Chapter of the Association for 26 Computational Linguistic, pp. 4171-4186, 2019.
F. Petroni, T. Rocktaschel, S. Riedel, P. S. H. Lewis, A. Bakhtin, Y. Wu, and A. H. Miller, "Language models as knowledge bases?," Proc. of the 2019 Conference on EMNLP-IJCNLP (K. Inui, J. Jiang, V. Ng, and X. Wan, eds.), pp. 2463-2473 2019.
D. Chaudhuri, A. Kristiadi, J. Lehmann, and A. Fischer, "Improving response selection in multiturn dialogue systems," CoNLL, 2018.
R. Lowe, N. Pow, I. Serban, and J. Pineau, "The ubuntu dialogue corpus: A large dataset for research in unstructured multi-turn dialogue systems," SIGDIAL Conference, 2015.
R. Kadlec, M. Schmid, and J. Kleindienst, "Improved deep learning base-lines for ubuntu corpus dialogs," ArXiv, vol. abs/1510.03753, 2015.
F. Petroni, T. Rocktaschel, S. Riedel, P. S. H. Lewis, A. Bakhtin, Y. Wu, and A. H. Miller, "Language models as knowledge bases?," Proc. of the 2019 Conference on EMNLP-IJCNLP (K. Inui, J. Jiang, V. Ng, and X. Wan, eds.), pp. 2463-2473 2019.
D. Chaudhuri, A. Kristiadi, J. Lehmann, and A. Fischer, "Improving response selection in multiturn dialogue systems," CoNLL, 2018.
R. Lowe, N. Pow, I. Serban, and J. Pineau, "The ubuntu dialogue corpus: A large dataset for research in unstructured multi-turn dialogue systems," SIGDIAL Conference, 2015.
R. Kadlec, M. Schmid, and J. Kleindienst, "Improved deep learning base-lines for ubuntu corpus dialogs," ArXiv, vol. abs/1510.03753, 2015.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
대화의 특성을 고려한 BERT기반 대화 관계 추출 네트워크
한국정보과학회 학술발표논문집
2021 .06
-
BERT 기반의 인프라 피해산정
대한토목학회 학술대회
2020 .10
-
BERT 기반 모델에서의 부정적 감정 식별을 위한 감성 대화 분석 기법에 관한 연구
한국통신학회 학술대회논문집
2025 .02
-
법률 판례 검색을 위한 BERT 및 유사도 기반 모델 연구
Proceedings of KIIT Conference
2023 .11
-
Using Vertical and Horizonal Hidden Vector of BERT, Attention-based Separated Transfer Learning Model for Dialog Response Selection
Journal of KIISE
2021 .01
-
사전 학습된 BERT와 미세 조정된 BERT간의 어텐션 헤드 유사도 분석
한국정보과학회 학술발표논문집
2022 .12
-
BERT 기반 한국어 개방형 정보 추출
한국정보과학회 학술발표논문집
2019 .06
-
BERT 언어 모델을 사용한 상담 매칭 시스템
한국정보과학회 학술발표논문집
2020 .07
-
불용어의 BERT 기반 문장 자동분류기에 대한 영향
한국정보과학회 학술발표논문집
2021 .12
-
BERT의 계층에 따른 임베딩 벡터의 의미 분석
한국정보과학회 학술발표논문집
2021 .12
-
추가학습 없는 BERT를 활용한 시스템 로그 이상치 탐지
대한산업공학회 춘계공동학술대회 논문집
2023 .05
-
BERT 계층에 따른 단어간 관계 변화 분석
한국정보과학회 학술발표논문집
2022 .06
-
대화 생성을 위한 응답 인식 후보 쌍 검색 방법
정보과학회 컴퓨팅의 실제 논문지
2023 .02
-
BERT 파생 모델의 한국어에 대한 성능 비교
한국통신학회 학술대회논문집
2020 .02
-
선학습 BERT를 활용한 의미벡터 학습 방법
한국정보과학회 학술발표논문집
2019 .12
-
BERT 기반의 개인 맞춤형 수강 과목 추천 시스템 구축
대한산업공학회 춘계공동학술대회 논문집
2023 .05
-
BERT를 이용한 한국어 기계 독해
한국정보과학회 학술발표논문집
2019 .06
-
자연어처리와 정보검색을 이용한 질의응답 시스템
한국정보과학회 학술발표논문집
2015 .06
-
BERT를 이용한 한국어 의미역 결정
한국정보과학회 학술발표논문집
2019 .06
-
BERT를 이용한 한국어 자동 띄어쓰기
한국정보과학회 학술발표논문집
2019 .12
이 논문의 저자 정보
이 논문과 함께 이용한 논문
한글 텍스트 감정 이진 분류 모델 생성을 위한 미세 조정과 전이학습에 관한 연구
김종수
한국산업정보학회논문지
2023
.10
KoDoc2dial: 문서 기반 대화를 위한 한국어 대화 데이터셋
김보은
,
이도행
,
장영진
외 3명
한국정보과학회 학술발표논문집
2022
.06
CNN-BiLSTM과 BERT 기반 연구 논문 분류 기법의 설계
비스와스 딥또
,
길준민
Proceedings of KIIT Conference
2023
.06
한국어 텍스트 질의를 활용한 주식 정보 검색 및 분석 기법
김나영
,
유석종
한국정보기술학회논문지
2022
.09
KcBert-based Movie Review Corpus Emotion Analysis Using Emotion Vocabulary Dictionary
장연지
,
최지선
,
김한샘
Journal of KIISE
2022
.08
최근 본 자료
댓글(0)
0