지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2023.9
- 수록면
- 75 - 83 (9page)
- DOI
- 10.5573/ieie.2023.60.9.75
이용수
초록· 키워드
오류제보하기
한국어 자연어 처리 분야는 구글에서 공개한 BERT 언어모델을 중심으로 활발한 연구가 진행되고 있으나, 한국어의 특성상 많은 제약을 갖고 있다. 개체명 인식(NER)은 정형화되지 않은 방대한 텍스트에 숨어있는 개체명을 검출하고, 이를 미리 정의한 개체명 클래스에 따라 분류하는 자연어 처리(NLP) 태스크 중 하나이다. 개체명 정보는 텍스트 내에서 특정 도메인과 관련된 지식을 이해하는 데에 실마리를 제공하는 어휘 특징(Lexical Feature) 중 하나로 먼저 텍스트 문서로 부터 정보를 추출(Information Extraction)하여 토큰화(Tokenization)와 품사 태깅과 같은 전처리 작업이 필요하다. 본 연구에서는 한국어 처리에 앞서 금융에 특화한 영문 코퍼스를 제시하고자 한다. Financial_phrasebank 데이터셋와 IIRC 회원 약 83개 글로벌 기업의 재정보고서에서 약 8천개의 금융 텍스트를 추출, 통합하여 총 약 12.7천개 문장으로 구성된 데이터셋을 구축하였으며, 전이학습과정에서 분류되는 개체명 클래스를 기존의 7개 클래스 분류에서 15개 클래스로 분류, 확장한 언어 모델을 제안한다. 레이블링을 거쳐 BERT_base 모델을 결합하여 모델 학습을 진행한 후 정확도, 재현율, F1 스코어 등의 검사를 통해 금융 분야에서의 최적의 데이터셋을 제안한다.
목차
요약
Abstract
Ⅰ. 서론
Ⅱ. 이론적 배경
Ⅲ. 연구 방법
Ⅳ. 실험
Ⅴ. 결론
REFERENCES
참고문헌 (32)
참고문헌 신청
Basu, K. et al. (2021) “Knowledge-driven Natuural Language Understanding of English Text and Its Applications”, Proceedings of the AAAI Coference on Artificial Intelligence, 35(14), pp. 12554-12563. https://doi.org/10.1609/aaai.v35i14.17488.
Heuss, T. et al. (2014) “A comparison of NER tools w.r.t. a domain-specific vocabulary”, in Proceedings of the 10th International Conference on Semantic Systems-SEM’14. the 10th International 75 Conference, Leipzig, Germany: ACM Press, pp. 100–107. https:
Wang, S. et al. “Financial named entity recognition based on conditional random fields and information entropy”, in 2014 Interational Conference on Machine Learning and Cybernetics (ICMLC), Lanzhou, China: IEEE 2014, pp. 838-843.
Malo, P. et al. “Good Debt or Bad Debt: Detecting Semantic Orientations in Economic Texts”, arXiv.1307.5336 (2013)
Remy, P. and Ding, X. “Financial News Dataset from Bloomberg and Reuters”. https://github.com/Philipperemy/financial-news-dataset
Heuss, T. et al. (2014) “A comparison of NER tools w.r.t. a domain-specific vocabulary”, in Proceedings of the 10th International Conference on Semantic Systems-SEM’14. the 10th International 75 Conference, Leipzig, Germany: ACM Press, pp. 100–107. https:
Wang, S. et al. “Financial named entity recognition based on conditional random fields and information entropy”, in 2014 Interational Conference on Machine Learning and Cybernetics (ICMLC), Lanzhou, China: IEEE 2014, pp. 838-843.
Malo, P. et al. “Good Debt or Bad Debt: Detecting Semantic Orientations in Economic Texts”, arXiv.1307.5336 (2013)
Remy, P. and Ding, X. “Financial News Dataset from Bloomberg and Reuters”. https://github.com/Philipperemy/financial-news-dataset
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
한국어 개체명 분석을 위한 BERT-Tiny 기반 모델 연구
한국정보과학회 학술발표논문집
2020 .07
-
BERT 기반 한국어 개방형 정보 추출
한국정보과학회 학술발표논문집
2019 .06
-
BERT를 이용한 한국어 자연어처리: 개체명 인식, 감성분석, 의존 파싱, 의미역 결정
한국정보과학회 학술발표논문집
2019 .06
-
도메인 특화 사전학습 언어모델 개발 전략: 자동차 분야 언어모델 V-BERT 개발 사례
정보과학회 컴퓨팅의 실제 논문지
2023 .05
-
DeNERT: DQN과 BERT를 이용한 개체명 인식 모델
한국컴퓨터정보학회논문지
2020 .04
-
KB-BERT: 금융 특화 한국어 사전학습 언어모델과 그 응용
한국지능정보시스템학회 학술대회논문집
2022 .06
-
BERT의 언어 지식의 편향성으로 인한 텍스트 정보 추출 오류
한국정보과학회 학술발표논문집
2022 .06
-
BERT 언어 모델을 사용한 상담 매칭 시스템
한국정보과학회 학술발표논문집
2020 .07
-
BERT 파생 모델의 한국어에 대한 성능 비교
한국통신학회 학술대회논문집
2020 .02
-
BERT 기반 교통사고 비정형 데이터 분류 모델 개발
대한교통학회 학술대회지
2022 .04
-
LUKE를 이용한 한국어 자연어 처리: 개체명 인식, 개체 연결
정보과학회 컴퓨팅의 실제 논문지
2022 .03
-
좌충우돌 감성분석 BERT 미세조정 분석
한국컴퓨터정보학회 학술발표논문집
2021 .01
-
법률 판례 검색을 위한 BERT 및 유사도 기반 모델 연구
Proceedings of KIIT Conference
2023 .11
-
Text classification에 특화 시킨 개선된 BERT 활용 방법론 제안
한국통신학회 학술대회논문집
2021 .02
-
한글 텍스트 감정 이진 분류 모델 생성을 위한 미세 조정과 전이학습에 관한 연구
한국산업정보학회논문지
2023 .10
-
사전 학습된 BERT와 미세 조정된 BERT간의 어텐션 헤드 유사도 분석
한국정보과학회 학술발표논문집
2022 .12
-
KB-BERT: 금융 특화 한국어 사전학습 언어모델과 그 응용
지능정보연구
2022 .06
-
A Comparative Study on the Performance of Named Entity Recognition in Materials and Chemistry Fields through Multiple Embedding Combination Based on a Pre-trained Neural Network Language Model
Journal of KIISE
2021 .06
-
Combining Sentiment-Combined Model with Pre-Trained BERT Models for Sentiment Analysis
Journal of KIISE
2021 .07
-
BERT를 이용한 전이 기반 한국어 형태소 분석 및 품사 태깅
한국정보과학회 학술발표논문집
2019 .12
이 논문의 저자 정보
이 논문과 함께 이용한 논문
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-151-24-02-088062500