메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
지인영 (한국체육대학교) 김희동 (한국외국어대학교)
저널정보
담화·인지언어학회 담화와인지 담화와인지 제28권 제4호
발행연도
2021.11
수록면
129 - 148 (20page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
The pre-training language model(PLM), BERT has achieved great success in Natural Language Processing(NLP) by transferring knowledge from rich-resource pre-training task to low-resource downstream tasks. The focus of researchers’ attention on PLM is its application and performance. In this study, we were interested in large-scale PLM models with high performance. We tried to identify major issues through PLM-related researches, and to discuss on the present development situation of large-scale PLMs. First, we reviewed researches analyzing whether PLM acquires linguistic/world knowledge through pre-training task. PLM remains as a blackbox and researchers fail to identify the internal mechanism of PLM. The aim of a large-scale PLM is to make the model more general-purposed. The larger the number of parameter is, the more difficult to train the parameters. Instead of fine-tuning method, few-shot method was proposed, but further study remains to be done. The final question is whether making larger PLM is the right research direction. Due to the overconsumption of computing and energy resources by PLM, we propose the development of eco-friendly and explainable PLM. We hope this study will provide linguists with an opportunity to understand recent technological research trends and to find joint work in the field of NLP.
#pre-trained language model #fine-tuning #BERT #GPT #large-scale language model

목차

1. 서론
2. 관련 기술 연구
3. 사전학습 언어모델의 분석
4. 대용량 사전학습 언어모델 고찰
5. 결론
참고문헌

참고문헌 (24)

참고문헌 신청
임준호 / 2021 / 딥러닝 사전학습 언어모델 연구 동향 / 정보과학회지 39(4):9~14 dbpia 지인영 / 2020 / 사전학습 언어모델의 기술 분석 연구 / 인문언어 22(1):111~133 dbpia 지인영 / 2021 / 사전학습 언어모델과 언어학정보 / 2021년 담화인지언어학회 춘계학술대회논문집 :175~190 dbpia Belinkov, Yonatan / 2021 / Probing classifiers: Promises, shortcomings, and alternatives / arXiv:2102.12452v2 google schola Bender, Emily M. / 2021 / On the dangers of stochastic parrots: Can language models be too big? / FAccT '21: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency google schola

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

BERT 기반 욕설 필터링 및 GPT 기반 감성 대화 챗봇 개발
최안준 한국지능정보시스템학회 학술대회논문집 2022 .11
자연어처리 모델의 예측 편향, 어디에서 왔을까?
박건우 정보과학회지 2022 .11
GPT-3를 활용한 시나리오 생성 보조 시스템
조동하 ,  전이슬 ,  문미경 한국컴퓨터정보학회 학술발표논문집 2022 .07
GPT3는 공감 대화를 생성할 수 있는가? 공감 대화 생성에서 제로샷 능력에 관하여
이영준 ,  한승호 ,  최호진 한국정보과학회 학술발표논문집 2022 .06
감성 및 감정 단어 마스킹 기반 BERT와 GPT 파이프라인 방식을 통한 감정 문장 생성
이원민 ,  온병원 한국정보기술학회논문지 2021 .09

최근 본 자료

전체보기

댓글(0)

0

UCI(KEPA) : I410-ECN-0101-2022-701-000067794