지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술대회자료
- 저자정보
- 발행연도
- 2023.7
- 수록면
- 541 - 544 (4page)
이용수
초록· 키워드
오류제보하기
LLM(Largescale Language Model)의 성능 향상을 위한 비용 효율적인 방법으로 ChatGPT, GPT-4와 같은 초거대 모델의 output에 대해 SLM(Small Language Model)을 finetune하는 방법이 주목받고 있다. 그러나, 이러한 접근법은 주로 범용적인 지시사항 모델을 위한 학습 방법으로 사용되며, 제한된 특정 도메인에서는 추가적인 성능 개선의 여지가 있다. 본 연구는 특정 도메인(Writing Assistant)에서의 성능 향상을 위한 새로운 방법인 Self-Guided Approach를 제안한다.
Self-Guided Approach는 (1) LLM을 활용해 시드 데이터에 대해 도메인 특화된 metric(유용성, 관련성, 정확성, 세부사항의 수준별) 점수를 매기고, (2) 점수가 매겨진 데이터와 점수가 매겨지지 않은 데이터를 모두 활용하여 supervised 방식으로 SLM을 미세 조정한다. Vicuna에서 제안된 평가 방법인, GPT-4를 활용한 자동평가 프레임워크를 사용하여 Self-Guided Approach로 학습된 SLM의 성능을 평가하였다.
평가 결과 Self-Guided Approach가 Self-instruct, alpaca와 같이, 생성된 instruction 데이터에 튜닝하는 기존의 훈련 방법에 비해 성능이 향상됨을 확인했다. 다양한 스케일의 한국어 오픈 소스 LLM(Polyglot1.3B, PolyGlot3.8B, PolyGlot5.8B)에 대해서 Self-Guided Approach를 활용한 성능 개선을 확인했다. 평가는 GPT-4를 활용한 자동 평가를 진행했으며, Korean Novel Generation 도메인의 경우, 테스트 셋에서 4.547점에서 6.286점의 성능 향상이 발생했으며, Korean scenario Genration 도메인의 경우, 테스트 셋에서 4.038점에서 5.795 점의 성능 향상이 발생했으며, 다른 유사 도메인들에서도 비슷한 점수 향상을 확인했다.
Self-Guided Approach의 활용을 통해 특정 도메인(Writing Assistant)에서의 SLM의 성능 개선 가능성을 확인했으며 이는 LLM에 비용부담을 크게 줄이면서도 제한된 도메인에서 성능을 유지하며, LLM을 활용한 응용 서비스에 있어 실질적인 도움을 제공할 수 있을 것으로 기대된다.
Self-Guided Approach는 (1) LLM을 활용해 시드 데이터에 대해 도메인 특화된 metric(유용성, 관련성, 정확성, 세부사항의 수준별) 점수를 매기고, (2) 점수가 매겨진 데이터와 점수가 매겨지지 않은 데이터를 모두 활용하여 supervised 방식으로 SLM을 미세 조정한다. Vicuna에서 제안된 평가 방법인, GPT-4를 활용한 자동평가 프레임워크를 사용하여 Self-Guided Approach로 학습된 SLM의 성능을 평가하였다.
평가 결과 Self-Guided Approach가 Self-instruct, alpaca와 같이, 생성된 instruction 데이터에 튜닝하는 기존의 훈련 방법에 비해 성능이 향상됨을 확인했다. 다양한 스케일의 한국어 오픈 소스 LLM(Polyglot1.3B, PolyGlot3.8B, PolyGlot5.8B)에 대해서 Self-Guided Approach를 활용한 성능 개선을 확인했다. 평가는 GPT-4를 활용한 자동 평가를 진행했으며, Korean Novel Generation 도메인의 경우, 테스트 셋에서 4.547점에서 6.286점의 성능 향상이 발생했으며, Korean scenario Genration 도메인의 경우, 테스트 셋에서 4.038점에서 5.795 점의 성능 향상이 발생했으며, 다른 유사 도메인들에서도 비슷한 점수 향상을 확인했다.
Self-Guided Approach의 활용을 통해 특정 도메인(Writing Assistant)에서의 SLM의 성능 개선 가능성을 확인했으며 이는 LLM에 비용부담을 크게 줄이면서도 제한된 도메인에서 성능을 유지하며, LLM을 활용한 응용 서비스에 있어 실질적인 도움을 제공할 수 있을 것으로 기대된다.
목차
요약
Ⅰ. Introduction
Ⅱ. Related Works
Ⅲ. The Proposed Scheme
Ⅳ. Experiment
Ⅴ. Conclusions
REFERENCES
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
KULLM: Learning to Construct Korean Instruction-Following Large Language Models
Journal of KIISE
2024 .09
-
Korean Semantic Role Labeling Using Domain Adaptation Technique
Journal of KIISE
2015 .04
-
도메인 특수성이 도메인 특화 사전학습 언어모델의 성능에 미치는 영향
지능정보연구
2022 .12
-
Robust Korean Table Machine Reading Comprehension across Various Domains
Journal of KIISE
2023 .12
-
기억재현 지속학습을 활용한 다중 도메인 응답 생성
정보과학회 컴퓨팅의 실제 논문지
2022 .03
-
앙상블 다이버시티를 이용한 RAG-LLM 응답 성능 향상
한국정보통신학회논문지
2024 .08
-
[권두언] “대형 언어 모델”특집을 내면서
정보과학회지
2023 .11
-
클러스터 일관성을 기반으로 한 비지도 도메인 적응 사람 재인식
한국방송미디어공학회 학술발표대회 논문집
2020 .11
-
객체 검출을 위한 도메인 기반의 모델 학습 프레임워크
한국정보과학회 학술발표논문집
2021 .06
-
LLM 기반 국가 정책 질의응답 시스템 성능 향상을 위한 Instruct Tuning 구현에 관한 연구
한국통신학회 학술대회논문집
2025 .02
-
딥러닝 기반의 도메인 적응 기술: 서베이
방송공학회논문지
2022 .07
-
LLM 답변 향상을 위한 검색 기반 생성 기법: GPT3.5, GPT4의 Zero-shot, RAG 비교 연구
한국정보통신학회 종합학술대회 논문집
2023 .10
-
TIME-LLM 모델을 활용한 국내 전기계량 데이터 활용 연구
전자공학회논문지
2024 .09
-
자원 효율적 LLM 시스템을 위한 Attention 알고리즘별 성능 분석
한국정보과학회 학술발표논문집
2024 .06
-
전력산업에서 대규모 언어 모델(LLM) 활용 방향에 관한 연구
한국통신학회논문지
2025 .02
-
심층 강화학습의 일반화를 위한 보상 기반 대조학습
한국정보과학회 학술발표논문집
2021 .06
-
대형 언어 모델(LLM)을 활용한 선박 자동화 시스템의 제어 로직 설계 방법에 관한 연구
대한전기학회 학술대회 논문집
2024 .10
-
시계열 데이터 분류에 대한 도메인 일반화 기법 비교 연구
대한산업공학회 추계학술대회 논문집
2023 .11
-
LLM 기반 평가지표에 대한 Prompt 전략 성능 비교
대한산업공학회 추계학술대회 논문집
2023 .11
-
창의적 콘텐츠 생성에서 GPT-4의 성능 평가: 인간 작성물과의 비교 연구
디지털콘텐츠학회논문지
2024 .09
이 논문의 저자 정보
이 논문과 함께 이용한 논문
Encoder-Decoder 및 LLM을 활용한 2단계 한국어 문서 요약
박주혜
,
김원철
,
이웅기
외 3명
한국통신학회 인공지능 학술대회 논문집
2023
.09
적응적 인공지능 활용 통신 시스템을 위한 전이 학습 및 메타학습 기술의 다방면으로의 적용 연구 동향
윤지석
,
이강현
,
박세웅
한국통신학회 학술대회논문집
2022
.06
BERT 기반의 사전 학습 언어 모형을 이용한 한국어 문서 추출 요약 베이스라인 설계
박재언
,
김지호
,
이홍철
한국정보기술학회논문지
2022
.06
대규모 언어 모델을 사용한 제로샷 한국어 감성 분석: 사전 학습된 언어 모델과의 비교
권순찬
,
이동희
,
장백철
한국컴퓨터정보학회논문지
2024
.02
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-ECN-0102-2023-004-001641598