지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학위논문
- 저자정보
- 지도교수
- 손승우
- 발행연도
- 2023
- 저작권
- 한양대학교 논문은 저작권에 의해 보호받습니다.
이용수0
이 논문의 연구 히스토리 (2)
- 이 논문의 후속연구가 궁금하신가요?
- 연관 학술논문 또는 학술발표를 통해 보다 발전된 연구결과를 확인하실 수 있습니다.
- 이 논문의 연구 히스토리 확인하기
초록· 키워드
오류제보하기
서비스 운영주체가 사용자들 각각에 맞는 제품을 추천하기 위해서 개개인의 특징을 아는 것은 중요하다. 사용자의 특징이라 불릴 수 있는 요소들은 성격, 사회계층, 취미 등이 존재한다. 서비스 운영주체는 사용자의 특징을 파악하여 기능을 개선하거나 개인화된 추천 시스템을 발전시키는 데에 이용할 수 있다. 그러나 직접적인 질의응답을 통해 해당 특징들을 파악하는 데에는 데이터를 수집하는 주체에 대한 높은 신뢰 또는 서비스의 대체 불가능성이 담보되어야 한다. 반면, 사용자들은 잠재적 자기표현에 대한 욕구가 존재하고, 많은 경우에서 서비스의 사용 목적이 그것이 되기도 한다. 이러한 자기표현은 주로 텍스트나 이미지의 형태로 표출되고, 자연히 정보제공에 관대한 태도로 이어지게 된다.
본 연구는 다층적 세부조정 (fine-tuning)을 통해 언어적 특성, 인적 특성, 구체적 특성으로 이어지는, 전반적 지식으로부터 단계적으로 구체적 지식을 도출해 내는 방향성을 따른다. 일차적으로 대중적으로 사용되고 있는 거대 언어 모델인 Bi-directional Encoder Representations from Transformers (BERT) [1]를 기반으로 세부 조정 된 Sentence-BERT [2]를 통한 텍스트의 의미론적 정보를 추출한다. 이차적으로 이러한 정보를 통해 알 수 있는 작성자의 인적 특성을 임베딩한다.
연구에서 중점적으로 다루는 인적 특성의 임베딩은 메트릭 학습 (metric learning) 방법론의 일종인 삼중항 손실 (triplet loss) [3]을 통한 학습을 통해 이루어진다. 이는 동일한 사용자가 작성한 텍스트보다 동일하지 않은 사용자가 작성한 텍스트의 임베딩 값이 기준이 되는 텍스트로부터 상대적으로 유클리드 거리 (Euclidean distance)가 멀어지도록 하는 과정으로, 해당 학습과정을 거쳐 유사한 인적 특성을 가진 사람이 작성한 텍스트는 임베딩 공간 내에서 유클리드 거리가 가까워지게 된다.
사회적 그룹, 성별 등의 중요 특성을 가정하는 방법론과는 대조적으로, 텍스트 데이터를 통해 유저 간 구별점을 스스로 찾기 때문에 최종적으로 더 높은 분류 성능을 기대할 수 있다. 또한 측정대상 외의 작성자 라벨을 활용하는 열린 데이터를 모델의 학습에 이용하였고, 해당 모델을 통한 임베딩 공간 상의 라벨 분포를 분석하여 유저 간 유사성에 대한 정성적인 통찰을 이끌어낼 수 있었다.
본 연구는 다층적 세부조정 (fine-tuning)을 통해 언어적 특성, 인적 특성, 구체적 특성으로 이어지는, 전반적 지식으로부터 단계적으로 구체적 지식을 도출해 내는 방향성을 따른다. 일차적으로 대중적으로 사용되고 있는 거대 언어 모델인 Bi-directional Encoder Representations from Transformers (BERT) [1]를 기반으로 세부 조정 된 Sentence-BERT [2]를 통한 텍스트의 의미론적 정보를 추출한다. 이차적으로 이러한 정보를 통해 알 수 있는 작성자의 인적 특성을 임베딩한다.
연구에서 중점적으로 다루는 인적 특성의 임베딩은 메트릭 학습 (metric learning) 방법론의 일종인 삼중항 손실 (triplet loss) [3]을 통한 학습을 통해 이루어진다. 이는 동일한 사용자가 작성한 텍스트보다 동일하지 않은 사용자가 작성한 텍스트의 임베딩 값이 기준이 되는 텍스트로부터 상대적으로 유클리드 거리 (Euclidean distance)가 멀어지도록 하는 과정으로, 해당 학습과정을 거쳐 유사한 인적 특성을 가진 사람이 작성한 텍스트는 임베딩 공간 내에서 유클리드 거리가 가까워지게 된다.
사회적 그룹, 성별 등의 중요 특성을 가정하는 방법론과는 대조적으로, 텍스트 데이터를 통해 유저 간 구별점을 스스로 찾기 때문에 최종적으로 더 높은 분류 성능을 기대할 수 있다. 또한 측정대상 외의 작성자 라벨을 활용하는 열린 데이터를 모델의 학습에 이용하였고, 해당 모델을 통한 임베딩 공간 상의 라벨 분포를 분석하여 유저 간 유사성에 대한 정성적인 통찰을 이끌어낼 수 있었다.
목차
제1장 서 론 1제1절 추천 시스템 (Recommendation System) 1제2절 기초 모델 (Foundational Model) 개념과 거대 언어 모델 3제3절 언어 모델을 통한 인물분석 51. 저자 식별 (Author Attribution) 52. 저자 프로파일링 (Author Profiling) 6제2장 방법론 및 모델 7제1절 모델 설계 및 학습 방법론 71. 문장 임베딩 72. 약지도학습 83. 삼중항 손실 (Triplet Loss) 124. 순환 신경망 (Recurrent Neural Network) 14제2절 블로그 게시글 말뭉치 (Blog Authorship Corpus) 22제3장 결 과 26제1절 저자 식별 26제2절 저자 관심주제에 따른 임베딩 유사성 31제4장 결론 및 토의 34
최근 본 자료
댓글(0)
0