메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
장동준 (서울대학교) 김은진 (서울대학교) 신효필 (서울대학교)
저널정보
한국언어학회 언어 언어 제47권 제4호
발행연도
2022.12
수록면
829 - 855 (27page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
Recently, many studies endeavor to reveal the intrinsic nature of BERT, since transformer-based language models have achieved the state-of-the-art in many natural language understanding tasks. However, it is still hard to probe BERT’s universal linguistic properties since different probing methods lead to fluctuating results between tasks and models. Thus, this paper suggests Affinity Prober, which is a flexible task- and model-agnostic probing method to investigate transformer-based language model’s decision boundaries when processing linguistic phenomena. Affinity Prober is designed to investigate potential linguistic knowledge from the Self Attention Mechanism. Using Affinity Prober, the study examines whether a bert-base-cased model has any explainable decision boundaries on sentence acceptability in terms of a lexical category in English. The results in syntactic phenomena show that the Affinity Relationship between function words is reinforced in the upper layers, while the Affinity Relationship between content words plays a key role in semantic phenomena. The study concludes that Affinity Prober is helpful to analyze the model’s decision boundary with lexical categories on specific linguistic phenomena.
#Transformer #BERT #Self Attention #Minimal pair #Linguistic acceptability

목차

1. 서론
2. 사전 연구
3. Affinity Prober
4. 수용성 최소 대립쌍 내 내용어와 기능어 간 친밀관계 실험
5. 실험 결과
6. 결론
참고문헌

참고문헌 (0)

참고문헌 신청
참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

발명 특허 - 디자인 특허 융합 분석을 통한 기술기회 발굴 지원 방법론
송기식 ,  안재형 ,  박상영 외 2명 대한산업공학회지 2023 .10
한국어 특허 문장 기반 CPC 자동분류 연구 - 인공지능 언어모델 KorPatBERT를 활용한 딥러닝 기법 접근 -
박진우 ,  심우철 ,  이상헌 외 2명 지식재산연구 2022 .09
특허 네트워크 분석을 통한 기술융합 및 융합기술의 확산 연구 —디지털 데이터 처리 기술 중심으로—
전상규 지식재산연구 2021 .12
기술테마 분석을 통한 기술기회발굴 연구 -3D 프린팅 기술 사례를 중심으로-
서원철 지식재산연구 2021 .06
CPC 기반 특허 기술 분류 분석 모델
채수현 ,  김장원 한국콘텐츠학회논문지 2018 .10

최근 본 자료

전체보기

댓글(0)

0