메뉴 건너뛰기
.. 내서재 .. 알림
소속 기관/학교 인증
인증하면 논문, 학술자료 등을  무료로 열람할 수 있어요.
한국대학교, 누리자동차, 시립도서관 등 나의 기관을 확인해보세요
(국내 대학 90% 이상 구독 중)
로그인 회원가입 고객센터 ENG
주제분류
인문학
인문학 일반 역사학 철학 종교학 어문학 기타 인문학
사회과학
사회과학 일반 경영학 관광학 교육학 군사학 문헌정보학 법학 사회학 신문방송학 심리과학 정치외교학 지리학 행정학 경제학 무역학 인류학 기타 사회과학
자연과학
자연과학 일반 물리학 생물학 생활과학 수학·통계학 천문학 지구과학 화학 기타 자연과학
공학
공학 일반 건축공학 기계공학 산업공학 재료·에너지공학 전기전자공학 조선해양공학 화학공학 컴퓨터학 기타공학
의약학
의학 일반 간호학 수의학 약학 한의학 기초의학 임상의학 기타 의약학
농수해양학
농수해양학 일반 농학 수산학 식품과학 임학 축산학 해상운송학 기타 농수해양학
예술체육학
예술 일반 디자인 미술 미용 사진 음악학 의상 체육 공연매체예술 기타 예술체육학
복합학
학제간연구 과학기술학 뇌인지과학 기술정책 기타 복합학

ENG

추천
검색
질문

논문 기본 정보

자료유형
학술저널
저자정보
이광엽 (Seokyeong University) 문환희 (Seokyeong University) 박태룡 (Seokyeong University)
저널정보
한국전기전자학회 전기전자학회논문지 전기전자학회논문지 제27권 제3호
발행연도
2023.9
수록면
251 - 257 (7page)

이용수

표지
📌
연구주제
📖
연구배경
🔬
연구방법
🏆
연구결과
AI에게 요청하기
추천
검색
질문

초록· 키워드

오류제보하기
본 논문에서는 비전 트랜스포머의 셀프 어텐션이 갖는 지역적 특징 부족을 개선하는 이중 구조 셀프 어텐션 방법을 제안한다. 객체 분류, 객체 분할, 비디오 영상 인식에서 합성곱 신경망보다 연산 효율성이 높은 비전 트랜스포머는 상대적으로 지역적 특징 추출능력이 부족하다. 이 문제를 해결하기 위해 윈도우 또는 쉬프트 윈도우를 기반으로 하는 연구가 많이 이루어지고 있으나 이러한 방법은 여러 단계의 인코더를 사용하여 연산 복잡도의 증가로 셀프 어텐션 기반 트랜스포머의 장점이 약화 된다. 본 논문에서는 기존의 방법보다 locality inductive bias 향상을 위해 self-attention과 neighborhood network를 이용하여 이중 구조 셀프 어텐션을 제안한다. 지역적 컨텍스트 정보 추출을 위한 neighborhood network은 윈도우 구조보다 훨씬 단순한 연산 복잡도를 제공한다. 제안된 이중 구조 셀프 어텐션 트랜스포머와 기존의 트랜스포머의 성능 비교를 위해 CIFAR-10과 CIFAR-100을 학습 데이터를 사용하였으며 실험결과 Top-1 정확도에서 각각 0.63%과 1.57% 성능이 개선되었다.
#Vistion Transformer #locality inductive #self-attention #neighborhood network #context information

목차

Abstract
요약
Ⅰ. 서론
Ⅱ. 비젼 트랜스포머 선행연구
Ⅲ. 제안하는 비전 트랜스포머
Ⅳ. 비젼 트랜스포머 성능측정
Ⅴ. 결론
References

참고문헌 (0)

참고문헌 신청
참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

이 논문과 함께 이용한 논문

딥러닝 기반 의미론적 분할 기법을 통한 건물 자동추출 연구: 모델의 가중치 경중과 전이학습에 따른 정확도 변화 중심으로
유수홍 ,  손홍규 한국측량학회지 2023 .12
[시인의 자선 대표시] 말향고래를 찾아서 - 노래하는 짐승
이건청 열린시학 2010 .09
생성형 AI 기반 교수 · 학습자료 추천 기능 향상을 위한 기법 제안: 질의형 프롬프트 엔지니어링을 중심으로
강민수 ,  전대일 디지털콘텐츠학회논문지 2024 .06
트랜스포머 모델의 확장 : 배열 데이터에 대한 새로운 위치 인코딩 기법
조솔비 ,  김윤주 ,  김소정 외 2명 한국정보과학회 학술발표논문집 2023 .12
가상 현실 데이터셋을 활용한 의미론적 영상 분할 기반 착륙장 인식 기술
김상현 제어로봇시스템학회 논문지 2024 .02

최근 본 자료

전체보기

댓글(0)

0