지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술대회자료
- 저자정보
- 발행연도
- 2022.11
- 수록면
- 1,611 - 1,614 (4page)
이용수
초록· 키워드
오류제보하기
After deep learning appeared, the convolutional neural network (CNN) dominated various applications of image classification, object detection, and semantic segmentation. Recently, a transformer based on various attention mechanisms performed better than the CNN. But, the transformer requires a large amount of memory for full attention among tokens. Recently, a Swin transformer has been proposed to solve that memory issue. It applies the attention per sub-regions on an image. Also, it solves a problem caused by not using full attention on an image by shifting window that guarantees more tokens are involved in attention. In this paper, we investigate a method of randomly selecting tokens in Swin transformer. We randomly choose tokens within a certain range rather than using a fixed shift value in the Swin transformer. Experimental results show the feasibility of the proposed method.
목차
Abstract
1. INTRODUCTION
2. RANDOM SWIN TRANSFORMER
3. EXPERIMENTAL RESULTS
4. CONCLUSION
REFERENCES
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
Swin Transformer 기반 다초점 디스플레이 이미지 생성
대한전자공학회 학술대회
2024 .11
-
헤드의 중요도를 기반으로 한 Swin Transformer 경량화 연구
한국통신학회 학술대회논문집
2022 .06
-
Video Swin Transformer를 이용한 비접촉 심박수 추정 알고리즘 개발
대한전자공학회 학술대회
2023 .06
-
Infrared Pedestrian Dataset Training using Swin Transformer model
제어로봇시스템학회 국제학술대회 논문집
2022 .11
-
멀티모달 Swin Transformer 를 이용한 실시간 경두개 집속 초음파 시뮬레이션
한국통신학회 학술대회논문집
2024 .06
-
경량 Convolution 기반 Swin Transformer를 이용한 얼굴 이미지 초해상화 방법
한국방송미디어공학회 학술발표대회 논문집
2024 .06
-
Swin Transformer를 이용한 항공사진에서 다중클래스 차량 검출
한국정보통신학회 종합학술대회 논문집
2021 .10
-
C-Swin UNETR: 3D 의료 영상 분할을 위한 채널 어텐션이 적용된 Swin Transformer
한국정보과학회 학술발표논문집
2023 .06
-
계층 간 Residual Connection을 적용한 Swin Transformer 성능 개선 연구
한국자동차공학회 춘계학술대회
2023 .05
-
자기 지도 사전 학습 Swin UNETR 모델을 이용한 3차원 체성분 분할
대한전자공학회 학술대회
2023 .06
-
Comparative Performance of CNN and Transformer Architectures in Infrared Small Target Detection
제어로봇시스템학회 국제학술대회 논문집
2023 .10
-
열화상 영상을 활용한 CNN-Transformer 네트워크의 공장 설비 이상 진단 방법
전자공학회논문지
2023 .03
-
변압기 효율 적정화를 위한 변압기 부하율 조사 및 추정
조명·전기설비학회논문지
2016 .01
-
From the Solid-State-Transformer (SST) to the Smart Transformer
ICPE(ISPE)논문집
2019 .05
-
변압기의 파라미터 추출과 전기적 모델링 방법에 관한 연구
조명·전기설비학회논문지
2017 .05
-
Swin Transformer와 샴 네트워크를 활용한 도시 가로경관의 범죄불안감 예측
대한공간정보학회 학술대회
2024 .10
-
Core-token Attention: 토큰 프루닝 기반 셀프 어텐션 경량화 메커니즘
대한전자공학회 학술대회
2022 .06
-
지도 attention 을 이용한 한국어 Transformer 음성 합성에 관한 연구
한국통신학회 학술대회논문집
2020 .08
-
Transformer와 CNN을 활용한 딥러닝 기반 의료 영상 분할 방법
대한산업공학회 춘계공동학술대회 논문집
2022 .06
-
저압계통 연계력을 고려한 지상변압기 용량증가에 따른 이용률 분석에 관한 연구
전기학회논문지 P
2021 .09
이 논문의 저자 정보
최근 본 자료
댓글(0)
0