지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2022.12
- 수록면
- 1,011 - 1,020 (10page)
이용수
초록· 키워드
오류제보하기
Recent high-performance panoptic segmentation models are based on transformer architectures. However, transformer-based panoptic segmentation methods are basically slower than convolution-based methods, since the attention mechanism in the transformer requires quadratic complexity w.r.t. image resolution. Also, sine and cosine computation for positional embedding in the transformer also yields a bottleneck for computation time. To address these problems, we adopt three modules to speed up the inference runtime of the transformer-based panoptic segmentation. First, we perform channel-level reduction using depth-wise separable convolution for inputs of the transformer decoder. Second, we replace sine and cosine-based positional encoding with convolution operations, called conv-embedding. We also apply a separable self-attention to the transformer encoder to lower quadratic complexity to linear one for numbers of image pixels. As result, the proposed model achieves 44% faster frame per second than baseline on ADE20K panoptic validation dataset, when we use all three modules.
목차
Abstract
I. Introduction
II. Related works
III. Proposed Methods
IV. Experimental results
V. Conclusion
References
참고문헌 (21)
참고문헌 신청
A. Vaswani, N. Shazeer, N. Parmar, J. Uszkoreit, L. Jones, A. N. Gomez, L. Kaiser, and I. Polosukhin, “Attention is all you need,” in Proc. NIPS, 30, 2017.
J. Yu, Z. Wang, V. Vasudevan, L. Yeung, M. Seyedhosseini, and Y. Wu, “Contrastive Captioners are Image-Text Foundation Models,” arXiv:2205.01917, 2022. doi: https://doi.org/10.48550/arXiv.2205.01917
Y. Wei, H. Hu, Z. Xie, Z. Zhang, Y. Cao, J. Bao, D. Chen, and B. Guo, “Contrastive Learning Rivals Masked Image Modeling in Fine-tuning via Feature Distillation,” arXiv:2205.14141, 2022. doi: https://doi.org/10.48550/arXiv.2205.14141
W. Wang, H. Bao, L. Dong, J. Bjorck, Z. Peng, Q. Liu, K. Aggarwal, O. K. Mohammed, S. Singhal, S. Som, and F. Wei, “BEiT Pretraining for All Vision and Vision-Language Tasks,” arXiv:2208.10442, 2022. doi:https://doi.org/10.48550/arXiv.2208.10442
F. Li, H. Zhang, H. Xu, S. Liu, L. Zhang, L. M. Ni, and H.-Y. Shum, “Towards A Unified Transformer-based Framework for Object Detection and Segmentation,” arXiv:2206.02777, 2022. doi: https://doi.org/10.48550/arXiv.2206.02777
J. Yu, Z. Wang, V. Vasudevan, L. Yeung, M. Seyedhosseini, and Y. Wu, “Contrastive Captioners are Image-Text Foundation Models,” arXiv:2205.01917, 2022. doi: https://doi.org/10.48550/arXiv.2205.01917
Y. Wei, H. Hu, Z. Xie, Z. Zhang, Y. Cao, J. Bao, D. Chen, and B. Guo, “Contrastive Learning Rivals Masked Image Modeling in Fine-tuning via Feature Distillation,” arXiv:2205.14141, 2022. doi: https://doi.org/10.48550/arXiv.2205.14141
W. Wang, H. Bao, L. Dong, J. Bjorck, Z. Peng, Q. Liu, K. Aggarwal, O. K. Mohammed, S. Singhal, S. Som, and F. Wei, “BEiT Pretraining for All Vision and Vision-Language Tasks,” arXiv:2208.10442, 2022. doi:https://doi.org/10.48550/arXiv.2208.10442
F. Li, H. Zhang, H. Xu, S. Liu, L. Zhang, L. M. Ni, and H.-Y. Shum, “Towards A Unified Transformer-based Framework for Object Detection and Segmentation,” arXiv:2206.02777, 2022. doi: https://doi.org/10.48550/arXiv.2206.02777
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
자율 주행을 위한 잡음 강건성: 전천후 환경에서의 인식 향상과 Vision Transformer기반 panoptic segmentation
한국정보과학회 학술발표논문집
2024 .12
-
딥 러닝 기반의 팬옵틱 분할 기법 분석
대한임베디드공학회논문지
2021 .10
-
자율 주행 로봇을 위한 실시간 비디오 Panoptic Segmentation 성능 최적화
대한전자공학회 학술대회
2022 .06
-
변압기 효율 적정화를 위한 변압기 부하율 조사 및 추정
조명·전기설비학회논문지
2016 .01
-
From the Solid-State-Transformer (SST) to the Smart Transformer
ICPE(ISPE)논문집
2019 .05
-
변압기의 파라미터 추출과 전기적 모델링 방법에 관한 연구
조명·전기설비학회논문지
2017 .05
-
저압계통 연계력을 고려한 지상변압기 용량증가에 따른 이용률 분석에 관한 연구
전기학회논문지 P
2021 .09
-
Decision Transformer를 활용한 멀티 태스크 강화학습에서의 트랜스포머 아키텍처 비교 분석
한국통신학회 학술대회논문집
2025 .02
-
Enhancing semantically masked Transformer with local attention for semantic segmentation
한국자동차공학회 춘계학술대회
2024 .06
-
Transformer와 CNN을 활용한 딥러닝 기반 의료 영상 분할 방법
대한산업공학회 춘계공동학술대회 논문집
2022 .06
-
상태 예측을 통해 확장된 Decision Transformer 에 관한 연구
한국통신학회 학술대회논문집
2024 .11
-
이미지 Transformer 기법을 이용한 실내 점군 프로젝션 시맨틱 분할
한국생산제조학회 학술발표대회 논문집
2021 .12
-
동적 위치 갱신을 이용한 트랜스포머 기반의 3차원 개체 분할
제어로봇시스템학회 국내학술대회 논문집
2023 .06
-
실데이터 기반의 수분함유량에 따른 배전용 변압기 상태진단 기술개발에 대한 연구
전기학회논문지
2024 .07
-
Transformer 기반 한국어 음성인식 모델
한국통신학회 학술대회논문집
2020 .02
-
Transformer 모델을 통한 모바일 트래픽 분류
한국통신학회 학술대회논문집
2023 .06
-
A cux on Transformer-based U-NET models for Medical Image Segmentation
대한전자공학회 학술대회
2024 .06
-
자산관리시스템을 위한 변전소 변압기 수명 계산 방법
전기학회논문지
2020 .05
-
아크 용접기 DC-DC 컨버터용 10kW급 평면 변압기의 설계 및 분석
전기학회논문지
2022 .12
-
무인 감시 Transformer
제어로봇시스템학회 논문지
2021 .12
이 논문의 저자 정보
최근 본 자료
댓글(0)
0
UCI(KEPA) : I410-ECN-0101-2023-567-000326116