지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2024.8
- 수록면
- 645 - 653 (9page)
- DOI
- 10.5139/JKSAS.2024.52.8.645
이용수
초록· 키워드
오류제보하기
본 논문에서는 실시간 비행 제어 데이터 예측을 위해서 트랜스포머 기반 딥러닝 모델에 대한 경량화 기법을 제안한다. 대규모 크기의 트랜스포머 기반 모델은 다양한 분야에서 우수한 성능을 보여주고 있지만, 많은 메모리와 연산량을 요구하여 현장에서 쉽게 활용하기 어렵다는 한계점을 가지고 있다. 이를 개선하기 위해서 네트워크의 구조 변형과 전정화 기법을 활용하여 모델을 경량화한다. 전자는 모델의 구조를 병목형태로 변형하여 데이터 크기를 축소하는 방식이며, 후자는 멀티 헤드 어텐션 블록에 전정화를 적용하여 연산량을 감소시킨다. 이러한 경량화 기법을 모델에 직접 적용한 후, 예측 성능 및 학습 파라미터 수의 변화를 비교 분석한다. 이를 통하여 하드웨어에 대한 제약조건을 완화하고, 나아가 딥러닝 기반 실시간 이상 탐지 연구에 활용하여 비행 시스템의 안전성 증가 효과를 기대한다.
목차
ABSTRACT
초록
Ⅰ. 서론
Ⅱ. 배경 이론
Ⅲ. 모델 경량화
Ⅳ. 학습 및 연구 결과
Ⅴ. 결론
References
참고문헌 (13)
참고문헌 신청
Lee, H., Li, G., Rai, A. and Chattopadhyay, A., “Real-time anomaly detection framework using a support vector regression for the safety monitoring of commercial aircraft,” Advanced Engineering Informatics, Vol. 44, April 2020.
Lee, H., Puranik, T. G. and Mavris, D. N., “Deep spatio-temporal neural networks for risk prediction and decision support in aviation operations,” Journal of Computing and Information Science in Engineering, Vol. 21, No. 4, 2021, pp. 1~21.
Zeng, W., Quan, Z., Zhao, Z., Xie, C. and Lu, X., “A deep learning approach for aircraft trajectory prediction in terminal airspace,” IEEE Access, Vol. 8, 2020, pp. 151250~151266.
Ma, L. and Tian, S., “A hybrid CNN-LSTM model for aircraft 4D trajectory prediction,” IEEE access, Vol. 8, 2020, pp. 134668~134680.
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaise, L. and Polosukhin, I., “Attention is all you need,” Advances in neural information processing systems, Vol. 30, 2017, pp. 5998~6008.
Lee, H., Puranik, T. G. and Mavris, D. N., “Deep spatio-temporal neural networks for risk prediction and decision support in aviation operations,” Journal of Computing and Information Science in Engineering, Vol. 21, No. 4, 2021, pp. 1~21.
Zeng, W., Quan, Z., Zhao, Z., Xie, C. and Lu, X., “A deep learning approach for aircraft trajectory prediction in terminal airspace,” IEEE Access, Vol. 8, 2020, pp. 151250~151266.
Ma, L. and Tian, S., “A hybrid CNN-LSTM model for aircraft 4D trajectory prediction,” IEEE access, Vol. 8, 2020, pp. 134668~134680.
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaise, L. and Polosukhin, I., “Attention is all you need,” Advances in neural information processing systems, Vol. 30, 2017, pp. 5998~6008.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
트랜스포머를 활용한 시계열 비행 데이터 예측
한국항공우주학회 학술발표회 초록집
2023 .04
-
트랜스포머 모델의 경량화
전자공학회지
2023 .02
-
구조적 주의집중 헤드 가지치기 기반 트랜스포머 모델 경량화
한국정보과학회 학술발표논문집
2024 .06
-
딥러닝의 예측 강건성 측면에서의 모델 경량화 효과 연구
대한산업공학회 춘계공동학술대회 논문집
2021 .06
-
지식 증류 기법을 사용한 트랜스포머 기반 초해상화 모델 경량화 연구
방송공학회논문지
2023 .05
-
딥 러닝 모델의 경량화 기술 동향
정보과학회지
2020 .08
-
경량 딥러닝 기술 동향
[ETRI] 전자통신동향분석
2019 .04
-
LSTM 기반 딥러닝 모델을 이용한 비행 데이터 예측 기법
한국항공우주학회 학술발표회 초록집
2021 .11
-
탄소저감활동 이미지 분류를 위한 딥러닝 기반 경량화 모델
한국정보과학회 학술발표논문집
2023 .06
-
사용자 단말 방향 정보를 이용한 트랜스포머 기반 빔 예측기법
한국통신학회 학술대회논문집
2025 .02
-
한국어-영어 기계 번역에 대한 Transformer 모델 경량화의 영향 분석
대한전자공학회 학술대회
2024 .06
-
메모리 접근 효율을 고려한 트랜스포머 기반 모델들의 데이터 압축률 분석
대한전자공학회 학술대회
2024 .06
-
대규모 언어모델 경량화를 위한 모듈 단위 가지치기
한국정보과학회 학술발표논문집
2024 .06
-
경량화 기법을 적용한 트랜스포머 기반의 한국어 음성인식 연구
한국통신학회 학술대회논문집
2021 .11
-
Transformer-based Photovoltaics Power Prediction Model Utilizing Multiple Weather Forecasts
한국태양에너지학회 학술대회논문집
2023 .11
-
UAV 통신을 위한 멀티모달 센싱 기반 빔 예측
한국통신학회논문지
2024 .09
-
임베디드 장치를 위한 딥러닝 모델 경량화 연구
한국정보통신학회 종합학술대회 논문집
2024 .10
-
Pruning 기반 알고리즘 경량화 기법의 성능 최적화 연구 동향
대한전자공학회 학술대회
2024 .11
-
트랜스포머 기반 탄소 집약도 예측
한국정보과학회 학술발표논문집
2024 .06
-
회귀분석과 딥러닝의 예측 정확성에 대한 비교 그리고 딥러닝 모델 최적화를 위한 기법들의 중요성에 대한 실증적 분석
한국전자통신학회 논문지
2023 .04
이 논문의 저자 정보
이 논문과 함께 이용한 논문
First-Order 기법을 적용한 최적 천이 궤적 설계
김윤중
,
최지우
,
김종한
한국항공우주학회 학술발표회 초록집
2024
.04
순차 컨벡스 최적화 기법을 이용한 최적 위성체 자세 명령 산출
신재형
,
최진
,
김윤중
외 3명
한국항공우주학회 학술발표회 초록집
2024
.04
편대 비행 궤적 최적화를 위한 분산 최적화 기법
김동욱
,
박규빈
,
김종한
한국항공우주학회 학술발표회 초록집
2024
.04
우주비행체의 재진입을 위한 천이 궤적 최적화
김윤중
,
조준현
,
김종한
한국항공우주학회 학술발표회 초록집
2023
.06
선형 자기회귀모델을 활용한 시계열 비행 데이터 예측 방법
최지우
,
전호영
,
조준현
외 1명
한국항공우주학회 학술발표회 초록집
2022
.11
최근 본 자료
댓글(0)
0