지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2024.10
- 수록면
- 1,047 - 1,057 (11page)
이용수
초록· 키워드
오류제보하기
최근 심층 신경망을 이용한 강화학습 모델들이 자율주행, 스마트 팩토리, 홈 네트워크 등 다양한 첨단 산업 분야에 사용되고 있으나 적대적 공격(adversarial attacks)에 취약하다는 것이 밝혀졌다. 본 논문에서는 강화학습 기반의 딥러닝 모델인 DQN과 PPO를 자율주행 가상환경 HighwayEnv에 적용하여 FGSM(Fast Gradient Sign Method), BIM(Basic Iterative Method), PGD(Projected Gradient Descent) 그리고 CW(Carlini and Wagner)을 이용하여 적대적 공격을 수행하였다. 적대적 공격에 대응하기 위해 양방향 필터(bilateral filter) 알고리즘을 사용하여 적대적 이미지의 잡음을 제거함으로써 강화학습 기반의 딥러닝 모델들이 정상적으로 작동할 수 있는 방법을 제안하였다. 그리고 HighwayEnv 환경에서 에피소드 수행 길이(episode during)의 평균과 에이전트가 획득한 보상(episode reward)의 평균을 성능평가 지표로 사용하여 공격의 성능을 평가하였다. 실험 결과 양방향 필터를 통해 적대적 이미지의 잡음을 제거한 결과, 적대적 공격이 수행되기 이전의 성능을 유지할 수 있음을 보였다.
목차
요약
ABSTRACT
I. 서론
II. 관련 연구
III. 양방향 필터를 이용한 적대적 공격 대응
IV. 적대적 공격 실험 및 대응 방안
V. 결론
References
참고문헌 (19)
참고문헌 신청
R. S. Sutton and A. G. Barto. “Reinforcement Learning: An Introduction,” 2nd ed. MIT Press, 2018.
Y. C. Lin, Z.W. Hong, Y. H. Liao, M. L. Shih, M. Y. Liu, and M. Sun, ‘‘Tactics of adversarial attack on deep reinforcement learning agents,’’ in Proc. Int. Joint Conf. Artif. Intell. (IJCAI), 2017, pp. 3756–3762.
S. S. Zheng, Y. Song, T. Leung and I. Goodfellow, "Improving the robustness of deep neural networks via stability training," IEEE Conference on Computer Vision and Pattern Recognition(CVPR’16), pp. 4480-4488, 2016.
W. Zhao, S. Alwidian and Q. H. Mahmoud, “Adversarial Training Methods for Deep Learning: A Systematic Review,” Journal of Algorithms, Vol. 15, Issue 8(283), 2022.
W. Xu, D. Evans, and Y. Qi, “Feature squeezing:Detecting adversarial examples in deep neural networks,” Network and Distributed System-Security Symposium(NDSS’18), 2018.
Y. C. Lin, Z.W. Hong, Y. H. Liao, M. L. Shih, M. Y. Liu, and M. Sun, ‘‘Tactics of adversarial attack on deep reinforcement learning agents,’’ in Proc. Int. Joint Conf. Artif. Intell. (IJCAI), 2017, pp. 3756–3762.
S. S. Zheng, Y. Song, T. Leung and I. Goodfellow, "Improving the robustness of deep neural networks via stability training," IEEE Conference on Computer Vision and Pattern Recognition(CVPR’16), pp. 4480-4488, 2016.
W. Zhao, S. Alwidian and Q. H. Mahmoud, “Adversarial Training Methods for Deep Learning: A Systematic Review,” Journal of Algorithms, Vol. 15, Issue 8(283), 2022.
W. Xu, D. Evans, and Y. Qi, “Feature squeezing:Detecting adversarial examples in deep neural networks,” Network and Distributed System-Security Symposium(NDSS’18), 2018.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
Adversarial Sparsity Mapping Network to Defense Against Adversarial Attacks
Proceedings of KIIT Conference
2021 .06
-
데이터 예측 클래스 기반 적대적 공격 탐지 및 분류 모델
정보보호학회논문지
2021 .12
-
영상 인식을 위한 딥러닝 모델의 적대적 공격에 대한 백색 잡음 효과에 관한 연구
한국정보전자통신기술학회 논문지
2022 .02
-
선형 판별 분석 및 k-means 알고리즘을 이용한 적대적 공격 유형 분류 방안
정보보호학회논문지
2021 .12
-
Advanced Generative Adversarial Defense Model using Instance Sparsity Mapping Network
한국정보기술학회논문지
2021 .08
-
AI 모델의 적대적 공격 대응 방안에 대한 연구
한국컴퓨터정보학회 학술발표논문집
2023 .07
-
적대적 공격 및 방어 기술의 성능 향상을 위한 역방향 적대적 데이터 생성 연구
정보보호학회논문지
2024 .10
-
카메라 시점 변환을 이용한 전이 기반 적대적 공격 기법
전자공학회논문지
2022 .07
-
Analysis of Vulnerabilities in Autonomous Driving Environments through Physical Adversarial Attacks Incorporating Natural Elements
Journal of KIISE
2024 .10
-
인공지능 기반 자율주행 네트워크의 적대적 공격 방법
한국통신학회 학술대회논문집
2023 .02
-
Current Research Trends in Attacking Deep Learning Using Adversarial Examples
Journal of KIISE
2022 .05
-
적대적 머신러닝 공격과 방어기법
한국컴퓨터정보학회 학술발표논문집
2023 .07
-
얼굴 인식 모델에 대한 질의 효율적인 블랙박스 적대적 공격 방법
정보보호학회논문지
2022 .12
-
Effective Robustness Improvement in Medical Image Segmentation : Adversarial Noise Removal by the Input Transform Method
Journal of KIISE
2023 .10
-
적대적 학습과 적대적 강건성 사이의 연관성
한국정보과학회 학술발표논문집
2020 .12
-
질의 효율적인 의사 결정 공격을 통한 오디오 적대적 예제 생성 연구
정보보호학회논문지
2022 .02
-
적대적 취약성 다양화를 통한 적대적 전이성 향상
대한전자공학회 학술대회
2022 .06
-
적대적 공격에 대한 방어의 효율성 향상
한국정보과학회 학술발표논문집
2024 .06
-
컴퓨터 비전 분야의 적대적 공격 기술 연구 동향
정보과학회지
2021 .08
-
이미지의 Symbolic Representation 기반 적대적 예제 탐지 방법
정보보호학회논문지
2022 .10
이 논문과 함께 이용한 논문
KL 발산 기반의 적대적 공격을 통한 딥페이크 생성 방해
고영민
,
박현수
,
박진선
대한전자공학회 학술대회
2024
.11
인공지능을 속이는 방법
편집부
Popular Science
2016
.08
적대적 머신러닝 공격과 방어기법
이제민
,
박재경
한국컴퓨터정보학회 학술발표논문집
2023
.07
적대적 공격의 전이성 향상을 위한 이미지 왜곡 기법
손민지
,
권명준
,
조승주
외 1명
전자공학회논문지
2022
.10
혼합 이미지를 통한 보편적 적대적 섭동의 공격 성공률 향상
김희선
,
변준영
,
손민지
외 1명
대한전자공학회 학술대회
2022
.06
최근 본 자료
댓글(0)
0