지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2022.10
- 수록면
- 975 - 986 (12page)
이용수
초록· 키워드
오류제보하기
딥러닝은 이미지 처리에 있어 우수한 성능을 보여주며 큰 주목을 받고 있지만, 입력 데이터에 대한 변조를 통해 모델이 오분류하게 만드는 적대적 공격에 매우 취약하다. 적대적 공격을 통해 생성된 적대적 예제는 사람이 식별하기 어려울 정도로 최소한으로 변조가 되며 이미지의 전체적인 시각적 특징은 변하지 않는다. 딥러닝 모델과 달리 사람은 이미지의 여러 특징을 기반으로 판단하기 때문에 적대적 예제에 속지 않는다. 본 논문은 이러한 점에 착안하여 이미지의 색상, 모양과 같은 시각적이고 상징적인 특징인 Symbolic Representation을 활용한 적대적 예제 탐지방법을 제안한다. 입력 이미지에 대한 분류결과에 대응하는 Symbolic Representation과 입력 이미지로부터 추출한 Symbolic Representation을 비교하여 적대적 예제를 탐지한다. 다양한 방법으로 생성한 적대적 예제를 대상으로 탐지성능을 측정한 결과, 공격 목표 및 방법에 따라 상이하지만 specific target attack에 대하여 최대 99.02%의 탐지율을 보였다.
목차
요약
ABSTRACT
I. 서론
II. 배경 및 관련 연구
III. Symbolic Representation 기반 적대적 예제 탐지 방법
IV. 실험 및 실험 결과
V. 고찰
VI. 결론
References
참고문헌 (24)
참고문헌 신청
G. Ryu and D. Choi, “A Research Trends in Artificial Intelligence Security Attacks and Countermeasures,” Review of KIISC, 30(5), pp. 93-99, Oct. 2020.
M. Xue, C. Yuan, H. Wu, Y. Zhang and W. Liu, “Machine learning security: Threats, countermeasures, and evaluations.”, IEEE Access, Vol. 8, pp. 74720-74742, April, 2020.
C. Yang, Q. Wu, H. Li, and Y. Chen, “Generative poisoning attack methodagainst neural networks,’’ arXiv preprint arXiv:1703.01340. March, 2017
L. Munoz-Gonzalez, B. Biggio, A. Demontis, A. Paudice,V. Wongrassamee, E. C. Lupu, and F. Roli, ‘‘Towards poisoning of deep learning algorithms with back-gradient optimization,’’ in Proc. 10thACM Workshop Artif. Intell. Secur. AISec, pp. 27–38, Aug, 2017
X. Chen, C. Liu, B. Li, K. Lu, and D. Song, ‘‘Targeted backdoor attacks on deep learning systems using data poisoning,’’ arXiv preprint arXiv:1712.05526. Dec, 2017
M. Xue, C. Yuan, H. Wu, Y. Zhang and W. Liu, “Machine learning security: Threats, countermeasures, and evaluations.”, IEEE Access, Vol. 8, pp. 74720-74742, April, 2020.
C. Yang, Q. Wu, H. Li, and Y. Chen, “Generative poisoning attack methodagainst neural networks,’’ arXiv preprint arXiv:1703.01340. March, 2017
L. Munoz-Gonzalez, B. Biggio, A. Demontis, A. Paudice,V. Wongrassamee, E. C. Lupu, and F. Roli, ‘‘Towards poisoning of deep learning algorithms with back-gradient optimization,’’ in Proc. 10thACM Workshop Artif. Intell. Secur. AISec, pp. 27–38, Aug, 2017
X. Chen, C. Liu, B. Li, K. Lu, and D. Song, ‘‘Targeted backdoor attacks on deep learning systems using data poisoning,’’ arXiv preprint arXiv:1712.05526. Dec, 2017
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
선형 판별 분석 및 k-means 알고리즘을 이용한 적대적 공격 유형 분류 방안
정보보호학회논문지
2021 .12
-
데이터 예측 클래스 기반 적대적 공격 탐지 및 분류 모델
정보보호학회논문지
2021 .12
-
Adversarial Sparsity Mapping Network to Defense Against Adversarial Attacks
Proceedings of KIIT Conference
2021 .06
-
Current Research Trends in Attacking Deep Learning Using Adversarial Examples
Journal of KIISE
2022 .05
-
적대적 공격의 전이성 향상을 위한 이미지 왜곡 기법
전자공학회논문지
2022 .10
-
산업 제어 시스템의 이상 탐지 모델에 대한 적대적 예제 공격 및 대응
한국정보과학회 학술발표논문집
2023 .06
-
Advanced Generative Adversarial Defense Model using Instance Sparsity Mapping Network
한국정보기술학회논문지
2021 .08
-
카메라 시점 변환을 이용한 전이 기반 적대적 공격 기법
전자공학회논문지
2022 .07
-
영상 인식을 위한 딥러닝 모델의 적대적 공격에 대한 백색 잡음 효과에 관한 연구
한국정보전자통신기술학회 논문지
2022 .02
-
적대적 공격 및 방어 기술의 성능 향상을 위한 역방향 적대적 데이터 생성 연구
정보보호학회논문지
2024 .10
-
적대적 공격을 방어하기 위한 StarGAN 기반의 탐지 및 정화 연구
정보보호학회논문지
2023 .06
-
얼굴 인식 모델에 대한 질의 효율적인 블랙박스 적대적 공격 방법
정보보호학회논문지
2022 .12
-
질의 효율적인 의사 결정 공격을 통한 오디오 적대적 예제 생성 연구
정보보호학회논문지
2022 .02
-
AI 모델의 적대적 공격 대응 방안에 대한 연구
한국컴퓨터정보학회 학술발표논문집
2023 .07
-
적대적 공격에 강건한 특징 중요도 기반 계층적 네트워크 이상탐지 방법
한국통신학회 인공지능 학술대회 논문집
2023 .09
-
적대적 학습과 적대적 강건성 사이의 연관성
한국정보과학회 학술발표논문집
2020 .12
-
Generating Counterfactual Examples through Generating Adversarial Examples
Journal of KIISE
2022 .12
-
High Representation based GAN defense for Adversarial Attack
International journal of advanced smart convergence
2019 .01
-
강화학습 모델에 대한 적대적 공격과 이미지 필터링 기법을 이용한 대응 방안
정보보호학회논문지
2024 .10
-
적대적 공격에 견고한 Perceptual Ad-Blocker 기법
정보보호학회논문지
2020 .10
이 논문의 저자 정보
최근 본 자료
댓글(0)
0