지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.49 No.12
- 발행연도
- 2022.12
- 수록면
- 1,132 - 1,142 (11page)
- DOI
- 10.5626/JOK.2022.49.12.1132
이용수
초록· 키워드
오류제보하기
인공지능 기술은 많은 편의를 가져다주었지만, 인공지능 모델의 복잡한 구조는 그 작동 원리를 이해하기 어렵게 만들었다. 반사실적 설명은 인공지능을 설명하는 방법으로, 인간이 인지할 수 있는 최소한의 변화가 반영되어 분류 결과를 바꾸는 반사실적 예제를 통해 설명한다. 적대적 예제는 인공지능 모델의 분류 결과를 바꿀 목적으로 변형된 데이터이며, 반사실적 예제와 다르게 반영된 변화를 인간이 인지하기 어렵다. 단순한 모델에서는 적대적 예제가 반사실적 예제처럼 생성될 수 있지만, 딥러닝 모델에서는 인간과 인공지능의 인지 차이가 크기 때문에 어렵다. 하지만, 우리는 일부 딥러닝 모델에서 생성된 적대적 예제가 반사실적 예제처럼 생성되는 것을 확인하였다. 본 논문에서, 우리는 적대적 예제가 반사실적 예제처럼 생성되는 딥러닝 모델의 모델 구조와 조건들을 분석한다. 우리는 부분 집중 변화도 메트릭을 제안하고 기존의 메트릭과 함께 활용해 서로 다른 모델에서 생성되는 적대적 예제를 비교해본다.
목차
요약
Abstract
1. 서론
2. 배경지식
3. 메트릭
4. 실험
5. 결론
References
참고문헌 (26)
참고문헌 신청
Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin, "“Why should i trust you?’’ Explaining the predictions of any classifier," Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 2016.
Wachter, Sandra, Brent Mittelstadt, and Chris Russell. "Counterfactual explanations without opening the black box: Automated decisions and the GDPR," Harv. JL & Tech, 31, 2017.
C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I. Goodfellow, and R. Fergus, "Intriguing properties of neural network," in International Conference on Learning Representations, 2014.
J. Thiagarajan, V. S. Narayanaswamy, D. Rajan, J. Liang, A. Chaudhari, and A. Spanias, "Designing Counterfactual Generators using Deep Model Inversion," Advances in Neural Information Processing Systems, 34, 2021.
Y. LeCun, L. Bottou, Y. Bengio, and P. Haffner, "Gradient-based learning applied to document recognition," Proceedings of the IEEE, Vol. 86, No. 11, pp. 2278-2324, 1998.
Wachter, Sandra, Brent Mittelstadt, and Chris Russell. "Counterfactual explanations without opening the black box: Automated decisions and the GDPR," Harv. JL & Tech, 31, 2017.
C. Szegedy, W. Zaremba, I. Sutskever, J. Bruna, D. Erhan, I. Goodfellow, and R. Fergus, "Intriguing properties of neural network," in International Conference on Learning Representations, 2014.
J. Thiagarajan, V. S. Narayanaswamy, D. Rajan, J. Liang, A. Chaudhari, and A. Spanias, "Designing Counterfactual Generators using Deep Model Inversion," Advances in Neural Information Processing Systems, 34, 2021.
Y. LeCun, L. Bottou, Y. Bengio, and P. Haffner, "Gradient-based learning applied to document recognition," Proceedings of the IEEE, Vol. 86, No. 11, pp. 2278-2324, 1998.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
설명가능한 인공지능을 활용한 적대적 예제 비지도 이상 탐지
한국정보과학회 학술발표논문집
2021 .06
-
Current Research Trends in Attacking Deep Learning Using Adversarial Examples
Journal of KIISE
2022 .05
-
엣지 기반 분류를 이용한 적대적 예제 탐지
한국컴퓨터정보학회논문지
2023 .10
-
선형 판별 분석 및 k-means 알고리즘을 이용한 적대적 공격 유형 분류 방안
정보보호학회논문지
2021 .12
-
이미지의 Symbolic Representation 기반 적대적 예제 탐지 방법
정보보호학회논문지
2022 .10
-
적대적 공격의 전이성 향상을 위한 이미지 왜곡 기법
전자공학회논문지
2022 .10
-
산업 제어 시스템의 이상 탐지 모델에 대한 적대적 예제 공격 및 대응
한국정보과학회 학술발표논문집
2023 .06
-
적대적 공격을 방어하기 위한 StarGAN 기반의 탐지 및 정화 연구
정보보호학회논문지
2023 .06
-
텍스트 트랜스포머 모델에서 어텐션 맵을 이용한 경사도 기반 화이트 박스 적대적 예제 생성 방안
디지털콘텐츠학회논문지
2021 .12
-
Proposal of Deep Learning Systems Testing Framework Using Generative Large Language Models
한국컴퓨터정보학회 학술발표논문집
2024 .07
-
신경망 일반화를 위한 적대적 예제 학습에서의 하이퍼 파라미터 변경 효과
한국정보과학회 학술발표논문집
2017 .06
-
적대적 공격 및 방어 기술의 성능 향상을 위한 역방향 적대적 데이터 생성 연구
정보보호학회논문지
2024 .10
-
영상 인식을 위한 딥러닝 모델의 적대적 공격에 대한 백색 잡음 효과에 관한 연구
한국정보전자통신기술학회 논문지
2022 .02
-
Adversarial Sparsity Mapping Network to Defense Against Adversarial Attacks
Proceedings of KIIT Conference
2021 .06
-
데이터 예측 클래스 기반 적대적 공격 탐지 및 분류 모델
정보보호학회논문지
2021 .12
-
Advanced Generative Adversarial Defense Model using Instance Sparsity Mapping Network
한국정보기술학회논문지
2021 .08
-
딥러닝 적대적 예제와 퍼징기술 동향
정보과학회지
2021 .08
-
적대적 학습과 적대적 강건성 사이의 연관성
한국정보과학회 학술발표논문집
2020 .12
-
얼굴 인식 모델에 대한 질의 효율적인 블랙박스 적대적 공격 방법
정보보호학회논문지
2022 .12
-
다양한 유형의 적대적 예제에도 강건한 목적 분리형 문장 패러프레이즈 인식
한국정보과학회 학술발표논문집
2022 .12
이 논문의 저자 정보
이 논문과 함께 이용한 논문
Extracting Instruction Set Architecture Semantics from a Processor Register-transfer Level
하선
,
문현곤
Journal of KIISE
2023
.10
Comparative Analysis of Accuracy and Stability of Software Reliability Estimation Models based on Recurrent Neural Networks
김태현
,
류덕산
,
백종문
Journal of KIISE
2023
.08
Pruning Deep Neural Networks Neurons for Improved Robustness against Adversarial Examples
임규민
,
고기혁
,
이수영
외 1명
Journal of KIISE
2023
.07
CommonAI: Quantitative and Qualitative Analysis for Automatic-generation of Commonsense Reasoning Conversations Suitable for AI
신현규
,
유현조
,
송영숙
Journal of KIISE
2023
.05
Performance Improvement of Distributed Parallel Graph Data Processing in InfiniBand Networks
김현종
,
길명선
,
문양세
Journal of KIISE
2023
.04
최근 본 자료
댓글(0)
0