지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 저널정보
- Korean Institute of Information Scientists and Engineers Journal of KIISE Journal of KIISE Vol.46 No.8
- 발행연도
- 2019.8
- 수록면
- 721 - 725 (5page)
- DOI
- 10.5626/JOK.2019.46.8.721
이용수
초록· 키워드
오류제보하기
알고리즘 편향성은 알고리즘 설계과정에서 트레이닝 데이터에서의 편견이나 모델과 데이터의 특성 사이의 조합에 의해 모델에 반영되는 편향을 의미한다. 최근에는 이러한 편향성이 딥러닝 모델에서 나타날 뿐만 아니라 증폭된다는 연구가 진행되면서 편향성 제거에 관한 문제가 제기되고 있다. 본 논문에서는 성별에 의한 알고리즘 편향성을 편향-분산 딜레마의 관점에서 분석하며 편향성의 원인을 규명하였고 이를 해결하기 위해 심층 오토인코더 기반 잠재공간 일치모델을 제안한다. 우리는 딥러닝에서의 알고리즘 편향성은 모델 내부의 특징 추출부분에서 보호특징별 잠재 공간이 다르다는 것을 실험으로 보여주었다. 본 논문에서 제안하는 모델은 성별특징이 다른 데이터를 동일한 잠재공간으로 전사시킴으로써 추출된 특징의 차이를 줄여 저편향성을 달성하였다. 우리는 정량적 평가지표로 Equality of Odds와 Equality of Opportunity를 사용하여 기존모델에 비해 편향성이 낮음을 입증하고 ROC 곡선으로 통해 성별사이의 예측결과의 편차가 줄어들었음을 확인하였다.
목차
요약
Abstract
1. 서론
2. 관련연구
3. 방법
4. 실험결과
5. 결론
References
참고문헌 (8)
참고문헌 신청
A. Koene, L. Dowthwaite, and S. Seth, "IEEE P7003TM Standard for Algorithmic Bias Considerations," IEEE/ACM Int. Workshop on Software Fairness, pp. 38-41, 2018.
M. Hardt, E. Price, and N. Srebro, "Equality of Opportunity in Supervised Learning," Proc. of Advances in Neural Information Processing Systems, pp. 3315-3323, 2016.
A. Datta, M. Fredrikson, G. Ko, P. Mardziel, and S. Sen, "Proxy Non-Discrimination in Data-Driven Systems," arXiv preprint arXiv: 1707.08120, 2017.
N. Kilbertus, M. R. Carulla, G. Parascandolo, M. Hardt, D. Janzing, and B. Scholkopf, "Avoiding Discrimination through Causal Reasoning," Proc. of Advances in Neural Information Processing Systems, pp. 656-666, 2017.
T. Kamishima, S. Akaho, and J. Sakuma, "Fairness-Aware Learning through Regularization Approach," IEEE Int. Conf. on Data Mining Workshops, pp. 643-650, 2011.
M. Hardt, E. Price, and N. Srebro, "Equality of Opportunity in Supervised Learning," Proc. of Advances in Neural Information Processing Systems, pp. 3315-3323, 2016.
A. Datta, M. Fredrikson, G. Ko, P. Mardziel, and S. Sen, "Proxy Non-Discrimination in Data-Driven Systems," arXiv preprint arXiv: 1707.08120, 2017.
N. Kilbertus, M. R. Carulla, G. Parascandolo, M. Hardt, D. Janzing, and B. Scholkopf, "Avoiding Discrimination through Causal Reasoning," Proc. of Advances in Neural Information Processing Systems, pp. 656-666, 2017.
T. Kamishima, S. Akaho, and J. Sakuma, "Fairness-Aware Learning through Regularization Approach," IEEE Int. Conf. on Data Mining Workshops, pp. 643-650, 2011.
함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
성별의 알고리즘 편향성 감소를 위한 심층 오토인코더 기반 잠재공간 일치모델
한국정보과학회 학술발표논문집
2018 .12
-
보호특징별 조작 가능한 잠재공간 기반의 알고리즘 편향성 감소 방법
한국정보과학회 학술발표논문집
2019 .12
-
얼굴 감정 인식 모델의 나이별 편향성 감소를 위한 적대적 오토인코더 기반 잠재벡터내의 편향성 제거 방법
한국정보과학회 학술발표논문집
2020 .12
-
AI 알고리즘의 편향성 감소를 위한 적대적 오토인코더의 상호정보 분석
한국정보과학회 학술발표논문집
2020 .07
-
회귀분석과 딥러닝의 예측 정확성에 대한 비교 그리고 딥러닝 모델 최적화를 위한 기법들의 중요성에 대한 실증적 분석
한국전자통신학회 논문지
2023 .04
-
욕설 분류에서의 편향성 감소를 위한 적대적 오토인코더기반 단어 임베딩내의 편향성 제거 모델
한국정보과학회 학술발표논문집
2020 .12
-
다채널 시스템 이상 감지를 위한 오토 인코더 잠재 공간 최적화
대한기계학회 춘추학술대회
2022 .11
-
메타데이터의 편향분석을 통한 영화추천
정보과학회 컴퓨팅의 실제 논문지
2021 .10
-
잠재 공간의 정규화가 적대적 오토인코더 기반 생성 모델에 미치는 영향성 분석
한국정보과학회 학술발표논문집
2022 .06
-
인공지능 기반 악성코드 분석에서의 모델편향 완화방안 연구
한국통신학회 학술대회논문집
2022 .02
-
Autoencoder-based Learning Contribution Measurement Method for Training Data Selection
Journal of KIISE
2021 .02
-
효율적 딥 러닝을 위한 이미지 전처리 알고리즘 분석
한국정보통신학회 종합학술대회 논문집
2020 .07
-
불균형 딥러닝 학습 성능 향상을 위한 잠재 공간 편향 외삽 샘플링
한국정보과학회 학술발표논문집
2021 .06
-
오토인코더를 사용한 핑거프린트 기반 실내 측위 딥러닝 모델
한국통신학회 학술대회논문집
2022 .02
-
터보 오토인코더의 성능 분석
한국통신학회 학술대회논문집
2021 .06
-
Transformer 기반의 한국어 언어 모델의 사회적 편향 분석
대한산업공학회 춘계공동학술대회 논문집
2022 .06
-
A survey of model-parallel techniques for deep learning models
한국정보과학회 학술발표논문집
2018 .12
-
다양한 딥러닝 알고리즘과 활용
정보과학회지
2015 .08
-
이상탐지를 위한 딥러닝 기반 학습모델의 성능평가 및 분산 학습모델
한국정보과학회 학술발표논문집
2021 .06
-
적대적 오토인코더를 이용한 나이 편향 제거 얼굴 감정인식 시스템
한국정보과학회 학술발표논문집
2022 .06
이 논문의 저자 정보
이 논문과 함께 이용한 논문
인공지능 편향성 완화를 위한 효과적인 접근방법 및 기술동향
이예나
,
최효경
,
김명주
한국정보과학회 학술발표논문집
2019
.06
인공지능 알고리즘의 편향성과 공정성
정원섭
인간·환경·미래
2020
.10
AI 알고리즘의 편향성 감소를 위한 적대적 오토인코더의 상호정보 분석
김진영
,
조성배
한국정보과학회 학술발표논문집
2020
.07
딥러닝 텍스트 요약 모델의 데이터 편향 문제 해결을 위한 학습 기법
조준희
,
오하영
한국정보통신학회논문지
2022
.07
텍스트 마이닝 기법을 이용한 유튜브 추천 알고리즘의 필터버블 현상 분석
신유진
,
이상우
한국콘텐츠학회논문지
2021
.05
최근 본 자료
댓글(0)
0