지원사업
학술연구/단체지원/교육 등 연구자 활동을 지속하도록 DBpia가 지원하고 있어요.
커뮤니티
연구자들이 자신의 연구와 전문성을 널리 알리고, 새로운 협력의 기회를 만들 수 있는 네트워킹 공간이에요.
논문 기본 정보
- 자료유형
- 학술저널
- 저자정보
- 발행연도
- 2023.12
- 수록면
- 661 - 673 (13page)
- DOI
- 10.5143/JESK.2023.42.6.661
이용수
DBpia Top 0.5%동일한 주제분류 기준으로최근 2년간 이용수 순으로 정렬했을 때
해당 논문이 위치하는 상위 비율을 의미합니다.
이 논문의 연구 히스토리 (2)
- 이 논문의 후속연구가 궁금하신가요?
- 연관 학술논문 또는 학술발표를 통해 보다 발전된 연구결과를 확인하실 수 있습니다.
- 이 논문의 연구 히스토리 확인하기
초록· 키워드
오류제보하기
Objective: The objective of the study is to investigate how biases in emotion data affect the inference process of artificial intelligence (AI) models. The first study visually examines the inference process of two distinct models trained on positively biased and negatively biased data, respectively, to observe differences. The second study investigates captions generated by image captioning models trained on four datasets with different ratios of positive and negative biases in emotion.
Background: As AI development accelerates with diverse and large-scale data, concerns about biases raising erroneous learning and reduced prediction accuracy have emerged. Data biases cause unfair outcomes related to race, gender, or ideology.
Method: The first study explores the influence of emotion data bias on a CNN model"s inference process, revealing concentration patterns for positively and negatively biased emotion data using LayerCAM. The second quantitatively analyzes bias influence on outcomes using an image captioning model trained on differently biased datasets. We quantitatively analyze the relationship between the generated captions and the datasets in terms of the Sentiment Intensity Analysis (SIA) values.
Results: Divergent inference processes were observed in the first study, showing that the focused regions of the models were different by different biases in emotion data trained. The second study demonstrated that as the bias ratio shifted, the model-generated captions changed accordingly, with a tendency to produce more positive captions with decreased positive and increased negative biases.
Conclusion: This study underscores the critical impact of emotion data bias on AI model inference and outcomes. Recognizing and mitigating biases in emotion data is imperative for developing fair and effective AI models, particularly in applications involving human-AI interaction. In the context of AI integration in services, addressing emotion data bias is crucial for responsible AI deployment, especially in human-AI interaction.
Background: As AI development accelerates with diverse and large-scale data, concerns about biases raising erroneous learning and reduced prediction accuracy have emerged. Data biases cause unfair outcomes related to race, gender, or ideology.
Method: The first study explores the influence of emotion data bias on a CNN model"s inference process, revealing concentration patterns for positively and negatively biased emotion data using LayerCAM. The second quantitatively analyzes bias influence on outcomes using an image captioning model trained on differently biased datasets. We quantitatively analyze the relationship between the generated captions and the datasets in terms of the Sentiment Intensity Analysis (SIA) values.
Results: Divergent inference processes were observed in the first study, showing that the focused regions of the models were different by different biases in emotion data trained. The second study demonstrated that as the bias ratio shifted, the model-generated captions changed accordingly, with a tendency to produce more positive captions with decreased positive and increased negative biases.
Conclusion: This study underscores the critical impact of emotion data bias on AI model inference and outcomes. Recognizing and mitigating biases in emotion data is imperative for developing fair and effective AI models, particularly in applications involving human-AI interaction. In the context of AI integration in services, addressing emotion data bias is crucial for responsible AI deployment, especially in human-AI interaction.
목차
1. Introduction
2. Related Work
3. Study 1: CNN Models with Emotionally Biased – Binary Classification
4. Study 2: Image Captioning Models with Emotionally Biased – Natural Language Generation
5. Conclusion
References
참고문헌 (0)
참고문헌 신청함께 읽어보면 좋을 논문
논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!
-
데이터 편향성이 인공지능 모델에 미치는 영향: 데이터 감정 구성 비율에 따른 학습 결과 비교
대한인간공학회 학술대회논문집
2023 .05
-
인공지능 분야의 편향 연구에 관한 사회적 요인의 영향
한국정보과학회 학술발표논문집
2020 .12
-
장애 학생들을 위한 인공 지능(AI) 교육 프로그램에서 고려할 사항 및 교육 프로그램 예시
한국정보통신학회 여성 ICT 학술대회 논문집
2020 .08
-
Utilizing Contex for Enhancing Performance of On-device AI Inference
INTERNATIONAL CONFERENCE ON FUTURE INFORMATION & COMMUNICATION ENGINEERING
2023 .01
-
AI 공정성을 위한 성숙도 모델 연구
정보과학회 컴퓨팅의 실제 논문지
2023 .01
-
2024 미국 대통령 선거_미국의 선택은 ‘어게인 트럼프’… AI에 끼칠 영향은?
전자기술
2024 .12
-
지연효과를 포함한 네트워크에서 지향성 추론에 대한 분석
대한전자공학회 학술대회
2021 .11
-
DC bias 유입 전류에 의한 변압기의 동작 특성 변화
대한전기학회 학술대회 논문집
2022 .05
-
안전한 AI 서비스를 위한 국내 정책 및 가이드라인 개선방안 연구
정보보호학회논문지
2023 .12
-
AI교육플랫폼을 활용한 인공지능 수업의 방향
한국컴퓨터정보학회논문지
2022 .05
-
인공지능 분야 산업·기술 동향 및 이슈
[ETRI] 전자통신동향분석
2025 .02
-
인공지능 윤리 기반 정렬 기술 동향
[ETRI] 전자통신동향분석
2025 .02
-
텍스트-비디오 검색 모델에서의 캡션을 활용한 비디오 특성 대체 방안 연구
대한임베디드공학회논문지
2022 .12
-
AI 적용 체계 데이터 품질 점검 및 운용유지단계 모니터링 실증 연구
한국산학기술학회 논문지
2024 .08
-
국가 AI 경쟁력에 따른 OECD 국가 유형 분류: 퍼지셋 이상형 분석을 중심으로
정보화정책
2024 .06
-
AI 영상의 감정 표현과 스토리텔링: 기술 혁신과 윤리적 과제
디지털콘텐츠학회논문지
2025 .02
-
AI와 IT 기술
전자공학회지
2022 .06
-
이미지 생성 AI 활용에 대한 대학생의 주관적 인식 연구
디지털콘텐츠학회논문지
2024 .11
-
Bias Filter를 이용한 심층신경망 기반의 실내측위 기법
한국통신학회 학술대회논문집
2019 .06
-
A Conceptual Architecture for Ethic-Friendly AI
한국컴퓨터정보학회논문지
2022 .04
이 논문의 저자 정보
이 논문과 함께 이용한 논문
데이터 편향성이 인공지능 모델에 미치는 영향: 데이터 감정 구성 비율에 따른 학습 결과 비교
최인헌
,
이상원
대한인간공학회 학술대회논문집
2023
.05
인공지능의 공정성과 데이터의 편향성
정원섭
철학과 현실
2021
.09
인공지능 알고리즘의 편향성과 공정성
정원섭
인간·환경·미래
2020
.10
인공지능 편향성 완화를 위한 효과적인 접근방법 및 기술동향
이예나
,
최효경
,
김명주
한국정보과학회 학술발표논문집
2019
.06
대규모 언어 모델을 사용하는 인공지능 기반 대화형 챗봇의 편향성 평가 프레임워크 개발 방법
방준성
,
이병탁
,
박판근
방송공학회논문지
2023
.09
최근 본 자료
댓글(0)
0