인공지능 관점에서 GDPR 제22조의 인간 개입에 대한 분석

황지은

추천

검색

질문

자료유형: 학술저널

저자정보: 황지은 (과학기술정보통신부)

저널정보: 서울대학교 공익산업법센터 경제규제와 법 경제규제와 법 제13권 제1호(통권 제25호)

발행연도: 2020.5

수록면: 37 - 58 (22page)

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

인공지능의 발전에 따라, 인공지능 규제와 관련된 GDPR 제22조의 중요성이 커지고 있다. 자동화된 처리에만 근거한 결정에 따르지 않을 권리를 보장한 GDPR 제22조는 의사결정과정에 인간 개입이 있었는지에 따라 규제의 적용 여부가 결정되는 성격이 있다. 자동화 의사결정이 효율성, 일관성 등의 장점이 있음에도 알고리즘 결정에 인간 개입을 요구하는 것은, 알고리즘의 리스크를 감독하고 알고리즘이 반영하기 어려운 인간적 특성을 고려하기 위한 것일 수 있다. 그러나 GDPR 제22조에서의 인적 개입은 이러한 목적을 달성하지 못한 채 인공지능 환경에서 여러 한계를 보인다.
첫 번째 한계는 어느 정도로 인간이 개입해야 실질적인 인간 개입이 되는 것인지 그 기준이 불분명하다는 것이다. 두 번째로 하나의 최종 결정을 위해 여러 개의 인공지능의 판단이 연속되는 경우, 어느 단계에서 인간이 개입해야 하는지가 불분명하다. 세 번째는 정보 및 역량 등이 부족한 상황에서 실질적으로 인적 개입을 한다는 것이 현실적으로 가능한지에 대한 의문이다. 네 번째 한계는 의미 있는 인적 개입이 이루어졌는지 외부에서 감독하기가 힘들다는 것이다.
인공지능 시대에서 GDPR 제22조가 실효성을 갖기 위해서는 인간 개입을 둘러싼 한계를 극복할 필요가 있다. 첫째, 인간 개입이 실질적인지 명목적인지를 나누는 기준이 명확해야 한다. 이 논문은 이를 위해 자동화 결정과정에 대한 전반적 이해, 실제 검토행위의 존재, 최종 결정의 근거 및 과정에 대한 설명이라는 기준을 제시한다. 둘째, 여러 인공지능의 판단이 연속되는 경우, 각각의 인공지능 판단이 끝날때마다 인간이 개입하도록 하여 인적 개입 단계를 명확히 할 필요가 있다. 셋째, 실질적 인적 개입의 실효성을 강화하기 위한 방안을 강구해야 한다. 알고리즘 감사, 설명가능한 인공지능 등을 통해 인공지능 판단과정의 투명성을 높이고, 인간의 검토 역량을 기르기 위한 훈련을 강화해야 한다. 인공지능 프로그램의 개발조직과 활용조직이 다를 경우, 제3자 기관을 통한 감사, 계약 등을 통해 인간 개입의 실효성을 확보해야 한다. 넷째, 외부 감독기관에 대한 정보 제공 및 조사 직원 역량 강화 등을 통해 외부 감독기관이 인간 개입의 적절성을 제대로 판단하도록 하여 개인정보 관리자들이 명목적 인적 개입으로 규제를 회피할 가능성을 낮추어야 한다.

The GDPR Article 22 has been drawing attention with the development of artificial intelligence. The feature of Article 22 which guarantees the right not to be subject to a decision based solely on automated processing, is that human involvement in the decision-making process could determine the application of the regulation. Although automated decision-making has advantages such as efficiency and consistency, human involvement in algorithm decision-making could be required to supervise the risks of the algorithm and to consider human characteristics that are difficult for algorithm to reflect in decision process. However, human involvement in Article 22, without achieving these goals, presents several limitations in the AI environment.
The first limitation is that it is unclear to what extent human should step in for substantive human involvement. Second, when several AI judgments are successive for a final decision, it is ambiguous at what stage human involvement should take place. Third, it could be questionable whether meaningful human involvement is realistically possible in situations where information and capabilities for reviewing the AI decision are deficient. The fourth is that external supervision of whether it is meaningful human involvement could be difficult.
In order to become effective regulation in the AI era, Article 22 needs to solve the limitations on human involvement. First, the standard for classifying whether human involvement is nominal or substantive should be distinct. To this end, this paper suggests the criteria of the general understanding of the automated decision-making process, the existence of actual review actions, and explanation of the basis and process for the final decision. Second, when multiple AI decisions are consecutive, it is required to clarify the stage of human involvement by letting human to involve at the end of each automated decisions. Third, measures to strengthen the effectiveness of substantive human involvement including transparency enhancing system such as algorithmic auditing and explainable AI, training for human review capability, and auditing through third-party organizations should be devised. Fourth, it is necessary to strengthen external supervision by providing sufficient information and improving capacity of supervisory authorities.

#EU 일반정보보호규정(EU General Data Protection Regulation) #인공지능(artificial intelligence) #알고리즘(algorithm) #인간 개입(human involvement) #자동화된 처리에만 근거한 결정(decision based solely on automated processing)

국문초록
Ⅰ. 서론
Ⅱ. 인공지능 환경에서의 GDPR 제22조
Ⅲ. GDPR 제22조에서의 인간 개입(human involvement)의 중요성
Ⅳ. GDPR 제22조에서의 인간 개입(human involvement)의 한계
Ⅴ. 실질적인 인간 개입을 위한 개선방향
Ⅵ. 결론
참고문헌
ABSTRACT

참고문헌 (53)

참고문헌 신청

Goodfellow, Ian / 2016 / Deep Learning / MIT Press

Hildebrandt, Mireille / 2012 / Digital Enlightenment Yearbook 2012 / IOS Press

Russell, Stuart / 2010 / Artificial Intelligence: A Modern Approach / Pearson

Van Otterlo, Martijn / 2013 / Privacy, Due Process and the Computational Turn-Philosophers of Law Meet Philosophers of Technology / Routledge

Adler, Philip / 2018 / Auditing black-box models for indirect influence / Knowledge and Information Systems 54(1):95

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

황지은

소속기관 과학기술정보통신부

주요연구분야 사회과학 > 법학

논문수 3 이용수 446

이 논문과 함께 이용한 논문

디지털무역 자유화와 개인정보보호의 무역 제한적 요소에 대한 연구 : EU GDPR을 중심으로

우기훈 , 신성식 무역학회지 2020 .06

인공지능 규제에 대한 연구 - 유럽연합의 입법안을 중심으로 -

박혜성 , 김법연 , 권헌영 공법연구 2021 .02

인공지능 의사결정에서의 이익조정과 이원적 규제모델에 관한 연구

이희옥 행정법연구 2020 .11

인공지능 로봇에 대한 법적책임과 선결과제에 관한 검토

김현우 법학연구 2022 .09

인공지능 시대의 도래와 디지털화에 따른 행정자동결정의 법적 쟁점 ― 특히 행정기본법상 자동적 처분의 문제점을 중심으로 ―

鄭南哲 공법연구 2021 .12

최근 본 자료

전체보기

UCI(KEPA) : I410-ECN-0101-2020-366-000855671

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (53)

함께 읽어보면 좋을 논문

이 논문의 저자 정보

이 논문과 함께 이용한 논문

최근 본 자료

댓글(0)