인공지능의 위험에 관한 기본권 논의와 입법 대응

이희옥

doi:10.38176/PublicLaw.2025.2.53.3.251

추천

검색

질문

자료유형: 학술저널

저자정보: 이희옥 (한양대학교)

저널정보: 한국공법학회 공법연구 公法硏究第53輯第3號

발행연도: 2025.2

수록면: 251 - 284 (34page)

DOI: 10.38176/PublicLaw.2025.2.53.3.251

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

인공지능이 일상에 크고 작은 변화를 가져오면서 인류는 인공지능 기술의 복잡성과 자율성(autonomy)에 직면하게 되었다. 이는 인공지능 고유한 특성에서 비롯된 것으로서 기존 법체계에 대한 도전을 가져온다. 이에 각국에서는 인공지능 윤리 규범에서 전환해 본격적인 법제화에 나서고 있다. 대표적으로 유럽연합의 ｢EU AI Act｣에서는 독일에서 발전한 환경행정법 분야의 위험(Risiko) 기반 관리체계를 채택해 국가에 대한 사전 배려적 조치를 요구한다. 이 같은 인공지능 거버넌스의 태세 전환은 미국 NIST의 AI RMF(위험관리 프레임워크)와 바이든 행정부의 행정명령에서도 나타났다. 우리나라에서도 인공지능기본법이 2024년 12월 말 제정되어 인공지능 법적 규율의 토대가 마련되었다. 이로써 우리나라는 유럽연합에 이어 두 번째로 포괄적 인공지능일반법의 기본 토대를 갖추게 되었다. 제정법은 고영향 인공지능을 “사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능 시스템”으로 정의하고, 투명성 및 안정성 확보 의무를 요구한다. 하지만 ｢EU AI Act｣의 위험 기반 방식이나 미국의 AI RMF에서 제시한 위험 구분과 비교했을 때 포괄적인 규제 대상과 일률적인 규제내용을 담고 있어 위험의 수준과 규제 간 비례성을 갖추었다고 보기 어렵다. 또한 사실조사 등 규제당국의 권한이 타법 대비 강화된 점에서 기술 혁신에 걸림돌이 될 수 있다. 우리 헌법재판소가 기본권의 서열이론을 일률적으로 적용하지는 않지만, 인공지능 규제에는 기본권 침해의 중대성에 따른 위험의 차등화와 위험 정도와 규제의 수준을 형량한 비례의 원칙이 적용될 필요가 있다.
한편 인공지능 기술의 질적 특징이 자율성이라고 할 때 인공지능의 인류에 대한 가장 큰 위험은 인간의 자율적 의사결정에의 위협이다. 제정법과 우리의 인공지능 규제는 헌법적 기본권이자 헌법의 중요한 가치인 인간존엄과 자기결정 침해의 문제를 놓치고 있다. 향후 인공지능기본법 시행령 및 가이드라인에서는 이에 대한 보완을 우선적으로 고려하여야 한다. 인공지능 규율은 정부 규제기구의 관할 문제로 속전속결 할 것이 아니라 민･관의 다양한 전문가들의 논의를 거쳐야 하는 국가적, 시대적 난제이다. 인공지능 규범화가 우리의 기술, 경제, 사회문화적 맥락 속에서 조성되어 지속 가능한 인공지능 혁신을 거듭하기를 바란다.

As artificial intelligence brings about major and minor changes in our daily lives, humanity is confronted with the complexity and autonomy of AI technologies. This is a challenge to the existing legal system that stems from the unique characteristics of A.I., which are distinct from the risks caused by the actors who use A.I.. In response, countries are beginning to regulate AI through full-fledged laws and regulations, ranging from AI ethics to AI laws. The European Union's “EU AI Act” adopts the Risiko-based management system developed in Germany in the field of environmental administrative law and requires proactive and considerate measures for the state. This shift in AI governance posture is also reflected in the NIST's AI Risk Management Framework (RMF) and the Biden administration's executive order. In Korea, the Basic Act on Artificial Intelligence was enacted in late December 2024, laying the foundation for AI regulation. This makes Korea the second country after the European Union to have a comprehensive general AI law. The Act defines high-impact artificial intelligence as “artificial intelligence systems that may significantly affect or endanger human life, physical safety, and fundamental rights,” and requires obligations to secure transparency and stability. Compared to the risk-based approach of the EU AI Act or the risk classification proposed by the US AI RMF, it is difficult to see the proportionality between the level of risk and the regulation as it contains comprehensive regulatory targets and uniform regulatory contents. It may also hinder technological innovation as the powers of regulatory authorities, such as fact-finding, are strengthened compared to other laws. Although the Korean Constitutional Court does not uniformly apply the hierarchy theory of fundamental rights, it is necessary to apply the principle of proportionality to the regulation of A.I. by differentiating the risks according to the severity of the infringement of fundamental rights and the level of regulation.
On the other hand, the qualitative specificity of AI technology is autonomy, and the greatest danger to humanity from AI is the threat to human autonomous decision-making. The law and our AI regulations seem to miss the issue of violation of human dignity and self-determination, which are fundamental rights and important values of the Constitution. This should be prioritized in the future enforcement of the AI Basic Law and guidelines. The regulation of A.I. is not just a matter of jurisdiction for government regulatory bodies, but a national and time-critical issue that needs to be discussed by various experts from the private and public sectors. I hope that the normatization of A.I. will be created in the context of our technological, economic, and socio-cultural contexts to ensure sustainable A.I. innovation.

#위험 #인공지능기본법 #기본권 #위험관리 접근법 #자기결정 #기본권 영향평가 #Risk #AI Framework Act #Fundamental Rights #Risk-Based Approach #Self-determination #Fundamental Rights Impact Assessment

참고문헌 (0)

참고문헌 신청

참고문헌이 DBpia에서 서비스 중이라면, [참고문헌 신청]을 통해 등록해보세요

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문과 함께 이용한 논문

인공지능기본법 주요 내용의 검토와 향후 과제

정찬모 법학연구 2025 .03

인공지능(AI) 입법 방법론에 관한 소고 - EU AI Act(AIA)를 중심으로 -

권오민 , 김동희 법이론실무연구 2024 .11

인공지능법의 비전과 쟁점

김광수 서강법률논총 2024 .10

인공지능 알고리즘 규율을 위한 법제 동향 - 미국과 EU 인공지능법의 비교를 중심으로 -

김광수 행정법연구 2023 .03

탄핵 정국에서 본 고위공직자범죄수사처의 강제수사 적법성 에 관한 연구

김주만 범죄수사학연구 2025 .04

최근 본 자료

전체보기

UCI(KEPA) : I410-151-25-02-092532896

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (0)

함께 읽어보면 좋을 논문

이 논문과 함께 이용한 논문

최근 본 자료

댓글(0)