자율무기체계의 개념과 비례성의 원칙

박문언

doi:10.46406/kjil.2019.06.64.2.85

추천

검색

질문

자료유형: 학술저널

저자정보: 박문언 (한국국방연구원)

저널정보: 대한국제법학회 국제법학회논총 國際法學會論叢第64卷第2號 (通卷第153號)

발행연도: 2019.6

수록면: 85 - 109 (25page)

DOI: 10.46406/kjil.2019.06.64.2.85

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

제4차 산업혁명의 시대를 맞이하여 인공지능 기술이 발전함에 따라 국방분야에 관련 기술이 적용되고 있다. 특히 인간이 임무를 수행하기 어려운 분야나 인간의 희생이 요구되는 위험한 분야 등에서 자율무기체계가 인간을 대신하는 것이 가능한지 국제적으로 논의되고 있다. 그러나 문제는 이러한 자율무기체계가 너무 지나치게 개발되고 사용되어 인간을 살상하는 임무뿐만 아니라 언젠가는 기술적 특이점을 넘어 오히려 인간을 위협하는 상황이 올 수도 있다는 것이다. 이러한 상황을 예방하기 위해서는 먼저 자율무기체계의 개념을 구체적으로 규정하고 이러한 무기체계의 개발과 사용에 대해 국제적으로 합의를 도출할 필요가 있다. 이 논문에서는 특정재래식무기금지협약(CCW)기구에서 국가별로 논의되고 있는 “자율무기체계” 또는 “자율살상무기체계”의 개념을 기초로 자율무기체계의 개념을 어떻게 규정하는 것이 적절할지 개인적으로 검토해 보았다.
이와 더불어 자율무기체계 자체가 국제인도법상 사용이 제한되는 무기가 아니지만 사용상의 과정에서 국제인도법상 기본원칙들을 준수할 수 있는지 살펴보았다. 특히, 전장 상황 전체의 맥락적 고려를 통해 주관적인 평가가 필요하며, 양적 평가보다는 질적 평가가 가장 많이 요구되는 비례성을 원칙을 준수할 수 있는지 여부를 검토해 보았다. 인간의 능력 또한 언제나 완전할 수 없다는 것을 고려할 때, 자율무기체계가 국제인도법상의 규정을 프로그램화하고 그 세부기준을 객관화할 수 있다면 이 또한 전혀 불가능한 것은 아닐것이다. 판례라는 것도 결국은 개별 사건의 축적을 통해 객관화된 기준을 만들어 나가는 과정이기 때문이다. 다만, 이 경우에도 자율무기체계가 인간 사이의 생명을 비교형량해야 하는 상황이거나 적의 군사시설을 공격하는 과정에서 민간인의 살상이 발생할 수 있는 상황이라면 사용이 제한되어야 할 것이다. 결론적으로 적군을 살상하는 과정에서 민간시설에 대한 지나친 피해가 발생하지 않는다면 비례성의 원칙에는 반하지 않을 것이다. 하지만 윤리적으로나 정책적으로 인간에 대한 살상문제는 비례성의 원칙을 떠나 보다 근본적인 국제사회의 합의가 도출되어야 한다.

As the artificial intelligence technology develops in the era of the fourth industrial revolution, the related technology is applied to the defense field. International societies have debated whether it is possible for the Autonomous Weapons System(AWS) to replace human beings, especially in areas where human tasks are difficult to carry out or in the dangerous areas where human sacrifices may be required. However, the problem is that the AWS is so over-developed, and some day it may go beyond technical singularity and threaten humans. In order to prevent such a situation, we should define the concept of the AWS and reach consensus on the development and use of AWS internationally. In this paper, I personally reviewed how to define the concept of AWS based on “autonomous weapon system” or “lethal autonomous weapon system” discussed in the CCW meeting.
In addition, it is necessary to examine whether AWS itself is a weapon being restricted in international humanitarian law(IHL) and can comply with the basic principles of IHL. Particularly, I examined whether or not AWS can comply with the principle of proportionality which requires the most qualitative evaluation rather than quantitative evaluation with subjective evaluation through the contextual consideration of overall battle situation. Considering that human capabilities are not always perfect, AWS observing IHL would also not be possible at all if it could be programmed the rules of IHL and objectify its sub-criteria. Likewise, the judicial precedent is the process of creating objectified standards through filing up of individual cases. In the meantime, AWS should not be used in situations where it compares lives between human beings or where civilian casualties can occur in the course of attacking enemy forces or military facilities.
In conclusion, AWS can be used limitedly if civilians are not sacrificed and only civilian facilities are damaged in the course of killing enemy forces. However, in the policy and ethics, killing of human beings by AWS will require a more fundamental international consensus, apart from the principle of proportionality.

#자율(살상)무기체계 #자율성 #인간통제 #국제인도법 #비례성의 원칙 #군사적 이익 #과도한 부수적 피해 #부수적 피해평가 방법 #(Lethal) Autonomous Weapon System #Autonomy #Human Control #International Humanitarian Law #Proportionality #Military Benefits #Incidental Damage #Collateral Damage Estimation Methodology

참고문헌 (63)

참고문헌 신청

Timothy Warton / 2016 / Securing the Third Offset Strategy: Priority for the Next Secretary of Defense / Joint Force Quarterly (82):6

Arjun Kharpal / Stephen Hawking Says A.I. Could Be Worst Event in the History of Our Civilization / CNBC

Jane Wakefield / South Korean University Boycotted Killer Robots / BBC

Ronald Arkin / 2011 / Governing Lethal Behavior in Autonomous Robots / IEEE Technology and Society Magazine, Winter 30(4):10

국방부 / 국방전력발전업무훈령 [별표 1] 용어의 정의 “체계” :238

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

박문언

소속기관 한국국방연구원

주요연구분야 사회과학 > 법학

논문수 2 이용수 1,419

이 논문과 함께 이용한 논문

인공지능, 자율무기체계와 미래 전쟁의 변환

조현석 21세기정치학회보 2018 .03

자율살상무기(일명 킬러로봇)에 대한 국제법적 문제와 우리나라에 대한 정책적 시사점

김광우 국방과 기술 2018 .07

라이프니츠에 있어서 중국철학 수용과정에 대한 연구

이동희 철학연구 2002 .09

[제2세션 발표] 신무기와 국제인도법의 적용 : Autonomous Weapon Systems(자율무기체계)를 중심으로

김현주 인도법논총 2018 .12

4차 산업혁명과 한국적 군사혁신

정춘일 한국군사 2019 .12

최근 본 자료

전체보기

UCI(KEPA) : I410-ECN-0101-2019-361-000886152

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (63)

함께 읽어보면 좋을 논문

이 논문의 저자 정보

이 논문과 함께 이용한 논문

최근 본 자료

댓글(0)