자율운항선박 인공지능의 윤리문제에 대한 소고 - 사고 알고리즘을 중심으로 -

장유락

추천

검색

자료유형: 학술저널

저자정보: 장유락 (한국해양대학교)

저널정보: 한국해사법학회 해사법연구 해사법연구 제33권 제1호

발행연도: 2021.1

수록면: 143 - 171 (29page)

이용수

📌

연구주제

📖

연구배경

🔬

연구방법

🏆

연구결과

초록· 키워드

오류제보하기

제4차 산업혁명이 시작되면서 주목받기 시작한 인공지능은 선박에도 적용되어 자율운항선박 개발이 진행되고 있다. 자율운항선박은 선원의 승선유무와 원격조종자의 조종여부에 따라 총 4단계로 구분되며, 완전자율운항선박은 인간의 개입 없이 설계자가 설계한 알고리즘에 따라 최적의 결정을 내리게 된다. 그러나 인공지능의 자율성과 예측곤란성이라는 특징으로 인하여 완전자율운항선박의 결정이 예측하기 어려우며 이러한 결정이 항상 윤리적이라고 기대하기 어렵다. 그러나 인공지능의 예측불가능성을 인공지능의 자율성에 의존해서는 안되므로 인간의 가치가 반영된 인공지능의 알고리즘이 설계되어야 한다. 특히, 충돌의 위험을 피할 수 없는 상황에서 인공지능이 어떠한 원칙과 기준에 따라 결정을 내리는 것인지 이러한 과정을 결정하는 사고 알고리즘에 대해 설명가능하고 이러한 결정이 사회 구성원들에게 합리적으로 받아들여져야 한다. 이와 같은 인공지능의 윤리문제에 대한 논의는 자율주행자동차 분야에서 가장 활발하게 이루어지고 있다. 그러나 인간의 가치가 일관성과 보편성을 가지기 어렵다는 한계가 있다. 특히, 윤리적 딜레마 상황에서는 ‘실천이성의 이중성’으로 인하여 이성적이며 윤리적인 판단과는 다른 결정을 내리게 되며, 윤리적이라는 행동에 대한 기준 역시 지역·문화·경제 상황에 따라 다르게 인식하고 있다. 그 결과 인공지능의 윤리적 가이드라인의 필요성에 대해 인식하면서도 사고 알고리즘에 대한 구체적인 기준을 정립하는 것에 대해서는 회의적이다. 자율주행자동차의 윤리적 딜레마 상황을 예견하여 사용과정에서 발생하게 될 현실적인 문제를 완벽하게 대응할 수 없다는 것이다. 그러나 문제가 발생한 이후 대응책을 마련한다는 것은 현실적으로 발생한 피해를 구제하기 위한 조치일 뿐 근본적인 문제를 해결하는 방법이 아니다. 특히, 전 세계 해역을 운항하는 자율운항선박은 전 세계 구성원들에게 합리적으로 받아들여지는 결정을 내려야 한다. 따라서 국제해사기구를 중심으로 자율운항선박과 관계된 사고 알고리즘을 포함한 윤리적 가이드라인을 마련하고 이를 개별국가에서 정책적으로 반영함으로써 자율운항선박 개발 단계부터 사용단계에 이르는 전 과정에서 프로그램 개발자와 이해관계자가 윤리규범을 준수하고, 축적된 정보를 기초로 보완작업을 통해 자율운항선박의 윤리문제에 대응해 나가야 할 것이다.

Artificial Intelligence, which began to draw attention as the fourth industrial revolution began, has also been applied to ships, and the development of Maritime Autonomous Surface Ship is underway. Maritime Autonomous Surface Ship is divided into four stages depending on whether the crew is on board and whether remote controllers are controlled, and fully Autonomous Ships will make optimal decisions based on algorithms designed by designers without human intervention. However, due to the characteristics of Artificial Intelligence such as autonomy and unforeseeability, the decision of a fully autonomous ship cannot always be expected to be ethical. However, Artificial Intelligence should make decisions that reflect human values. Especially in situations where the risk of conflict is unavoidable so called accidental algorithm, it should be able to explain what principles and criteria Artificial Intelligence makes decisions and these decisions should be reasonably accepted by society. This discussion of the ethical issues of Artificial Intelligence is the most active in the field of self-driving cars. However, there is a limitation that human values are difficult to have consistency and universality. In particular, in ethical dilemma situations, "Dualism of Practical Reason" makes decisions different from rational and ethical judgments, and standards for ethical behavior are also recognized differently depending on regional, cultural, and economic situations. As a result, while recognizing the need for ethical guidelines for Artificial Intelligence, it is skeptical about establishing specific standards. Because the ethical dilemma situation of self-driving cars cannot be predicted and fully responded to the real problems that will arise in the process of use. However, coming up with countermeasures after the problem occurs is only a measure to remedy the damage that has occurred in reality and is not a way to solve the fundamental problem. In particular, Maritime Autonomous ships operating in waters all around the world must make decisions that are reasonably accepted by world society. Therefore, Ethical guidelines, including accidental algorithms, should be prepared by the International Maritime Organization and reflected their legal system in individual countries. In the entire process from the development stage to the use stage, program developers and stake-holders will have to comply with Ethical standards and respond to Maritime Autonomous Surface Ships’s ethical issue through complementary work based on accumulated information.

#인공지능 #사고알고리즘 #자율운항선박 #윤리적 딜레마 #윤리적 가이드라인

참고문헌 (24)

참고문헌 신청

이윤철 / 2019 / 해상교통법 / 다솜출판사

강준호 / 2017 / 벤담의 공리주의에서 사익 추구와 공익 추구의 조화 / 범한철학 86(3):299~326

김동균 / 2011 / 국제해상충돌예방규칙에 따른 충돌회피 알고리즘에 관한 연구 / 한국지능시스템학회 논문지 21(3):290~295

김성룡 / 2017 / 자율주행자동차의 교통사고 알고리즘에 관한 윤리학적 접근 현황과 그 법적 시사 / IT와 법연구 (15):193~219

박혜리 / 자율운항선박 도입 관련 대응정책 방향 연구

함께 읽어보면 좋을 논문

논문 유사도에 따라 DBpia 가 추천하는 논문입니다. 함께 보면 좋을 연관 논문을 확인해보세요!

이 논문의 저자 정보

장유락

소속기관 한국해양대학교

주요연구분야 사회과학 > 법학 사회과학 > 행정학

논문수 10 이용수 237

최근 본 자료

전체보기

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

초록· 키워드

AI 요약

연구주제

연구배경

연구방법

연구결과

주요내용

목차

참고문헌 (24)

함께 읽어보면 좋을 논문

이 논문의 저자 정보

최근 본 자료

댓글(0)