A Structure of Moral Theory - A Starting Point for Moral Discussions in the Era of Artificial Intelligence -

Mok, Kwangsu

doi:10.15750/chss.73.201908.006

A Structure of Moral Theory - A Starting Point for Moral Discussions in the Era of Artificial Intelligence -

Recommendations

Search

Questions

도덕의 구조 - 인공지능 시대 도덕 논의의 출발점 -

Type: Academic journal

Author: Mok, Kwangsu (서울시립대학교)

Journal: Institute of Philosophy, Seoul National University CHUL HAK SA SANG : Journal of Philosophical Ideas No.73 KCI Accredited Journals

Published: 2019.8

Pages: 163 - 195 (33page)

DOI: 10.15750/chss.73.201908.006

Usage

📌

Topic

📖

Background

🔬

Method

🏆

Result

A Structure of Moral Theory - A Starting Point for Moral Discussions in the Era of Artificial Intelligence -

Abstract· Keywords

Report Errors

In this paper, I propose a systematic framework for how moral discussions on artificial intelligence (hereafter, AI) ought to be presented. To do this, I analyze established ethical theories. From there, I suggest a systematic framework, from "a path of animal ethics" through reinterpretation and expansion of their concepts on the basis of established moral theories, to "a path of ecological ethics" which attempts to establish a new theory of ethics, with a critical viewpoint on the established theories of human-centered ethics. The seemingly convoluted pathways in the framework reflect the dynamic development of AI, from weak AI to strong or super AI. Established moral theories, which pursue a practical purpose, have the common structure of 1st, 2nd, and 3rd person standpoints in form, although they are diverse in content. This is because a moral practice begins from a 2nd person standpoint, responding to a request from the other in the moral community. The situation is understood based on 3rd person moral norms, and is motivated only by the internal reason of normativity from the 1st person standpoint. The current moral discussions on AI such as the artificial moral agent project cannot be applied to this three-person structure in that AI robots do not have a 1st person standpoint and can only follow moral norms from the 3rd person standpoint. For this reason, moral discussions in regards to AI ought to follow "a path of animal ethics," focusing not only on the moral norms of the 3rd person standpoint but also the moral norms for AI designers and programmers. However, if future technological advancements allow for AI robots to meet the structure of moral theories through auto-self learning or if human society is transformed to be de-anthropocentric, a new moral structure and their related contents will need to be constructed.

본 논문은 인공지능 시대의 도덕 논의가 어떻게 제시되어야 하는지에 대한 체계적 틀을 제안하고자 한다. 이를 위해 본 논문은, 기존 도덕의 형식적 구조를 분석하고 이를 통해 인공지능 시대의 도덕이 기존 도덕의 형식적 구조를 수용하는 ‘동물윤리의 길’로부터 도덕 논의를 시작하여 새로운 도덕 구조를 모색하는 ‘생태윤리의 길’로 나아가는 체계적 틀을 제안한다. 왜냐하면, 인공지능은 발전하는 과학기술로서의 동적 특성을 갖고 있으며, 인공지능 시대의 과학기술은 인간의 인식 전환을 초래할 수 있기 때문이다. 본 논문의 분석에 따르면, 실천적 목적을 갖는 기존 도덕 논의들이 다양한 내용과 주장을 담고 있음에도 불구하고, 형식적인 측면에서 1인칭, 2인칭, 3인칭 관점의 체계적 구조를 공통으로 갖고 있다. 왜냐하면, 실천적 목적을 갖는 윤리는 타자의 요구 또는 요청으로부터 시작한다는 점에서 2인칭 관점을 전제하며, 2인칭 관점을 형성하는 도덕 공동체는 3인칭 도덕의 기준을 토대로 판단되는 것일 뿐만 아니라 이러한 과정을 통해 내려진 도덕 판단은 행위자가 도덕적 의무로서 실천하게 하는 1인칭 관점의 동기부여와 규범성을 가져야 하기 때문이다. 이러한 기존 도덕의 구조에서 볼 때, 현재의 과학기술에서 제시되는 인공지능과 관련된 도덕 논의는 3단계 인공적 도덕 행위자 논의가 보여주는 것처럼 완전한 또는 충분한 도덕이 아닌 부분적 도덕에 불과하다. 이러한 ‘동물윤리의 길’에서는 인공지능이 3인칭 관점의 도덕규범에 부합하고 인공지능 개발이나 설계와 관련된 과정에서의 도덕 논의에 초점을 둘 필요가 있다. 그러나 이러한 인공지능 로봇이 자가 학습을 통해 기존의 도덕 구조에 만족하거나 인간 사회가 탈인간중심주의적인 새로운 인식의 전환을 맞게 되어 새로운 도덕 구조와 내용을 모색할 필요가 있을 때는 ‘생태윤리의 길’을 갈 수 있음을 염두에 두어야 한다. 기존 도덕의 구조 분석을 고려할 때, 인공지능 시대의 도덕 논의는 인공지능의 동적발전 과정을 고려한 체계적 논의여야 한다.

#1인칭 관점 #2인칭 관점 #3인칭 관점 #동물윤리 #생태윤리 #인공지능윤리 #the first person standpoint #the second person standpoint #the third person standpoint #animal ethics #ecological ethics #ethics of artificial intelligence

요약문
Ⅰ. 들어가는 글
Ⅱ. 기존 도덕 논의에서의 형식적 구조 분석
Ⅲ. 도덕의 구조 논의와 인공지능 시대의 도덕
Ⅳ. 나오는 글
참고문헌
ABSTRACT

References (42)

Add References

강상진 / 2008 / 아리스토텔레스의 ‘자제력 없음’(akrasia):문제와 맥락 / 서양고전학연구 (33):125~150

강영안 / 2005 / 타인의 얼굴 / 문학과지성사

강준호 / 2013 / 네이글의 행위자-상대성/행위자-중립성 구분에 대한 고찰 / 철학 (114):141~163

김남호 / 2017 / 확장된 자아는 도덕적 주체일 수 있는가? - 행위자로서의 인간인격 - / 철학연구 144:51~82

김재권 / 2006 / 행위에 대한 이해 - 규범성과 행위자의 관점 / 철학사상 (23)

Recommendations

It is an article recommended by DBpia according to the article similarity. Check out the related articles!

Related Authors

목광수

Affiliation 서울시립대학교

Fields Interdisciplinary Studies > Interdisciplinary Research TOP 1% Humanities > Philosophy > General Philosophy

Articles 7 Usage 8,032

Frequently Viewed Together

A Philosophical Reflection on Human Beings in the era of Artificial Intelligence - Focused on the Debates between Kant’s Anthropology and Modern Neuroscience -

Kim , Young-Rye Journal of the New Korean Philosophical Association 2018 .01

Humanistic Brain that Artificial Intelligence can’t Mimic and Artificial Intelligence Challenging Human Ambivalence(Creativity and Limitation)

Kang , Eung-Seob , Baek The Journal of Contemporary Psychoanalysis 2019 .08

인공지능 윤리 이슈, 그리고 전문가 인식 제고

김민정 , 유진호 The Magazine of the IEEE 2019 .10

Artificial intelligence and artificial emotions - Is an emotion robot realizable? -

구분	그룹	데이터 항목
AI 학습용 데이터	원문	원문 PDF 파일
AI 학습용 데이터	원문 + 메타 (기본/상세)	원문 PDF 파일 및 서지정보 CSV
대량 구매용 데이터	B2B 구독 방식	특정 자료 한정으로 원문 접근 권한 부여
대량 구매용 데이터	URL 전달 방식	바로 PDF 뷰어를 열람할 수 있는 URL 제공

구분	그룹	데이터 항목
AI 학습용 데이터	기본 메타	발행기관명, 간행물명, 권호명, 권(vol), 호(issue), 통권, 발행연도, 발행월, 논문명, 저자명, 시작페이지, 종료페이지, 전체페이지, 상세페이지URL
상세 메타 데이터	발행기관 메타	발행기관 이명, 영문명, 창립연도, 홈페이지URL, 발행기관 소개
	간행물 메타	부제목, 간행물 유형, ISSN, ISBN, 최초발행연도, 폐간연도, 간행빈도, 발행주기, 등재사항, 이용수, 피인용수, 권호수, 논문수, 표지이미지
	논문 메타	작성 언어, 부제목, 대등제목, 목차, 키워드, 초록, 이미지, 참고문헌, 이용수, 피인용수, 논문활용도, DBpia통합주제분류, KDC분류, DDC분류, 한국연구재단분류, UCI, DOI
	저자 메타	소속기관, 소속부서, 직급, 연구분야, 연구키워드, 이용수, 피인용수, 저자 논문활용도

구분	그룹	데이터 항목
※ 결합형/맞춤형 메타 데이터는 신청 내용에 따라 다양하게 제공 가능
이용순위 정보	주제분야별 많이 이용된 논문	“인문학”에서 많이 이용된 논문 TOP100
	이용기관별 많이 이용된 논문	“중고등학교”에서 많이 이용된 논문 TOP100
	세부기관별 많이 이용된 논문	“서울대학교”에서 많이 이용된 논문 TOP100
	키워드별 많이 이용된 논문	“Chat GPT”에서 많이 이용된 논문 TOP100
키워드 정보	많이 이용된 키워드	특정기간/분야/저널 내 많이 이용된 키워드
	많이 발행된 키워드	특정기간/분야/저널 내 많이 발행된 키워드
	많이 검색된 키워드	특정기간/분야/저널 내 많이 검색된 키워드
	연구 트렌드 키워드	특정 키워드 연관 연구동향 분석 데이터 키워드

논문 기본 정보

Abstract· Keywords

AI Summary

Topic

Background

Method

Result

주요내용

Contents

References (42)

Recommendations

Related Authors

Frequently Viewed Together

Recently viewed articles

Comments(0)