인공지능과 빅데이터, 사물인터넷 등을 비롯한 최근 과학기술의 눈부신 발전은 제4차 산업혁명으로 지칭될 정도로 인류에게 엄청난 혜택을 가져다 줄 것이 명확하지만, 그 파급 효과가 매우 큰 만큼 그 부작용에 따른 혼란을 방지하기 위해서는 사회 환경의 급격한 변화에 체계적으로 대응할 필요가 있을 것으로 생각된다. 그러한 관점에서 본 연구에서는 고도의 자율성과 학습 능력 및 추론 능력을 지닌 인공지능 로보어드바이저가 해킹되어 시세조종 행위에 이용되는 구체적인 경우를 상정하고, 그러한 상황에서의 법적인 책임 관계를 검토함과 아울러 그러한 사례에 대한 현행 법체계 적용상의 문제점과 이에 대한 제도적 보완점을 제시함으로써, 전자금융 관련 사고에 있어서의 쟁점을 보안 측면에서 민사·형사 상의 실체법 측면으로 확대하여 연구의 폭을 넓히고자 하였다. 아울러, 인공지능 기술의 성숙에 따른 파급 효과에 대한 일반론적인 담론의 수준을 넘어 구체적인 법리관계를 검토하고 이를 바탕으로 현행 법체계에 대한 제도적 보완점을 제시함으로써, 본격적인 인공지능 시대를 준비하기 위한 실질적인 논의가 이루어질 수 있는 기초를 제공하고자 하였다. 해킹범의 경우 민사·형사 상의 엄중한 법적 책임을 부담한다는 점에 의문이 없으나, 피해 회복에 있어서 실질적인 의미를 갖는 로보어드바이저 운용사의 경우에는 현행 법체계에 따르면 평소 해킹 방지를 위한 법규상의 기술적·관리적 보호조치 의무를 준수하고 직원들의 불법행위 방지를 위해 상당한 주의를 기울였을 경우 해킹에 따른 시세조종 행위로 인해 일반 투자자들에게 큰 피해가 발생하더라도 이에 대한 법적 책임을 면할 수 있다. 더군다나 운용사가 법규상의 그러한 보호조치 의무를 위반한 사실이 있는 경우에 있어서도 이에 대한 입증책임을 피해자인 원고가 부담하는 이유로 인해 피해자인 일반 투자자들은 손해배상 절차에 있어서 더욱 취약한 입장에 있다고 할 수 있다. 그러나, 로보어드바이저 운용사의 경우 인공지능 활용을 통해 비용 절감 및 고객 증가 등의 많은 부가가치를 누리는 반면, 시세조종 행위의 피해자에 해당하는 일반 투자자들은 그러한 혜택을 얻지 못하는 상태에서 일방적으로 피해를 입게 되는 것임을 고려하면 이러한 결과를 합리적인 것으로 수긍하기는 어려울 것이다. 고도의 자율성을 지닌 본격적인 인공지능에 대한 법적용을 상정하지 아니한 상태에서 만들어진 현행 법체계로는 로보어드바이저의 활용 증가에 따른 부작용을 방지하고 금융소비자 및 자본시장을 보호하기에 부족하므로 이에 대한 보완책으로서, 개별 로보어드바이저의 운용 상한액 설정, 로보어드바이저 작동 과정에서의 이상거래에 대한 운용사의 신속탐지체계 구축 의무, 로보어드바이저 운용 과정에서 발생한 금융사고에 대한 운용사의 무과실책임 및 손해배상보험의 필요적 가입, 이러한 피해자 보호 관련 규정 위반 행위에 대한 형사처벌 제도 등을 도입할 필요가 있다. 또한, 본격적인 인공지능 시대에 더욱 체계적으로 대응하기 위해서는 인공지능에 관한 포괄적인 기본법을 제정하여, 우리 사회가 인공지능 기술을 수용하고 이와 조화를 이루기 위해 필요한 핵심 가치들에 대한 선언, 지능정보사회에서의 새로운 거버넌스 체계, 인공지능 기술의 발전 및 활용을 장려하기 위한 지원 체계, 인공지능에 의한 부작용 방지를 위한 위험관리 체계, 인공지능 관련 분쟁에 있어서의 이해 당사자들 간의 책임 관계 및 손해배상 체계 등을 규정할 필요가 있을 것으로 생각된다.
While it is clear that the remarkable developments of scientific research and technologies including artificial intelligence, big data and internet of things, frequently referred to as the fourth industrial revolution, will bring about great benefits to the mankind, a systematic measure is required to prevent any side effect as the impact of such developments will be enormous. In this regard, this research suggests a hypothetical case, where a Robo-advisor (equipped with artificial intelligence commanding high level of autonomy, learning ability and reasoning ability) is hacked and abused for a price manipulation, and analyzes legal responsibilities related thereto. Further, this research highlights problems in applying the current legal scheme to such case and suggests measures to supplement such deficiencies. By doing so, this paper intends to expand the scope of research to actual civil and criminal issues in relation to incidents in electronic finance transactions. In addition, rather than involving in general discussions regarding the impact of artificial intelligence technologies, this paper intends to provide grounds for substantive discussions to prepare for an era of a full-scale artificial intelligence, by analyzing detailed legal issues and proposing supplementary measures to the current legal system. It is clear that a hacker is subject to stringent civil and criminal liabilities. However, under the current legal system, it is possible for a management company of a Robo-advisor (which bears more importance in terms of compensation for victims) to avoid legal liabilities, even if severe losses were caused to investors by price manipulation through hacking of the Robo-advisor, if the company has complied with the legal standards of technological and administrative protective measures to prevent hacking and taken appropriate measures to prevent illegal conducts of its employees. Moreover, even if the management company has failed to comply with the legal standards, investors are in a weak position in seeking damages because investors, as the plaintiff, bear the burden of proof. Such consequences cannot be deemed reasonable, considering that the management company of the Robo-advisors gains much benefit from use of the artificial intelligence through cost reduction and increased customers, while investors do not gain any such benefits. The current legal system, enacted without contemplating a case involving artificial intelligence with high level of autonomy, is insufficient to prevent side effects of the Robo-advisors and protect consumers of financial services as well as the capital market itself. Thus, supplementary measures need to be introduced; examples of such measures include: setting a limit to the amount that can be managed by each Robo-advisor, imposing on the management company the obligation to immediately detect irregular transactions in the operation of Robo-advisors, strict liability and mandatory insurance for financial accidents involving use of Robo-advisors, and criminal penalties for non-compliance of said protective measures. Also, in order to systematically respond to the era of a full-scale artificial intelligence, it will be necessary to enact a framework statute regarding artificial intelligence and agree upon the core values for the society to accept and harmonize with the artificial intelligence technologies. In addition, new governance system for intelligence and information society, supporting system to promote the use and development of artificial intelligence, risk management system to prevent side effects of artificial intelligence, and legal responsibilities and damages claim system among interested parties in disputes relating to artificial intelligence are other measures that should be implemented. Key words: The fourth industrial revolution, artificial intelligence, robo-advisor, autonomy, hacking, price manipulation, immediate detection of irregular transaction, strict liability, mandatory insurance for damages claim, intelligence and information society.
1장. 서론 11절. 연구의 배경 12절. 연구의 목적, 범위 및 구성 132장. 로보어드바이저의 활용 현황 171절. 로보어드바이저에 대한 개관 171. 로보어드바이저의 개념 172. 로보어드바이저의 유형 193. 유사 개념과의 구별 212절. 로보어드바이저에 혁신 가치를 부여하는 기술적 요소 231. 인공지능 딥러닝 232. 빅데이터 323. 인공지능과 빅데이터의 결합 효과 423절. 각국의 현황 441. 미국의 경우 442. 유럽의 경우 563. 우리나라의 경우 614절. 로보어드바이저에 대한 종합적인 평가 851. 장점 및 기대효과 852. 단점 및 예상위험 883. 소결 903장. 시세조종 행위에 대한 법적 규율 911절. 서언 912절. 유형별 규제 921. 위장매매 922. 매매유인 목적 행위 953. 시세의 고정?안정 행위 994. 연계 시세조종 행위 1003절. 손해배상책임 1021. 의의 및 요건 1032. 손해배상의 범위 1054절. 증권관련 집단소송 1071. 의의 1072. 소제기 및 소송허가 절차 1083. 소송절차 1104. 분배절차 1115. 집단소송 관련 벌칙 1136. 활용 현황 및 한계 1135절. 형사책임 1161. 보호법익 및 법정형 1162. 이익의 산정 방법 1173. 시세조종 행위의 공범관계 1196절. 소결 1204장. 해킹에 의한 시세조종 행위 발생시의 법적 책임 및 제도적 보완점 1231절. 서언 1232절. 해킹범의 법적 책임 1231. 민사책임 1232. 형사책임 1253절. 로보어드바이저 운용사의 법적 책임 1281. 민사책임 1282. 형사책임 1444절. 인공지능의 책임 주체성 인정 여부 1481. 논의의 배경 1482. 책임 주체성을 인정하려는 입장 1483. 책임 주체성을 부정하려는 입장 1504. 소결 1515절. 개별적인 보완점 1521. 검토의 범위 1522. 피해 발생 규모의 최소화를 위한 제도적 장치 도입 1533. 로보어드바이저 운용사의 무과실책임 도입 1554. 손해배상보험 의무가입제도의 도입 1585. 형사처벌의 부분적인 도입 1606절. 인공지능 시대에 대한 체계적인 준비의 필요성 1621. 기존 법체계로는 수용하기 어려운 혁신적인 변화 1622. 인공지능에 관한 외국의 최근 정책 방향 1653. 국회에 계류중인 지능정보사회기본법안 검토 1735장. 결론 182<부록1> 로보어드바이저에 대한 해킹 가능성 1851절. 정보 보안의 기본 개념 1852절. 암호시스템 1861. 기본 개념 1862. 대칭키 암호시스템 1893. 공개키 암호시스템 1954. 소결 2013절. 스푸핑(Spoofing) 공격 2021. 기본 개념 2022. ARP(Address Resolution Protocol) 스푸핑 2023. IP(Internet Protocol) 스푸핑 2054. ICMP 리다이렉트 공격 2075. DNS(Domain Name System) 스푸핑 2094절. 웹에 대한 공격 2121. 웹(World Wide Web) 서비스의 기본 구조 2122. 웹 스캐너에 의한 취약점 검색 2163. 웹 프록시를 통한 패킷 변조 2184. OWASP 발표 웹 취약점 2215절. 메모리에 대한 공격 2231. 시스템 메모리의 기본 구조 2232. 버퍼 오버플로우 공격 2253. 포맷 스트링 공격 2276절. 리버스 엔지니어링 공격 2291. 기본 개념 2292. 디컴파일러와 디스어셈블러 2303. IDA Pro 2314. BinNavi 2347절. 인공지능에 특화된 최신 공격 기법 2368절. 소결 240<부록2> 지능정보사회기본법안 242<참고문헌> 262